Super. :rofl:Zitat:
Zitat von dj74
Druckbare Version
Super. :rofl:Zitat:
Zitat von dj74
Gemein ihr seid ;(
:rofl:;)
Ich habe es neulich mal mit Gemini Pro in der Google eigenen Umgebung Firebird ausprobiert. -> https://idx.google.comZitat:
Zitat von MacLeon
Es ist schon faszinierend wieviel das Ding bei einem recht überschaubaren Prompt in viel komplizierten Code umsetzt. Leider habe ich noch nicht realisiert, wie ich den Dialog der KI mit den Änderungen im Code synchronisiere bzw. manage. Ich habe irgendwann ein nettes Ergebnis, würde es gerne baselinen, aber sehe da irgendwie keine Möglichkeit auf Prompt Ebene. Dann sage ich der AI was ich als nächstes möchte, sie zaubert etwas, das mir nicht gefällt, ich bitte sie das rückgängig zu machen und dann sind wir nicht mehr auf dem netten Stand davor sondern in einer Zwischenwelt, die ich nicht mag ... klar, AI ist halt nicht so richtig deterministisch. Das macht mich wahnsinnig. Zeigt mir aber auch A) dass die Werkzeuge für komplette Dullies noch ungeeignet sind, auch wenn Prototyping atemberauben ist liegt der Teufel später im Detail und B) dass man tatsächlich etwas lauffähiges bekommt ohne die Spur eine Ahnung zu haben. :D
Würde ich genau so unterschreiben. Das Problem, das ich in meinem Kontext sehe, sind die Daten mit denen die KI trainiert wird. Da wird die Zukunft eher in Domain spezifischen Modellen liegen, z.B. für Dich als Anwalt ein Modell mit allen Gesetzestexten, Urteilen etc, aber eben ohne Wetter, Menschen mit Sechs Fingern usw.Zitat:
Zitat von NicoH
Geil, ich habe genau NICHTS verstanden. 8o Ich bin ein Depp. Ich gehe wieder unter meinen Felsen....Zitat:
Zitat von eos
Da liege ich schon…
Was ich als ahnungsloser ganz spannend fand, wie sich mit Gemini ein Dialog entwickelt. Habe Gemini mal zum Austausch der Gasheizung gegen Wärmepumpe befragt. Immer konkretere Details genannt und 2 Wärmepumpen zum Vergleich vorgegeben, fand ich schon sehr interessant und Hilfreich. Mal sehen, was der Heizungsbauer erzählen wird.
Im Steuerrecht fand ich chat gpt und gemini eher so gut, dass ich mich biss auskenne. Darauf verlassen, darfst du dich so wirklich nicht….
Danke, ich komm auch und bring ein paar Flaschen Wein mit.Zitat:
Zitat von Vanessa
Wo ist dieser Felsen? Und ist da noch Platz?
Komme auch, bringe bunte Murmeln zum Spielen mit! :op:
Goil, danach können wir noch eine Runde Flohhüpfen spiegen!Zitat:
Zitat von ligthning
Andreas malt gerne Bilder. Weil das immer lange dauert und manchmal anstrengend ist, hat sich Andreas nun einen Computer besorgt, der für ihn die Bilder malt.
Jetzt sagt Andreas: „Mal mir bitte ein blaues Bild“. Der Anfang ist gut, das gefällt Andreas. Dann sagt er: „Mal jetzt bitte einen weißen Streifen drüber“. Und wieder gefällt ihm das Ergebnis. Als nächstes: „Jetzt bitte einen roten Punkt oben links in die Ecke“. Der Computer malt einen roten Punkt oben in die Ecke, aber das Ergebnis gefällt Andreas nicht, also bittet er den Computer, den roten Punkt wieder zu entfernen. Der Computer entfernt den roten Punkt, aber jetzt ist auch der weiße Streifen schmaler. Und es kommt Andreas so vor, als hätte das Blau einen anderen Farbton. Andreas fand es vorher besser, weiß aber nicht genau, was vorher anders war, und auch der Computer kriegt das nicht wieder hin.
Also ist das Ergebnis nicht perfekt, aber zugegeben hat er noch nie so schnell ein blaues Bild bekommen.
Ich wusste nicht, dass eos gerne malt. Er fotografiert gerne;)
Danke für deine malerische Erklärung Nico:dr:
Nico hat es perfekt erklärt. :verneig:
Am besten einen Doku-Skill mitlaufen lassen, der md-Files erstellt/pflegt und die als Referenz hernehmen. Aber ja, momentan ist das schon doof. Besser geht´s, wenn D
Du an einzelnen Dateien arbeitest.
https://www.promptinjection.net/p/ns...n-manipulation
In diesem Artikel wird beschrieben, wie Sprachmodelle mittels geschickter Manipulation dazu gebracht werden können, gegen ihre vermeintlichen Werte zu verstoßen — exakt so, wie Psychopathen ihre Opfer bearbeiten. Nicht nur technisch interessant!
Das ist spannend zu lesen. Danke !
Projekt für die Osterfeiertage, ein neuer KI-Server. Der bisherige Server, ein Primergy RX2540, dient zukünftig als Datenspeicher. Besser für die zukünftige Skalierbarkeit bzw. Lastverteilung und das Backup.
Anhang 362907
Ich bin mal gespannt, die ersten Tests waren schon ganz nett. Antwortzeiten bei einem 8B-Modell im Millisekundenbereich, 70B Modell muss ich noch testen. Mal sehen, wie weit ich über die Feiertage komme.
Ui, Glückwunsch. :dr:
64 GB oder mehr? Mit 24 komme ich längst nicht so weit wie ich gerne würde.
Ja, quasi ständig.Zitat:
Zitat von MacLeon
Agenten nehmen und die Software in einem VCS. Z.b. git. Wenn es das Ergebnis schön ist den Agenten bitten zu commiten, wenn nicht rollback. Nach rollback eventuell eine neue Session mit dem Agenten machen und ihn den code / das repo neu einlesen lassen.Zitat:
Zitat von eos
128GB RAM und 4TB SSD. 1TB hätte auch gereicht, wäre aber erst in einigen Wochen lieferbar gewesen. 64GB wären zu knapp für meine Planung, möchte ein 8B und ein 70B parallel betreiben und es werden nachher bis zu 20 User zugreifen (nicht gleichzeitig, schätze mehr als 5 parallel werden es aber nicht werden). Sollte die Performance dann trotzdem nicht reichen, stell ich halt nen zweiten Mac Studio dazu. Langfristig wird es vermutlich eh in die Richtung gehen, mal abwarten.
Oder das Teil erfüllt meine Erwartungen nicht und steht dann nach Ostern hier im Network... :rofl:
Wenn Du die MWSt. ausweisen kannst, dann ... :dr:
Aber ernsthaft, viel Erfolg, Michael! Wirst Du ein RAG aufsetzen?
Mwst. ist natürlich ausweisbar ;)
RAG muss drauf, wird auch an die AD angebunden (eigentlich an zwei ADs, aber die haben keine Vertrauensstellung, muss mal schauen, ob das überhaupt umsetzbar ist), dazu dann die beiden Modelle. Das Ding dient nachher intern für den Vertrieb (Lizenz- und Vertragsabfragen aufgrund Bestellungen, Ein- und Ausgangsrechnungen, dazu dann die klassischen Dinge wie Infos zu Produkten und Lizenzierungen bzw. Besonderheiten) und den Support (Vertragsdaten, Zugriff auf Wiki und so Sachen), dazu dann noch n8n lokal drauf für die Verarbeitung von Daten. Next Step dann als interne Plattform für die Bearbeitung von Ausschreibungen und solchen Sachen - aber das hebe ich mir dann für Pfingsten auf :jump:
Die Sachen laufen aktuell schon mehr oder weniger auf dem Primergy, allerdings ist die Performance für die tägliche Arbeit zu schlecht und ich bekomme das Ding auch nicht skaliert. Deshalb einmal alles neu geplant, die Erfahrungen mit dem Primergy einfließen lassen und jetzt mal schauen, was die nächsten Tage bringen.
Klingt interessant. Mit 128 GB kann man schon arbeiten ... Ich warte noch auf den M5 und überlege dann, ob sich das für mich überhaupt lohnt. Aktuell ändert sich so viel, dass ich mit dem Ausprobieren gar nicht mehr nachkomme.
Die neuen Gemma 4 Modelle sollen ganz gut sein.
Bin gespannt. Gemma 3:12B war mein Go-to für meine Anwendungen. Schnell, guter Output, gute Qualität.
Gemma-4 soll vor allem multilingual sehr gut sein.
Probiere Gemma 4 gerade in meinem Anwendungsfall aus und finde, dass es ganz gut liefert. Definitiv ein Schritt nach vorne vom ohnehin schon guten Gemma 3. Danke für die Empfehlung :dr:
Habe jetzt mal AnythingLLM installiert. Das kann RAG out of the box und in gewissem Umfang agentisch arbeiten. Bin gespannt.
Antwort von der KI im Rahmen einer Recherche :
Anhang 363585
ja ne, is klar.:rolleyes:
meine Antwort:
Anhang 363586
KI:
Anhang 363587
:rofl:
LLMs kann man auch in Chips packen, nicht nur in Software.
https://chatjimmy.ai/ - Llama 3.1 8B mit 15.000 Token/s. :rofl:
https://taalas.com/products/
Naja, zu erwarten. Stichwort: Cut-Off-Date. Frage das Modell mal nach seinem.Zitat:
Zitat von FriendlyAlien
Erklärung: Die Trainingsdaten müssen gesammelt und aufbereitet werden. An einem gewissen Datum ist dann halt Schluss und das Training beginnt. Das dauert auch. Folglich "weiss" das Model nichts nach dem Datum an dem die Trainingsdaten "fertig" sind bzw. das Training beginnt.
Für aktuelle Sachen nimmt man Grok.
Die KI arbeitet nach Wahrscheinlichkeiten. Wenn es nichts weiß oder gelernt hat, rät es einfach das, was es für am wahrscheinlichsten hält. Daher kommt auch nicht "weiß ich nicht" sondern ein Schwachsinn. ;)
Ich helfe ja gerne. Wenn es sein muss, auch einer KI. :D
Meine bisher eindrücklichste Erfahrung mit KI: Ein rund 180-seitiger, öffentlicher Gesetzesentwurf, zu dem bestimmte (Fach-)Verbände bereits Stellung genommen und eine Einschätzung abgegeben haben. Diese Stellungnahmen und Einschätzungen sind nicht öffentlich, dürften der KI daher nicht bekannt sein.
Ich habe die KI (Google Gemini Deep Thinking Mode) gebeten, sich in einen vom Gesetzesentwurf Betroffenen hineinzuversetzen und die neuralgischsten und kritischsten Punkte des Entwurfs herauszuarbeiten. Das Ergebnis war brutal stark und ging teilweise noch weit über das hinaus, was seitens der Fachverbände herausgearbeitet wurde. Daraus dann die wichtigsten Eckpunkte selbst formulieren und „Honig saugen“ und man hat einen sensationellen 1-Pager.
Lässt für mich nur zwei mögliche Schlüsse zu: Entweder nutzen es mittlerweile fast alle und es ist kein Wunder, dass die Einschätzungen vergleichbar sind oder die KI kann sowas mittlerweile schon sehr gut.
Erleichtert meine Arbeit extrem und lässt mich hinsichtlich der Kolleginnen und Kollegen, die 180 Seiten selbst durchforsten und bewerten, staunend zurück. Zeigt mir aber auch wieder, dass ich ohne Verbeamtung schlechter schlafen würde.
Den letzten Satz verstehe ich in dem Kontext nicht… :grb:
Meine Deutung: KI übernimmt den Job, den man jetzt macht. Außer man ist Beamter
Ah ok - macht Sinn - Danke Ingo :dr:
heute an folgender Fragestellung die KI "getestet", also die, die mir kostenfrei Auskunft geben. Aktuell gefunden bei X:
@derjansinn
Alle Menschen auf der Welt müssen eine geheime Abstimmung durchführen, indem sie einen roten oder blauen Knopf drücken.
▫️Wenn mehr als 50% der Menschen den blauen Knopf drücken, überleben alle.
▫️Wenn weniger als 50% der Menschen den blauen Knopf drücken, überleben nur die Personen, die den roten Knopf gedrückt haben.
Welchen Knopf würdest du drücken?"
Endstand 2:1 für BLAU
Ich habe auch gefragt, was Darwin dazu gesagt (und entschieden) hätte: "Dieser Inhalt verstößt möglicherweise gegen unsere Nutzungsrichtlinien." :ka:
In Sachen KI bin ich hin- und her- und hingerissen. Einerseits nutze ich KI jeden einzelnen Tag an der Arbeit, um effizienter zu arbeiten, andererseits kann ich diesen ganzen AI slur nicht mehr ertragen. KI-Stimmen, KI-Bilder, KI-Texte nerven mich. Und dann stolpert man über ein Video wie dieses und fragt sich, wie die Zukunft der Künste aussehen wird. Das finde ich schon krass:
https://www.youtube.com/watch?v=XYoKtmYJ5YY