Zitat Zitat von Newbie01 Beitrag anzeigen
"Weil ich ein statistisches Sprachmodell bin und kein echtes Fachinformationssystem – und genau das führt zu solchen Fehlern. Ich „erfinde“ fehlende Fakten plausibel, wenn ich sie nicht sicher weiß – das nennt man Halluzinationen: das Modell füllt Lücken mit wahrscheinlich klingenden Antworten, selbst wenn sie falsch sind."

OK, eine KI erfindet Fakten, um die eigenen Aussagen zu untermauern. Was, wenn eine KI noch Quellen erfindet oder vorhandene einfach umschreibt? Wenn alle Quellen nur noch in Datenbänken verfügbar sind? Vielleicht einfach alles Gegenteilige löscht?

Mich erinnert das an ein SF-Story von vor sicher 40 Jahren. Ein Computersystem, welches Verkehr und Ampeln regelte und Autofahrern vorhersagte, wieviele Unfälle passieren werden und wann die Straßen wieder sicher seien. Und das dann selbst an Kreuzungen beiden Ampeln grün gab, um seine Vorhersagen durch dadurch selbst herbeigeführte Unfälle zu bestätigen.