KI erfindet jede dritte Antwort [0]. Das hat jetzt eine Studie [1] der Europäischen Rundfunkunion rausgefunden. Alles finden die raus!
>Das erschreckende Ergebnis: ChatGPT, Claude, Gemini und andere Chatbots erfinden bis zu 40 Prozent ihrer Antworten und stellen sie als Fakten dar.
Kommt mir das nur so vor, oder ist bereits das eingetreten, was einige vor ein paar Jahren vorausgesagt haben: Wir haben Peak KI bereits überschritten, weil das Trainingsmaterial ausgeht und die KI jetzt nur noch auf ihrem eigenen (oder von anderen LLMs) generierten KI-Müll trainiert wird, weil es mittlerweile kaum noch was anderes gibt im Netz? Wie nannten sie das? KI-Demenz? [2] (Vorsicht: Link geht zum Hannoveraner Pressemitteilungsabdruckdienst)
Tolle Sache, dieses KI!
>Die KI reimt sich fehlende Informationen zusammen, indem sie statistisch plausible Wortketten generiert - auch wenn diese faktisch falsch sind. Sie erfindet dann mitunter sogar Quellen, die nicht existieren, oder verknüpft Fakten, die nicht zusammengehören.
Was soll auch anderes dabei herauskommen, wenn man letztlich an eine Markov-Kette ein neuronales Netz dranflanscht?
[0] https://www.tagesschau.de/wissen/technologie/kuenstliche-intelligenz-fakten-100.html
[1] https://www.ebu.ch/Report/MIS-BBC/NI_AI_2025.pdf
[2] https://www.heise.de/news/Kuenftige-KI-Modelle-potenziell-von-Demenz-bedroht-9209900.html