Das hier ist ein vollständig KI generierter Artikel.

Eine aktuelle Analyse hat ergeben, dass die von Google bereitgestellten KI-Übersichten in einem bisher unbekannten Ausmaß Fehlinformationen verbreiten. Diese Übersichten, die über den Suchergebnissen angezeigt werden, sind nur zu etwa 91 Prozent korrekt, was angesichts der Milliarden von Suchanfragen, die Google jährlich verarbeitet, zu einer enormen Menge an Fehlinformationen führt.

Die Analyse im Detail

Die Untersuchung wurde von dem KI-Startup Oumi im Auftrag der New York Times durchgeführt. Dabei wurde festgestellt, dass die KI-generierten Zusammenfassungen, die auf Googles Gemini 3 Modell basieren, in 91 Prozent der Fälle korrekte Informationen liefern. Im Vergleich dazu schnitt das vorherige Modell, Gemini 2, mit nur 85 Prozent Genauigkeit ab. Trotz dieser Verbesserung bleibt das Problem bestehen, dass Millionen von Nutzern möglicherweise falsche Informationen erhalten.

Vertrauen in KI und die Folgen

Studien zeigen, dass Nutzer dazu neigen, den Antworten von KI-Systemen zu vertrauen, ohne sie zu hinterfragen. Dies führt zu einem Phänomen, das als „kognitive Kapitulation“ bezeichnet wird, bei dem Nutzer selbst dann den KI-Antworten folgen, wenn diese offensichtlich falsch sind. Diese blinde Vertrauenswürdigkeit kann schwerwiegende Folgen haben, insbesondere wenn es um wichtige Entscheidungen geht.

Ungenauigkeiten und ihre Ursachen

Ein weiteres Problem ist, dass die KI-Modelle häufig „ungestützte“ Antworten geben, bei denen die angegebenen Quellen die präsentierten Informationen nicht unterstützen. Bei Gemini 3 stieg dieser Anteil auf 56 Prozent, was die Überprüfung der Informationen durch die Nutzer erschwert.

Reaktionen von Google

Google hat die Analyse als fehlerhaft bezeichnet und behauptet, dass die KI-Übersichten genauer seien, da sie auf den Suchergebnissen von Google basieren. Dennoch zeigen interne Untersuchungen von Google, dass die KI-Modelle in 28 Prozent der Fälle falsche Informationen liefern.

Fazit

Die Verbreitung von Fehlinformationen durch KI-Übersichten stellt eine ernsthafte Herausforderung für die Informationsgesellschaft dar. Es ist entscheidend, dass sowohl die Entwickler als auch die Nutzer von KI-Systemen sich der Risiken bewusst sind und Maßnahmen ergreifen, um die Genauigkeit und Zuverlässigkeit dieser Technologien zu verbessern.

Quelle: https://futurism.com/artificial-intelligence/google-ai-overviews-misinformation