Irrtum der Google KI: Tsunamiwarnung nach Erdbeben in Japan zu früh beendet

Ein starkes Erdbeben erschütterte am Abend des 8. Dezember die Region Hachinohe in der Präfektur Aomori, Japan. Der japanische meteorologische Dienst löste daraufhin eine Tsunamiwarnung aus. Die Warnung wurde erst am frühen Morgen des 9. Dezember um 2:45 Uhr Ortszeit aufgehoben und in eine Handlungsempfehlung umgewandelt. 

Ein Vorfall während der Ereignisse zeigt deutlich, dass Google weiterhin an den KI-Zusammenfassungen der Suche arbeiten muss. Ein Reporter des Asahi Shimbun suchte gegen 2:10 Uhr nach Informationen über den aktuellen Stand der Tsunamiwarnungen. Sowohl die KI-Zusammenfassung in Googles Suchmaschine als auch Google Gemini lieferten in ihren jeweiligen Antworten prompt die Auskunft, dass alle Warnungen bereits aufgehoben seien, wie Asahi Shimbun berichtet. Diese Information erwies sich jedoch als falsch, da zu diesem Zeitpunkt noch immer Tsunamiwarnungen in mehreren Präfekturen Japans galten. Potenziell könnte eine solche Falschaussage der KI Menschenleben ernsthaft gefährden.

Der Vorfall verdeutlicht die Herausforderungen und potenziellen Risiken bei der Nutzung von KI zur Bereitstellung von Echtzeitinformationen, insbesondere in Notfallsituationen. Während KI-Systeme beeindruckende Fähigkeiten zeigen können, sind sie nicht in der Lage, stets zuverlässige und aktuelle Informationen zu liefern, wenn es um dynamische Ereignisse wie Erdbeben und die damit verbundenen Warnungen geht. AI-Slop und Halluzinationen müssen in Gefahrensituationen absolut unterbunden werden.

Da Googles Übersicht mit KI nur nach bestimmten Trigger-Wörtern angezeigt wird (siehe Google-Suche "Best Weihnachtsbaum" vs. "Weihnachtsbaum") sollte man bei Google eventuell auch überlegen, nach bestimmten Wörtern auf keinen Fall eine KI-Zusammenfassung zu liefern. Auch Gemini hätte in dem Fall wohl besser auf andere Quellen hingewiesen, anstatt selbst eine Antwort zu liefern.