Google-Halluzinationen: Ungarn fängt mit H an und "aktuelle" Covid-Einreisebestimmungen

Ungarn ist laut der Generative AI von Google mitunter ein Land, das auch Holland genannt wird. Diesen seltsamen Fehler hat der Mastodon-Nutzer Heiko Does entdeckt, als er nach Ländern suchte, die mit dem Buchstaben H beginnen. 

Wir können das Ergebnis nur noch in Teilen nachstellen, denn in manchen Fällen ist die Suche von "Land mit H" gesperrt. Bei englischen Einstellungen gäbe es angeblich keine KI-Suchergebnisse. Es gibt aber Buchstaben, bei denen die englische Suche mit deutscher Abfrage trotzdem funktioniert.

Erst eine Umstellung auf die deutsche Suchregion liefert bei uns zumindest den Fehler, dass Ungarn mit H anfängt (EN: Hungary). Auf Ungarisch heißt das Land übrigens Magyarország, würde also mit M anfangen. Google listet das Land aber nicht unter dem Buchstaben M.

Der Fehler erinnert an ein Problem aus dem Jahr 2024. Google gelang es damals nicht, Länder in Afrika zu listen, die mit einem K anfangen. 

Das Problem ist aber komplexer. Denn es hängt nicht nur von der Sucheinstellung ab. Auch die Formulierung hat Einflüsse. Bei "Liste alle Länder mit H am Anfang auf" wird Ungarn genannt. Bei "Liste alle Länder mit H auf" bleiben nur noch Haiti und Honduras übrig sowie der Hinweis, dass Hong Kong eine Sonderverwaltungszone und kein Land ist. 

KI-Falschinformationen können Jahre anhalten

Nach Erfahrungen von Notebookcheck.com ist die KI-Anzeige durchaus vielen Fällen hilfreich. Problematisch ist aber die hohe Fehlerquote, die wir in der Praxis in den letzten Wochen festgestellt hatten. Ähnlich wie bei ChatGPT hat sich Google dazu entschieden, bei ungesicherten Informationen lieber falsche Informationen, statt gar keine Informationen zu präsentieren. 

Wenn Google Falschinformationen verbreitet, dann liegt die KI gerne einmal komplett daneben. Jüngst erklärte uns Google bei der Einreise in das Land Vietnam etwa, dass eine Einreisekarte (Arrival Card) und unbedingt ausgefüllt werden muss. Im Deutschen wird das vergleichsweise allgemein gehalten. "Für die Einreise nach Vietnam müssen Reisende eine Einreisekarte (Arrival Card) ausfüllen, die entweder im Flugzeug oder am Ankunftsflughafen verteilt wird".

Im Englischen ist die Suche spezifischer: "Yes, all foreign passengers arriving in Vietnam, including those with e-visas or visa exemptions, are required to complete an arrival card. This form, often referred to as the Entry and Exit Form (M3)". Das Problem: Erstens müssen bei weitem nicht alle eine Einreisekarte abgeben und zweitens wurde das Formular M3 bereits durch das Formular NA1 ersetzt. Konkret darauf befragt wird Google etwas präziser: "The NA1 form in Vietnam is the Entry and Exit form, also known as the Vietnam Visa Application form, which foreign nationals need to fill out when entering Vietnam.". Im Deutschen verbreitet Google etwas andere Informationen: "Das Formular NA1 ist das Einreiseformular für Vietnam, das von allen ausländischen Staatsangehörigen, die auf dem Luftweg einreisen, benötigt wird." 

Google spricht im Weiteren von einem Pflichtformular, was allerdings falsch ist. Wer einen deutschen Reisepass hat und unter 45 Tagen in Vietnam bleibt, braucht in der Regel (Stand 26. Juni 2025) kein Visum und weder ein M3- noch ein NA1-Formular.

Übrigens verweist Google sowohl im Englischen als auch im Deutschen darauf, dass Einreisende ihren Gesundheitsstatus angeben müssen: "Ab dem 7. März 2020 ist es verpflichtend, vor der Einreise nach Vietnam eine Online-Gesundheitserklärung abzugeben." Die Quelle ist eine Mitteilung der vietnamesischen Botschaft aus dem Jahr 2020 mit dem Verweis auf Sars-Cov2/Covid-19. Auch für Südkorea gibt Google an, dass eine Gesundheitserklärung noch immer notwendig ist. Das zeigt, dass Falschinformationen sich bei Google mitunter Jahre halten können und verbreitet werden.

Hier ist zu kritisieren, dass Google sich überhaupt daran versucht, derart schwierige Informationen zu verbreiten. Einreisebestimmungen ändern sich oft und sind mitunter sehr versteckt auf den Webseiten der jeweiligen Länder zu finden. Wer sich auf derartige Informationen verlässt, bekommt mitunter an der Grenze ein Problem und wird zum Opfer von Googles Experimenten.

Vor allem bei technischen Themen oder beim ÖPNV fielen uns weitere Fehler. Auf die Frage, ob man ein Handyticket im Zug kaufen kann, antwortet Google etwa so: "Ja, es ist grundsätzlich möglich, ein Handy-Ticket im Zug zu kaufen, aber es ist wichtig, den Kauf vor dem Einsteigen abzuschließen." Wenn man also im Zug ist, aber noch nicht in diesen eingestiegen ist, dann ist der Kauf in Ordnung. Die richtige Antwort wäre, dass dies in der Regel nicht möglich ist.

Wer nur den ersten Satz wahrnimmt, der begeht schlimmstenfalls eine Straftat. Das ist allerdings abhängig vom Verkehrsbetrieb und wird in der Regel strafrechtlich nicht verfolgt. Dieselbe Frage mit einem Bus gibt übrigens den Hinweis, dass man ein Handyticket auch beim Fahrpersonal erwerben kann. Das wird ein Busfahrer aber wohl kaum tun. Bei der Straßenbahn gibt Google an, dass man in der Regel Handytickets im Zug kaufen darf, sich aber wegen regionaler Unterschiede informieren sollte. Die Ergebnisse sind mitunter nicht konsistent und von Nuancen der Fragestellung abhängig.

Für unseren Geschmack ist die Fehlerrate viel zu hoch. Einen Spam-Filter mit einer derartigen Quote an False-Positives würden wir sofort abschalten. 

Problematisch an der KI-Suche von Google ist, dass der Hinweis, dass die Suchergebnisse Fehler enthalten können, versteckt wird. Man muss erst auf die erweiterte Schaltfläche für weitere Informationen klicken, um den Hinweis samt Link darauf zu erhalten. Und selbst dann muss noch einmal auf einen weiteren Link geklickt werden, um tatsächlich an die Informationen zum experimentellen Status zu kommen. Die Wahrscheinlichkeit, dass jemand so weit sucht, dürfte eher gering sein.

Eine Liste von zahlreichen, teils sehr lustigen, teils aber auch sehr kritischen Google-AI-Suchergebnissen hat Tom's Hardware am 25. Mai 2025 aufgestellt. Die meisten Ergebnisse sind allerdings entweder korrigiert worden, oder von der KI-Suche ausgeschlossen worden. Jedenfalls konnten wir die Suchen nur noch selten nachstellen. Google korrigiert also durchaus, allerdings gibt es oft eine längere Phase der Falschinformation. Insbesondere Fehler, die ein größeres Publikum erreichen, werden offenbar schnell korrigiert.

Mit genug Hintergrundwissen lässt sich eine Falschinformation der KI-Suche normalerweise schnell erkennen, doch hier liegt ein Grundproblem, denn nicht jeder hat dieses Wissen. Insbesondere, wenn man außerhalb seines eigenen Wissenshorizonts sucht, stellt das ein Problem dar.

Die Gesellschaft ist für die KI kaum vorbereitet

Die Verbreitung von KI für die Masse, wie es Google tut, stellt daher ein grundsätzliches Problem dar. Den oft richtigen Ergebnissen stehen einige falsche Ergebnisse gegenüber, die dasselbe Vertrauen erhalten könnten, wie die richtigen. 

Dass dies ein Problem darstellt, stellte jüngst eine Studie von EY fest (AI Sentiment Index 2025). In 15 Ländern wurden 15.000 Menschen befragt, ob sie die KI-Suchergebnisse überprüfen. Die Aussage "Ich muss KI-Ergebnisse überprüfen, um ihre Genauigkeit und Zuverlässigkeit sicherzustellen" traf in Deutschland nur auf 27 Prozent der Befragten zu. In Südkorea lag diese Quote immerhin bei 42 Prozent. 

Die Zahlen sind mit Vorsicht zu genießen, denn Südkoreaner sehen sich von der KI am schlechtesten verstanden. Nur 61 Prozent glauben, dass die KI sie versteht, was den letzten Platz darstellt. In Deutschland liegt die Quote bei 80 Prozent (1. Platz). Die Unterstützung der Sprachen durch die KI-Systeme ist vermutlich ein Faktor. Die Studie ist zudem vermutlich nicht repräsentativ. Normalerweise gibt EY dies an, wenn das der Fall ist.

Interessant sind die Zahlen dennoch, da sie so starke Ausschläge zeigen. Gleichzeitig gibt es der Studie zufolge große Sorgen vor der Verbreitung von Falschinformationen durch KI. Den Befragten ist also die Problematik bewusst, was trotzdem nicht dazu führt, dass sie ihre Ergebnisse verstärkt kontrollieren. Ein spannender Widerspruch.

Die Menschen müssen sich an die neue Situation meist noch gewöhnen. Wie bei vielen neuen IT-Themen haben die wenigsten das notwendige Wissen für den Umgang mit der Künstlichen Intelligenz in der Schule gelernt. Vielmehr bringen sich die Anwender dieses Wissen selbst bei, indem es in der Praxis ausprobiert wird. 

Technische Besonderheiten der Google-Suche dürften zudem vielen verborgen bleiben. So lässt sich eine Suchabfrage auch ohne KI-Unterstützung durchführen. "Länder mit H -ki" (alternativ -ai) unterbindet eine KI-Suche.