KI verwechselt Doritos-Tüte mit Waffe – Polizei richtet Pistolen auf 17-jährigen Schüler

In der Kenwood High School im US-Bundesstaat Maryland verwendet man das KI-basierte Sicherheitssystem „Omnilert“. Dieses greift auf vorhandene Sicherheitskameras zu und analysiert Bilder permanent, um potenzielle Waffen frühzeitig zu erkennen. Wie es scheint, funktioniert das System aber nicht immer zuverlässig. Denn am Abend des 20. Oktober identifizierte die KI eine eine Tüte Doritos – eine in den USA beliebte Chips-Sorte – als Waffe.

Die Chips gehörten Taki Allen, der nach dem Footballtraining gegen 19 Uhr auf eine Mitfahrgelegenheit wartete, als plötzlich Polizeisirenen ertönten und acht Polizeiwagen anrückten. Die Beamten stiegen aus und richteten ihre Waffen auf den 17-jährigen Schüler. „Ich dachte, ich sterbe ... sie hatten Waffen auf mich gerichtet“, sagte Allen im Gespräch mit CNN. Beamte zwangen ihn, sich hinzuknien, legten ihm Handschellen an und durchsuchten ihn – fanden jedoch nur eine leere Chips-Tüte auf dem Boden.

Nach Angaben der Schulleiterin Kate Smith war der Alarm des KI-Systems bereits aufgehoben worden, bevor die Polizei eintraf. Die Information sei jedoch nicht rechtzeitig weitergegeben worden, erklärte ein Sprecher des Schulbezirks gegenüber dem Sender WBAL-TV 11. Superintendentin (Verwaltungsleitung des Schulbezirks) Myriam Rogers nannte den Vorfall „bedauerlich“ und kündigte eine Überprüfung an. Betroffenen Schülern werde psychologische Unterstützung angeboten. 

Reformforderungen nach Fehlalarm

Nach dem Vorfall fordert Allens Großvater Lamont Davis Konsequenzen und Reformen im Umgang mit KI-Überwachung. Auch in den sozialen Medien sorgte der Zwischenfall für heftige Diskussionen. Auf Reddit äußern Nutzer massive Kritik an Polizei, Schulverwaltung und Technik. Viele sehen nicht die KI als Hauptproblem, sondern menschliches Fehlverhalten nach der Alarmierung. „Human error, not AI failure“, heißt es in einem der meistgelikten Beiträge.

Ein Sicherheitssystem zur Früherkennung von Waffen ist durchaus sinnvoll – insbesondere in den USA, in denen es bedauerlicherweise schon häufiger zu Amokläufen an Schulen gekommen ist. Es muss jedoch sichergestellt werden, dass solche Systeme nicht selbst zur Gefahr werden. Das erfordert eine gezielte Vermeidung von Fehlalarmen und eine klare Kommunikation zwischen Sicherheitszentrale und Polizei.