Chipstüte für Pistole gehalten: der Bericht zeigt beispielhaft, was passieren, wenn die Prozesse inkl. menschlicher Bewertung der Ergebnisse bei KI-Einsatz nicht stimmen. Eine KI hielt eine Chipstüte für eine Pistole, Polizei rückte an und durchsuchte einen Schüler. Warum? Sicherheitsabteilung des Schulbezirkes gab zwar Entwarnung, aber die Schulleitung hat Polizei angefordert.
Daraus kann man Lehren ziehen: erst Prozesse gründlich bzgl. KI anpassen, dann KI einführen. Ist eigentlich wie bei jeder anderen Einführung von IT-Systemen auch.
URLs:
- golem (in deutsch): https://www.golem.de … ffe-2510-201552.html
- CNN: https://edition.cnn. … ai-gun-detection-hnk