In Heber City (Utah, USA) nutzt die Polizei KI um automatisiert Polizeiberichte durch Transkription von während der Einsätze erstellten Audioaufnahmen zu erstellen. Im Hintergrund eines Einsatzes lief der Disney-Film “Küss den Frosch”, daher waren im Hintergrund der Audio-Aufnahme, welche die Polizei für die Transkription nutzte, natürlich auch daraus etwas zu hören. Einen Menschen hätte es nicht gestört, aber das Ki-System Axon Draft One, welches die Polizei zur Transkription nutzte, vermischte Informationen des Einsatzes mit den Tonaufnahmen des Disney-Films und dokumentierte in dem Polizeibericht die Verwandlung eines Beamten in einem Frosch.
Problem dabei: laut Aussage eines Polizeibeamten spart das Tool jedem Beamten etwa sechs bis acht Stunden Arbeit, aber nur, wenn man das Ergebnis überfliegt und nicht alles ganz genau prüft, was aber passiert, wenn die Polizeibeamten den Ausgaben des KI-Systems vertrauen - Folge des Automation Bias.
Gerichte können Fehler in den Dokumentationen oft nicht prüfen, sofern die Halluzination nicht zu offensichtlich ist. Vor Gericht müssen dann Angeklagte beweisen, dass die Dokumentation falsch ist, was natürlich entsprechende Herausforderungen beinhaltet.
Berichte hierzu:
- New Delhi Television (NDTV): https://www.ndtv.com … arification-10246683
- Fox 13: https://www.fox13now … o-keep-streets-safer; Video der Reportage bei Youtube https://www.youtube. … /watch?v=9dU7lqji0Nk
- Deutscher Bericht bei t3n: https://t3n.de/news/ … tion-frosch-1723770/