KI-Infos

Für die europäischen Behörden ist der Europäische Datenschutzbeauftragte entsprechend Art. 3 Ziff. 48 und Art. 70 Abs. 9 KI-Verordnung die Funktion der Marktüberwachungsbehörde sowie die der für ihre Beaufsichtigung zuständigen Behörde.
Aktuell veröffentlichte der EDPS eine Stellungname zur menschlichen Aufsicht bei KI: “Human Oversight of Automated Decision-Making”.
In dieser Stellungnahme wird die Sicht des EDPS auf Annahmen eingegangen, die teilweise öffentlich zu dem Themen kursieren und die aus Sicht des EDPS fehlerhaft sind. Die Stellungnahme enthält organisatorische, technische und auf die Bediener ausgerichtete Maßnahmen, um die menschliche Aufsicht aus Sicht des EDPS sinnvoll und wirksam zu gestalten. Er weist ausdrücklich darauf hin, dass inhärente Mängel im KI-System (z.B. aufgrund Unzuverlässigkeit) alleine durch menschliche Aufsicht nicht ausgeglichen werden können. Daher darf man sich nicht nur auf menschliche Aufsicht als letzte Sicherheitsvorkehrung gegenüber Fehler eines KI-Systems verlassen.
Der vollständige englischsprachige Text ist abrufbar unter https://www.edps.eur … -automated-making_en bzw. als pdf-Datei unter https://www.edps.eur … man-oversight_en.pdf.