Ein internationales Forscherteam warnt in einem Beitrag in der aktuellen Science-Ausgabe davor, dass Schwärme von KI-Agenten, die im digitalen Umfeld wie echte Menschen wirken, den Eindruck erwecken können, dass die Mehrheit der Menschen in eine bestimmte Richtung denkt und diese künstlichen Persönlichkeiten durch diese Vorspiegelung falscher Tatsachen so massiv Diskussionen und Meinungen beeinflussen können.
Wo einzelne Chatbots schon teilweise recht erfolgreich waren, ist diese Gefahr um Dimensionen größer: KI-Schwärme können über viele Plattformen hinweg auftreten und sich gegenseitig bestätigen, was wiederum echte Menschen beeinflussen könnte und so deren Meinung, die Unterstützung für bestimmte Politik bzw. Politiker zu ändern vermag.
Mit einem derart durch KI-Agenten erzeugten Meinungsbild bei Menschen können letztlich gesellschaftliche Normen verändert werden.
Die Forscher weisen darauf hin, dass jetzt der Zeitpunkt zu handeln gekommen ist. Sie schreiben: “Der Erfolg hängt davon ab, dass gemeinsame Maßnahmen gefördert werden, ohne die wissenschaftliche Forschung zu behindern, und gleichzeitig sichergestellt wird, dass der öffentliche Raum sowohl widerstandsfähig als auch rechenschaftspflichtig bleibt. Wenn wir uns jetzt zu strengen Messungen, verhältnismäßigen Schutzmaßnahmen und gemeinsamer Aufsicht verpflichten, könnten die bevorstehenden Wahlen sogar zu einem Testfeld für demokratische KI-Governance werden, anstatt sie zu behindern.”
Veröffentlichung:
Berichte darüber:
- Max-Planck-Gesellschaft: https://www.mpg.de/2 … ld-distort-democracy
- Horst Görtz Institute for IT Security: https://hgi.rub.de/e … mokratie-untergraben
- The Guardian: https://www.theguard … festing-social-media
- SWI swissinfo.ch: https://www.swissinf … o-democracy/90824336
- Tagesschau: https://www.tagessch … -demokratie-100.html