Dabei geht es um Phänomene wie „halluzinierte Ergebnisse“, wenn der KI die Daten für eine korrekte Antwort auf eine Frage fehlen. Auch können Chatbots so trainiert werden, dass sie vertrauenswürdig erscheinen, obwohl sie Menschen bewusst täuschen. Und Unternehmen nutzen KI in bisher unbekanntem Umfang: Das US-Unternehmen Clearview AI zum Beispiel erklärt, Personen mit einem Snapshot mit einer Genauigkeit von 99 Prozent identifizieren und alle Informationen – von Social-Media-Profilen bis zur Adresse – mit einem Klick herausgeben zu können. Das würde unsere Gesellschaft fundamental verändern.

Heute sind sich Länder und Unternehmen einig, dass es gewisser Standards bedarf. Doch umstritten bleibt, was und wie genau reguliert werden soll, auch der Umfang von technischen Standards wird international noch ausgehandelt – entlang der Bruchstellen des globalen Systemwettbewerbs.

So bauen die USA vor allem auf freiwillige Selbsterklärungen der Tech-Giganten, haben allerdings die KI-Anbieter zu Tests verpflichtet, wenn die Programme die nationale Sicherheit sowie die öffentliche Gesundheit und Sicherheit beeinträchtigen könnten.

China dagegen hat weit ehrgeizigere Ziele: Das Land will bis 2030 global die Führung bei KI einnehmen und ethische Rahmenbedingungen nach „chinesischen Merkmalen“ etablieren.

Das zeigt sich schon im chinesischen „Safe-City-System“, das bereits in 75 Länder exportiert wurde. Safe-City beinhaltet eine Reihe von Überwachungstechniken, darunter auch KI-basierte Programme zur Gesichtserkennung. Diese Repressionsmodelle haben gerade nichtdemokratische Staaten dankend angenommen. So ist das Verfahren zu einem Paradebeispiel dafür geworden, wie chinesische Standards global verbreitet werden. China investiert viel Geld in Forschung und Nutzung von KI zur Überwachung und Repression der eigenen Bevölkerung. Verlassen kann sich Peking auf die Unternehmen Huawei und ZTE als wichtige Akteure in der globalen digitalen Strategie.

Im Systemwettkampf steht KI international auch bei der UN auf der Tagesordnung, sogar im UN-Sicherheitsrat. Seit Herbst vergangenen Jahres gibt es nun ein AI Advisory Board, das die UN beraten soll. Die 39 Vertreterinnen und Vertreter aus vielen Ländern und Branchen arbeiten derzeit an einem KI-Governance-Report, der Teil des Global Digital Compacts der UN werden soll.

In der Praxis ist die KI-Regulierung noch stark fragmentiert. Doch eine Gesetzgebung zur Standardisierung der KI-Industrie und ihre Implementierung werden dauern. Wie langwierig und kompliziert der Prozess ist, zeigt sich in der EU. Mit ihrem „AI Act“ wurde sie weltweit Vorreiterin mit einer ersten umfangreichen Regulierung von KI-Systemen. Kritiker monieren zwar schwammige Formulierungen und Ausnahmen für Sicherheitsbehörden. Svenja Hahn, EU-Abgeordnete der liberalen Renew-Fraktion, fürchtet zudem hohe bürokratische Hürden für die KI-Entwicklung in Europa – was fatal im globalen Technologiewettbewerb wäre. Dennoch hat die EU mit dem AI Act bei der internationalen Standardsetzung einen First-Mover-Vorteil und darf darauf hoffen, dass liberale Standards auch andernorts übernommen werden.