Wie eine „KI-Tokratie“ entsteht

Wie eine „KI-Tokratie“ entsteht

Zeitstempel: 14. Juli 2023, 3:12 Uhr
Quellknoten: 2766622
14. Juli 2023 (Nanowerk-Neuigkeiten) Viele Wissenschaftler, Analysten und andere Beobachter haben vorgeschlagen, dass der Widerstand gegen Innovation eine Achillesferse autoritärer Regime ist. Solche Regierungen können mit den technologischen Veränderungen, die ihren Gegnern helfen, nicht Schritt halten; Durch die Unterdrückung von Rechten können sie auch innovative Wirtschaftsaktivitäten hemmen und die langfristige Lage des Landes schwächen. Doch eine neue Studie, die von einem MIT-Professor gemeinsam geleitet wurde, legt etwas ganz anderes nahe. In China, so das Ergebnis der Studie, sei die Regierung zunehmend in die Lage versetzt worden, Maßnahmen zu ergreifen künstliche Intelligenz getriebene Gesichtserkennungstechnologie zur Unterdrückung abweichender Meinungen; war erfolgreich darin, den Protest einzudämmen; und hat dabei die Entwicklung besserer KI-basierter Gesichtserkennungstools und anderer Formen von Software vorangetrieben. „Wir haben herausgefunden, dass in Regionen Chinas, in denen es mehr Unruhen gibt, dies zu einer stärkeren staatlichen Beschaffung von Gesichtserkennungs-KI führt, und zwar durch lokale Regierungseinheiten wie kommunale Polizeibehörden“, sagt MIT-Ökonom Martin Beraja, der Co. ist -Autor eines neuen Papiers, in dem die Ergebnisse detailliert beschrieben werden. Daraus folgt, wie das Papier feststellt, dass „KI-Innovationen das Regime festigen und die Investitionen des Regimes in KI zur politischen Kontrolle weitere Grenzinnovationen anregen.“ Die Wissenschaftler nennen diesen Zustand eine „KI-Tokratie“ und beschreiben den zusammenhängenden Kreislauf, in dem der verstärkte Einsatz der KI-gesteuerten Technologie Meinungsverschiedenheiten unterdrückt und gleichzeitig die Innovationsfähigkeit des Landes steigert. KI-Tokratie MIT-Ökonom Martin Beraja ist Co-Autor eines neuen Forschungspapiers, das zeigt, dass Chinas erhöhte Investitionen in KI-gesteuerte Gesichtserkennungstechnologie sowohl dem Regime helfen, abweichende Meinungen zu unterdrücken, als auch die Technologie vorantreiben können, ein sich gegenseitig verstärkender Zustand, den die Autoren des Papiers als „KI“ bezeichnen -Tokratie.“ (Bild: Jose-Luis Olivares/MIT mit Zahlen von iStock) Das Open-Access-Papier erscheint im Quarterly Journal of Economics (“AI-tocracy”). Die Co-Autoren sind Beraja, Pentti Kouri Career Development Associate Professor für Wirtschaftswissenschaften am MIT; Andrew Kao, Doktorand der Wirtschaftswissenschaften an der Harvard University; David Yang, Professor für Wirtschaftswissenschaften in Harvard; und Noam Yuchtman, Professor für Management an der London School of Economics. Um die Studie durchzuführen, stützten sich die Wissenschaftler auf verschiedene Arten von Beweisen aus einem Großteil des letzten Jahrzehnts. Um Fälle politischer Unruhen in China zu katalogisieren, verwendeten sie Daten aus dem Global Database of Events, Language, and Tone (GDELT)-Projekt, das Newsfeeds weltweit aufzeichnet. Das Team hat zwischen 9,267 und 2014 2020 Unruhen aufgedeckt. Anschließend untersuchten die Forscher Aufzeichnungen von fast drei Millionen Beschaffungsverträgen, die die chinesische Regierung zwischen 3 und 2013 aus einer Datenbank des chinesischen Finanzministeriums ausgestellt hatte. Sie fanden heraus, dass die Beschaffung von KI-Diensten zur Gesichtserkennung und ergänzenden öffentlichen Sicherheitsinstrumenten – hochauflösenden Videokameras – durch Kommunalverwaltungen im Quartal nach einer Episode öffentlicher Unruhen in der Region deutlich anstieg. Angesichts der Tatsache, dass chinesische Regierungsbeamte eindeutig auf öffentliche Dissensaktivitäten reagierten, indem sie die Gesichtserkennungstechnologie verstärkten, untersuchten die Forscher dann eine Folgefrage: Hat dieser Ansatz funktioniert, um Dissens zu unterdrücken? Die Wissenschaftler glauben, dass dies der Fall war, obwohl sie, wie sie in dem Papier anmerken, „die Auswirkungen“ der Technologie auf politische Unruhen „nicht direkt abschätzen können“. Um dieser Frage nachzugehen, untersuchten sie jedoch den Zusammenhang zwischen Wetter und politischen Unruhen in verschiedenen Gebieten Chinas. Bestimmte Wetterbedingungen begünstigen politische Unruhen. Aber in Präfekturen in China, die bereits stark in Gesichtserkennungstechnologie investiert haben, sind solche Wetterbedingungen weniger förderlich für Unruhen als in Präfekturen, die nicht die gleichen Investitionen getätigt haben. Dabei berücksichtigten die Forscher auch Fragen wie die Frage, ob größere relative Wohlstandsniveaus in manchen Gebieten ungeachtet der Protestmuster zu größeren Investitionen in KI-gesteuerte Technologien geführt haben könnten. Die Wissenschaftler kamen jedoch immer noch zu dem gleichen Schluss: Gesichtserkennungstechnologie wurde als Reaktion auf frühere Proteste eingesetzt und reduzierte dann die Anzahl der Proteste weiter. „Es deutet darauf hin, dass die Technologie Unruhen effektiv eindämmen kann“, sagt Beraja. Schließlich untersuchte das Forschungsteam die Auswirkungen der gestiegenen KI-Nachfrage auf Chinas Technologiesektor und stellte fest, dass der verstärkte Einsatz von Gesichtserkennungstools durch die Regierung den Technologiesektor des Landes offenbar vorantreibt. Beispielsweise produzieren Firmen, die Beschaffungsaufträge für Gesichtserkennungstechnologien erhalten, in den zwei Jahren nach Erhalt des Regierungsauftrags rund 49 Prozent mehr Softwareprodukte als zuvor. „Wir untersuchen, ob dies zu mehr Innovation bei Firmen im Bereich Gesichtserkennungs-KI führt, und das ist tatsächlich der Fall“, sagt Beraja. Solche Daten – vom chinesischen Ministerium für Industrie und Informationstechnologie – deuten auch darauf hin, dass KI-gesteuerte Tools andere Arten von High-Tech-Innovationen nicht unbedingt „verdrängen“. Zusammenfassend lässt sich sagen, dass der Fall Chinas zeigt, wie autokratische Regierungen möglicherweise einen nahezu gleichgewichtigen Zustand erreichen können, in dem ihre politische Macht gestärkt und nicht auf den Kopf gestellt wird, wenn sie sich technologische Fortschritte zunutze machen. „Im Zeitalter der KI, in dem die Technologien nicht nur Wachstum generieren, sondern auch Unterdrückungstechnologien sind, können sie für autoritäre Regime sehr nützlich sein“, sagt Beraja. Der Befund betrifft auch größere Fragen zu Regierungsformen und Wirtschaftswachstum. Eine umfangreiche wissenschaftliche Forschung zeigt, dass demokratische Institutionen, die Rechte gewähren, im Laufe der Zeit tatsächlich ein größeres Wirtschaftswachstum generieren, unter anderem durch die Schaffung besserer Bedingungen für technologische Innovationen. Beraja stellt fest, dass die aktuelle Studie diesen früheren Erkenntnissen nicht widerspricht, aber bei der Untersuchung der Auswirkungen der eingesetzten KI einen Weg aufzeigt, wie autoritäre Regierungen mehr Wachstum generieren können, als sie es sonst getan hätten. „Dies kann dazu führen, dass parallel zum Wachstum mehr autokratische Institutionen entstehen“, fügt Beraja hinzu. Andere Experten für gesellschaftliche Anwendungen von KI sagen, dass das Papier einen wertvollen Beitrag auf diesem Gebiet leiste. „Dies ist ein ausgezeichnetes und wichtiges Papier, das unser Verständnis der Wechselwirkung zwischen Technologie, wirtschaftlichem Erfolg und politischer Macht verbessert“, sagt Avi Goldfarb, Rotman-Lehrstuhlinhaber für Künstliche Intelligenz und Gesundheitswesen und Professor für Marketing an der Rotman School of Management der Universität von Toronto. „Das Papier dokumentiert eine positive Rückkopplungsschleife zwischen dem Einsatz von KI-Gesichtserkennungstechnologie zur Überwachung der Unterdrückung lokaler Unruhen in China und der Entwicklung und Schulung von KI-Modellen. Dieses Papier ist wegweisende Forschung in den Bereichen KI und politische Ökonomie. Ich gehe davon aus, dass dieser Forschungsbereich mit der Ausbreitung der KI an Bedeutung gewinnen wird.“ Die Wissenschaftler ihrerseits arbeiten weiterhin an verwandten Aspekten dieser Frage.

Zeitstempel:

Mehr von Nanowerk