KI-Fehlinformationen könnten die Wahlen 2024 erschüttern – so will OpenAI dagegen vorgehen – Entschlüsseln

Neuauflage von Plato

Verfolger: 0

Da die Bedrohung der Demokratie durch künstliche Intelligenz für politische Entscheidungsträger und Wähler weltweit ein Hauptanliegen darstellt, hat OpenAI am Montag seinen Plan vorgestellt, der dazu beitragen soll, die Transparenz von KI-generierten Inhalten sicherzustellen und zuverlässige Abstimmungsinformationen vor den Wahlen 2024 zu verbessern.

Nach dem Start von GPT-4 im März generative KI und ihr potenzieller Missbrauch, einschließlich KI-generierter Deepfakes, sind zu einem zentralen Bestandteil der Diskussion über den kometenhaften Aufstieg der KI im Jahr 2023 geworden. Im Jahr 2024 könnten wir bei wichtigen Wahlen, einschließlich des US-Präsidentschaftswahlkampfs, schwerwiegende Konsequenzen aus solchen KI-gesteuerten Fehlinformationen sehen.

„Während wir uns auf die Wahlen im Jahr 2024 in den größten Demokratien der Welt vorbereiten, besteht unser Ansatz darin, unsere Arbeit zur Plattformsicherheit fortzusetzen, indem wir genaue Abstimmungsinformationen verbessern, maßvolle Richtlinien durchsetzen und die Transparenz verbessern“, sagte OpenAI in einem Blog-Post.

OpenAI fügte hinzu, dass es „das Fachwissen unserer Sicherheitssysteme, Bedrohungsinformationen, Rechts-, Technik- und Richtlinienteams zusammenbringt, um potenziellen Missbrauch schnell zu untersuchen und zu bekämpfen.“

Schnappschuss davon, wie wir uns auf die weltweiten Wahlen im Jahr 2024 vorbereiten:

• Wir arbeiten daran, Missbrauch, einschließlich irreführender Deepfakes, zu verhindern
• Bereitstellung von Transparenz über KI-generierte Inhalte
• Verbesserung des Zugangs zu maßgeblichen Abstimmungsinformationenhttps://t.co/qsysYy5l0L

- OpenAI (@OpenAI) 15. Januar 2024

Im August kündigte die US-Bundeswahlkommission an, dass sie mit der Prüfung einer Petition zum Verbot KI-generierter Wahlkampfwerbung fortfahren werde. FEC-Kommissar Allen Dickerson sagte: „Im Hintergrund dieser Bemühungen lauern ernsthafte Bedenken hinsichtlich des Ersten Verfassungszusatzes.“

Für US-Kunden von ChatGPT sagte OpenAI, dass es Benutzer auf die überparteiliche Website weiterleiten wird CanIVote.org wenn „bestimmte verfahrenstechnische Fragen im Zusammenhang mit Wahlen“ gestellt werden. Das Unternehmen sagt, dass die Umsetzung dieser Änderungen seinen Ansatz weltweit prägen wird.

„Wir freuen uns darauf, weiterhin mit Partnern zusammenzuarbeiten und von ihnen zu lernen, um einen möglichen Missbrauch unserer Tools im Vorfeld der diesjährigen globalen Wahlen zu antizipieren und zu verhindern“, heißt es weiter.

In ChatGPT sagte OpenAI, dass es Entwickler daran hindert, Chatbots zu erstellen, die vorgeben, echte Personen oder Institutionen wie Regierungsbeamte und Büros zu sein. Ebenfalls nicht zulässig, so OpenAI, sind Anwendungen, die darauf abzielen, Menschen von der Stimmabgabe abzuhalten, einschließlich der Entmutigung zur Stimmabgabe oder der falschen Darstellung der Wahlberechtigten.

KI-generierte Deepfakes, gefälschte Bilder, Videos und Audiodateien, die mit generativer KI erstellt wurden, gingen letztes Jahr viral, darunter mehrere mit dem US-Präsidenten Joe Biden, früherer Präsident Donald TrumpUnd sogar Papst Franziskus in den Fokus der in den sozialen Medien geteilten Bilder zu geraten.

Um zu verhindern, dass sein Bildgenerator Dall-E 3 in Deepfake-Kampagnen verwendet wird, kündigte OpenAI an, die Inhalte der Coalition for Content Provenance and Authenticity zu implementieren Beglaubigungsschreiben die einem KI-generierten Bild eine Markierung oder ein „Symbol“ hinzufügen.

„Wir experimentieren auch mit einem Provenienzklassifikator, einem neuen Tool zur Erkennung von Bildern, die von Dall-E generiert wurden“, sagte OpenAI. „Unsere internen Tests haben vielversprechende erste Ergebnisse gezeigt, selbst wenn die Bilder häufigen Modifikationen unterzogen wurden.“

Letzten Monat, Papst Franziskus namens fordert die führenden Politiker der Welt auf, einen verbindlichen internationalen Vertrag zur Regulierung der KI zu verabschieden.

„Die jedem Menschen innewohnende Würde und die Brüderlichkeit, die uns als Mitglieder der einen Menschheitsfamilie zusammenhält, müssen der Entwicklung neuer Technologien zugrunde liegen und als unbestreitbare Kriterien für deren Bewertung vor ihrem Einsatz dienen, damit der digitale Fortschritt angemessen erfolgen kann.“ Respekt vor der Gerechtigkeit und Beitrag zur Sache des Friedens“, sagte Francis.

Um Fehlinformationen einzudämmen, sagte OpenAI, dass ChatGPT damit beginnen wird, weltweit Nachrichtenberichte in Echtzeit bereitzustellen, einschließlich Zitaten und Links.

„Transparenz über die Herkunft von Informationen und Ausgewogenheit in Nachrichtenquellen können Wählern helfen, Informationen besser einzuschätzen und selbst zu entscheiden, wem sie vertrauen können“, sagte das Unternehmen.

Letzten Sommer spendete OpenAI 5 Millionen US-Dollar an die Amerikanisches Journalismus-Projekt. In der Vorwoche unterzeichnete OpenAI einen Vertrag mit dem Associated Press um dem KI-Entwickler Zugriff auf das Nachrichtenartikelarchiv der globalen Nachrichtenagentur zu gewähren.

Die Kommentare von OpenAI zur Namensnennung in der Nachrichtenberichterstattung erfolgen, da das Unternehmen mit mehreren Urheberrechtsklagen konfrontiert ist, unter anderem von der New York Times. Im Dezember die Schadenkalkulation verklagt OpenAI und Microsoft, der größte Investor von OpenAI, behaupten, dass Millionen seiner Artikel ohne Erlaubnis zum Trainieren von ChatGPT verwendet wurden.

„OpenAI und Microsoft haben ein Geschäft im Wert von mehreren zehn Milliarden Dollar aufgebaut, indem sie die gesamten Werke der Menschheit ohne Erlaubnis übernommen haben“, heißt es in der Klage. „Beim Training ihrer Modelle reproduzierten die Beklagten urheberrechtlich geschütztes Material, um genau das auszunutzen, was das Urheberrechtsgesetz vorsah.“ zu schützen: die Elemente des schutzfähigen Ausdrucks in ihnen, wie der Stil, die Wortwahl sowie die Anordnung und Darstellung von Fakten.“

OpenAI hat das aufgerufen New York TimesDie Klage sei „unbegründet“ und behauptete, dass die Veröffentlichung ihre Eingabeaufforderungen manipuliert habe, um den Chatbot dazu zu bringen, Antworten wie diese zu generieren Schadenkalkulation' Artikel.

Herausgegeben von Andrew Hayward