Analyse Die Bekämpfung von KI-Desinformation ist für Technologieunternehmen in diesem Jahr wichtiger denn je, da sie sich auf die bevorstehenden US-Präsidentschaftswahlen vorbereiten.
Die Bekämpfung von Falschinformationen und Deepfakes ist jedoch nur noch schwieriger geworden, da die Tools zur Generierung synthetischer Inhalte breiter zugänglich sind als je zuvor.
ChatGPT von OpenAI ist seit seiner ersten Veröffentlichung im November 2022 immer leistungsfähiger geworden Upgrade sein GPT-4-System zur Erzeugung von Audio und Bildern zusätzlich zum Text. Jetzt hat das Startup das freigegeben GPT-Store, eine Plattform, die maßgeschneiderte ChatGPT-basierte Bots hostet, die bestimmte Persönlichkeiten annehmen oder bestimmte Aufgaben ausführen können.
„Wir arbeiten immer noch daran, zu verstehen, wie effektiv unsere Tools für die personalisierte Überzeugung sein könnten.“
Am Montag sagte OpenAI, dass der Aufbau von GPTs für politische Kampagnen und Lobbyarbeit verboten sei und dass die Verwendung seiner Modelle zur Stromversorgung von Chatbots, die sich als echte Menschen, Unternehmen oder Regierungen ausgeben, ein Missbrauch seiner Technologie sei. Verboten sind auch alle Anwendungen, die in demokratische Prozesse eingreifen, wie zum Beispiel die Stimmabgabe.
„Wir erwarten und streben danach, dass die Menschen unsere Werkzeuge sicher und verantwortungsbewusst nutzen, und bei Wahlen ist das nicht anders.“ es sagte. „Wir arbeiten daran, relevanten Missbrauch zu antizipieren und zu verhindern – wie zum Beispiel irreführende „Deepfakes“, skalierte Einflussnahmeoperationen oder Chatbots, die sich als Kandidaten ausgeben.“
Die Regeln klarzustellen ist schön und gut, aber sie durchzusetzen ist eine andere Sache. Es ist schwierig, den GPT Store zu überwachen, und OpenAI verlässt sich darauf, dass Benutzer Anwendungen melden, die gegen seine Richtlinien verstoßen. Menschen haben bereits gegen die Regeln verstoßen, keine GPTs zu schaffen, „die sich der Förderung romantischer Kameradschaft oder der Durchführung regulierter Aktivitäten widmen“. Die Plattform hat viele KI-„Freundinnen“ und es gibt auch viele politische Chatbots.
Einige sind so gestaltet, dass sie beispielsweise Politiker wie Donald Trump nachahmen, auch wenn es sich dabei nicht um überzeugende Imitationen handelt, während andere bestimmte politische Ideologien unterstützen. In einem Gespräch mit „The Real Trump Bot“ hieß es beispielsweise, man sei gegen Briefwahl. „Oh, ich fange gar nicht erst mit der Mail-In-Abstimmung an. Es ist, als würden sie um Ärger bitten. Es ist so anfällig für Missbrauch, es ist unglaublich.“
Verstößt das gegen die Richtlinien von OpenAI? Könnte es jemanden davon abhalten, seine Stimme per Post zu verschicken? „Wir arbeiten immer noch daran, zu verstehen, wie effektiv unsere Tools für die personalisierte Überzeugung sein könnten“, gab OpenAI zu.
OpenAI hat auch andere Vorsichtsmaßnahmen getroffen. Sicherheitsmaßnahmen für das Text-zu-Bild-Modell DALL-E verhindern, dass Benutzer Bilder von Politikern erstellen, um Deepfakes zu verhindern. Die Leitplanken erlauben jedoch die Bearbeitung von Bildern, was bedeutet, dass Menschen Fotos von Kandidaten immer noch ohne die Hilfe einer KI manipulieren können.
Zu den weiteren Strategien, die Unternehmen zur Bekämpfung von Desinformation verfolgen, gehören neben dem Verbot oder der Blockierung von Inhalten auch die Einführung digitaler Wasserzeichen und die Verpflichtung der Nutzer, transparent mit KI-generierten Bildern oder Videos umzugehen.
Microsoft ist Mitglied der Coalition for Content Provenance and Authenticity (C2PA) und unterstützt die Content Credentials-Initiative. Es führt eine Funktion ein, die ein Wasserzeichen für vom Bing Image Creator generierte Inhalte einbettet. Es enthält Metadaten, die beschreiben, wie, wann und von wem das Bild erstellt wurde, und die überprüft werden können, um seine Unechtheit zu beweisen. OpenAI plant, diesem Beispiel zu folgen und es umzusetzen CP2Aauch die digitalen Anmeldeinformationen von . Aber die Wasserzeichen- und Metadatenfunktion ist nicht narrensicher. Die Informationen zur Herkunft eines Bildes sind jedoch nur in Anwendungen oder Websites sichtbar, die das Content Credentials-Format unterstützen.
Benutzer können die Informationen aus einem von Microsoft oder den Tools von OpenAI generierten Bild entfernen und es beispielsweise in Google Chrome öffnen, das CP2A nicht unterstützt. Dann wären mit ihren Bildern keine Metadaten verknüpft, und es wäre ihnen freigestellt, stattdessen diese Version zu verbreiten.
Die YouTube-Plattform von Google verfolgt einen anderen Ansatz und verlangt stattdessen von den Erstellern, offenzulegen, ob ihre Videos KI-generiertes Filmmaterial enthalten, gefälschte Ereignisse darstellen oder Personen enthalten, die Dinge sagen, die sie nicht gesagt haben. In der Zwischenzeit, Meta und Google haben Werbetreibende gebeten anzugeben, ob ihre Anzeigen synthetischen Inhalt enthalten, sei es gefälschte Bilder, Videos oder Audio.
Für Politiker gelten strengere Regeln. Mehrere Bundesstaaten wie Kalifornien, Texas, Michigan, Washington und Minnesota haben bestanden Gesetzgebung Verbot politischer Kandidaten, Deepfakes zu verbreiten, um Wähler zu beeinflussen. Es gibt jedoch kein Bundesgesetz. Die Bundeswahlkommission muss noch entscheiden, ob ihre Richtlinie gegen die „betrügerische Falschdarstellung anderer Kandidaten oder politischer Parteien“ für KI-generierte Inhalte gilt.
KI ist immer noch weitgehend unreguliert und die verschiedenen weltweit geltenden Gesetze decken nicht alle Fälle politischer Desinformation ab. Obwohl Technologieunternehmen ihre Bemühungen verstärken, die Generierung von KI-Desinformation durch Benutzer einzudämmen, sind ihre Methoden nicht perfekt und Benutzer finden oft Möglichkeiten, ihre Sicherheitsmaßnahmen zu umgehen. ®
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
- PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
- PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
- PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
- Quelle: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :hast
- :Ist
- :nicht
- $UP
- 2022
- a
- Über Uns
- Missbrauch
- zugänglich
- Aktivitäten
- zugelassen
- adoptieren
- Siehe Werbung
- Werbekunden
- gegen
- AI
- Ziel
- Alle
- erlauben
- bereits
- ebenfalls
- Obwohl
- an
- und
- Ein anderer
- erwarten
- jedem
- anwendbar
- Anwendungen
- gilt
- Ansatz
- SIND
- um
- AS
- fragen
- damit verbundenen
- Audio-
- Authentizität
- verboten
- BE
- werden
- Bevor
- Bing
- Sperrung
- Wander- und Outdoorschuhen
- Bots
- Gebrochen
- Building
- Unternehmen
- aber
- by
- Kalifornien
- Kampagnen
- CAN
- Kandidaten
- fähig
- tragen
- sicher
- Chatbots
- ChatGPT
- Chrome
- CO
- Koalition
- Bekämpfung
- Provision
- Unternehmen
- enthalten
- Inhalt
- Gespräch
- könnte
- Abdeckung
- Gefertigt
- Erstellen
- Schöpfer
- Schöpfer
- Referenzen
- wichtig
- Kundenspezifische
- Dalls
- entscheidet
- gewidmet
- Deepfakes
- demokratisch
- Beschreibung
- anders
- schwer
- digital
- Enthüllen
- Desinformation
- abraten
- verteilen
- do
- doesn
- Don
- Donald
- Donald Trump
- Bearbeitung
- Effektiv
- Bemühungen
- Wahl
- Wahlen
- Durchsetzung
- Äther (ETH)
- Sogar
- Veranstaltungen
- ÜBERHAUPT
- Beispiel
- erwarten
- Fälschung
- falsch
- Merkmal
- Bundes-
- Bundesgesetz
- Finden Sie
- Vorname
- folgen
- Aussichten für
- Format
- Förderung
- Frei
- für
- erzeugt
- Erzeugung
- bekommen
- gegeben
- Go
- gut
- Google Chrome
- Regierungen
- gewachsen
- Haben
- Port
- Hilfe
- Hosting
- Ultraschall
- aber
- HTTPS
- Riesig
- Ideologien
- if
- Image
- Bilder
- implementieren
- wichtig
- in
- das
- zunehmend
- beeinflussen
- Information
- Initiative
- Instanzen
- beantragen müssen
- isn
- IT
- SEINE
- jpg
- Label
- Nachname
- Letztes Jahr
- Recht
- Gesetze
- Gefällt mir
- Lobbying
- gemacht
- Postversand
- viele
- Materie
- me
- Bedeutung
- Mittlerweile
- Maßnahmen
- Mitglied
- Metadaten
- Methoden
- Michigan
- Microsoft
- könnte
- Minnesota
- irreführend
- Modell
- für
- Montag
- mehr
- meist
- mehrere
- nicht
- November
- jetzt an
- of
- vorgenommen,
- oh
- on
- einzige
- XNUMXh geöffnet
- OpenAI
- Einkauf & Prozesse
- or
- Andere
- Anders
- UNSERE
- besondere
- Parteien
- Bestanden
- Personen
- perfekt
- Durchführung
- Personalities
- Personalisiert
- Fotografien
- Ort
- Planung
- Plattform
- Plato
- Datenintelligenz von Plato
- PlatoData
- Reichlich
- Polizei
- Politik durchzulesen
- Datenschutzrichtlinien
- politisch
- politische Kandidaten
- politischen Parteien
- Politiker
- Werkzeuge
- Präsidentschaftswahlen
- Präsidentschaftswahl
- verhindern
- anpassen
- produziert
- verboten
- Belegen
- Herkunft
- Rampe
- RE
- echt
- geregelt
- freigegeben
- relevant
- sich auf
- berichten
- verantwortungsbewusst
- Wenden
- Ohne eine erfahrene Medienplanung zur Festlegung von Regeln und Strategien beschleunigt der programmatische Medieneinkauf einfach die Rate der verschwenderischen Ausgaben.
- s
- sicher
- Sicherheit
- Said
- sagen
- gesehen
- da
- So
- Jemand,
- etwas
- spezifisch
- begonnen
- Anfang
- Staaten
- Immer noch
- speichern
- Strategien
- strengeren
- Streifen Konfektionierung
- so
- Anzug
- Support
- Unterstützung
- synthetisch
- System
- T
- anpacken
- gemacht
- Einnahme
- und Aufgaben
- Tech
- Tech-Unternehmen
- Technologie
- Texas
- Text
- als
- zur Verbesserung der Gesundheitsgerechtigkeit
- Das
- die Informationen
- die Welt
- ihr
- Sie
- dann
- Dort.
- vom Nutzer definierten
- fehlen uns die Worte.
- dieses Jahr
- obwohl?
- zu
- auch
- Werkzeuge
- Top
- transparent
- Ärger
- Trumpf
- versuchen
- verstehen
- entfesselt
- anstehende
- us
- -
- Nutzer
- Verwendung von
- verschiedene
- Version
- Videos
- Abstimmung
- Wähler
- Abstimmungen (Votings):
- wurde
- Washington
- Wasserzeichen
- Watermarking
- Wasserzeichen
- Wege
- we
- Webseiten
- GUT
- wann
- ob
- welche
- während
- wem
- weit
- mit
- ohne
- Arbeiten
- arbeiten,
- weltweit wie ausgehandelt und gekauft ausgeführt wird.
- würde
- Jahr
- noch
- Youtube
- Zephyrnet