Das Markieren von Inhalten mit Wasserzeichen reicht immer noch nicht aus, um zwischen echten und KI-generierten Inhalten zu unterscheiden, da Cyberkriminelle die Sicherheitsfunktionen auch umgehen können.
Dies ist auf die zunehmende Verbreitung von KI-Technologien, insbesondere der generativen KI, zurückzuführen, die einen fruchtbaren Boden für skrupellose Personen schaffen, diese zur Verbreitung von Fehlinformationen, Hass und anderen Formen bösartiger Inhalte zu nutzen.
Und Wasserzeichen haben sich zu einer der Schlüssellösungen zur Unterscheidung zwischen KI-generierten Inhalten und realen Inhalten entwickelt. Doch es hat auch seine Mängel.
Lies auch: Audio2Photoreal von Meta ermöglicht jetzt sprachgesteuerte fotorealistische Avatare
Die Manipulation
Experten sagen, dass das KI-Wachstum auch damit einhergeht, dass böswillige Akteure die Technologie ausnutzen, um Desinformation und Bosheit zu verbreiten und mit Fake News Panik zu verbreiten.
Obwohl Wasserzeichen identifiziert wurden, um Benutzern die Unterscheidung zwischen KI-generierten Inhalten und echten, von Menschen erstellten Inhalten zu ermöglichen, sind auch diese anfällig für Manipulationen.
Laut Das RegisterEinige sichtbare Signaturen, wie das Dall-E-Text-zu-Bild-Modell, gehören zu den am einfachsten zu umgehenden KI-Erkennungstools. In dem Artikel heißt es weiter, dass skrupellose Personen die Wasserzeichen ausschneiden oder das Bild auf eine Weise kopieren können, die das direkte Herunterladen umgeht.
Siwei Lyu, Informatikprofessor an der University of Buffalo in den USA, sagte, dass es auch Experten gebe, wenn es darum gehe, Barrieren zu durchbrechen.
„Die Wasserzeichen-Technologie wurde mit Vorsicht eingesetzt, weil es für jemanden mit Kenntnissen über Wasserzeichen und KI nicht so schwer ist, sie zu knacken und das Wasserzeichen zu entfernen oder eins herzustellen“, sagte Lyu.
KI-Experte und Geschäftsführer einer gemeinnützigen Organisation, die Menschen dabei hilft, Technologie zur Förderung der Menschenrechte einzusetzen, Sam Gregory, denkt Wasserzeichen können immer noch von böswilligen Akteuren manipuliert werden.
Für ihn ist es „ein Triage-Instrument zur Schadensminderung“ und fügt hinzu, dass es „keine 100-prozentige Lösung“ sei.
Die Arten von Wasserzeichen
Für skrupellose, schlechte Schauspieler ist jedoch nicht alles rosig. Einige Wasserzeichen sind unsichtbar, wie das von Google DeepMind SynthID, sind schwer zu entfernen, da sie „direkt in die Systemausgaben von Imagen eingebettet sind“.
Diese Art von Wasserzeichen ist mit bloßem Auge nicht erkennbar, kann aber mit spezieller Software oder Algorithmen erkannt werden.
Lyu glaubt jedoch immer noch, dass Schurken mit etwas „technischem Know-how, das ausmerzen“ können.
„Ich denke, dass Wasserzeichen hauptsächlich darauf zurückzuführen sind, dass die Menschen sich ihrer Existenz nicht bewusst sind. Wenn sie also wissen, dass sie es können, werden sie einen Weg finden, es zu durchbrechen“, sagte Lyu.
Eine andere Art von Wasserzeichen ist das sichtbare Wasserzeichen, das von Unternehmen wie Google, Getty und OpenAI zu Videos, Texten oder Bildern hinzugefügt wird, um die Gültigkeit von Inhalten zu überprüfen.
Die dritte Art von Wasserzeichen sind kryptografische Metadaten. Hier wird angezeigt, wann Inhalte erstellt und wie sie bearbeitet wurden.
„Auswaschende“ Wasserzeichen
Eine Studie der University of Maryland unter der Leitung von Soheil Feizi, einem Informatikprofessor, besagt, dass KI-Wasserzeichen eine Rolle spielen waren nicht narrensicher. Sie haben alle Arten von Wasserzeichen getestet und „alle kaputt gemacht“.
„Derzeit verfügen wir über kein zuverlässiges Wasserzeichen“, sagte er.
Der Professor erklärte auch, wie leicht es für Kriminelle sei, Wasserzeichen zu manipulieren, was er als „Auswaschen“ des Wasserzeichens bezeichnete.
Zu den gleichen Ergebnissen kam auch eine andere Studie, die gemeinsam von Forschern der University of California, Santa Barbara und Carnegie Mellon verfasst wurde.
„Alle sichtbaren Wasserzeichen sind nicht zuverlässig“ liest das Papier.
Zeitkritisches Problem
Ein Mitarbeiter des US-Senats, der an der Ausarbeitung von Gesetzen im Zusammenhang mit KI beteiligt war, erklärte gegenüber Fedscope, dass man „mit den schlechten Akteuren Schritt halten“ müsse und fügte hinzu, dass sich der Senat derzeit in einer Ära der „Aufklärung und Definition des Problems“ befinde.
„Es ist wie bei olympischen Athleten – jetzt, wo ich weiß, dass Sie nach diesem Medikament suchen, nehme ich einfach ein anderes Medikament.“
Mit der Viele Länder gehen zur Wahl In diesem Jahr ist die Notwendigkeit von Maßnahmen zur Minimierung von Deepfakes und Fehlinformationen nicht zu übersehen. Im vergangenen September sagte der Mehrheitsführer im Senat, Chuck Schumer, dass die Bekämpfung der Authentizität von Inhalten ein Problem sei zeitkritisches Problem Angesichts der Tatsache, dass in vielen Ländern Wahlen vor der Tür stehen.
„Es gibt tatsächlich das Problem, dass es Deepfakes gibt, bei denen die Leute wirklich glauben … dass ein Kandidat etwas sagt, obwohl sie völlig eine Schöpfung der KI sind“, sagte er nach seinem ersten Versuch KI-Einblicke hinter verschlossenen Türen Forum.
Technologiefirmen nehmen die Herausforderung an
Inzwischen gibt es die Coalition for Content Provenance and Authenticity (C2PA), eine Idee von Medien- und Technologieunternehmen. Dadurch wird die Quelle des Bildes identifiziert, unabhängig davon, ob es sich um eine Kamera oder ein KI-Programm handelt, mit dem es erstellt wurde.
Außerdem werden Angaben zu Zeit, Ort und Entstehungsart des Bildes gemacht, sodass die Herkunft des Bildes überprüft werden kann. Berichten zufolge gehört TikTok zu den Top-Technologieunternehmen, die beim Wasserzeichen führend sind.
„TikTok zeigt Ihnen die verwendete Audiospur; es zeigt Ihnen den Stich, der gemacht wurde; Es zeigt Ihnen die verwendeten KI-Effekte“, sagte Gregory.
Andere große Tech-Unternehmen wie Alphabet, Amazon, Meta und OpenAI haben sich letztes Jahr verpflichtet, Wasserzeichentechnologie zu entwickeln, um Fehlinformationen zu bekämpfen.
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
- PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
- PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
- PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
- Quelle: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :hast
- :Ist
- :nicht
- :Wo
- 8
- 9
- a
- Fähig
- Akteure
- berührt das Schneidwerkzeug
- hinzugefügt
- Hinzufügen
- Adoption
- Vorteil
- Nach der
- AI
- Algorithmen
- Alle
- Zulassen
- erlaubt
- Alphabet
- ebenfalls
- Amazon
- unter
- an
- und
- Ein anderer
- jedem
- SIND
- um
- Artikel
- AS
- At
- Audio-
- Authentizität
- Badewanne
- Barrieren
- BE
- weil
- war
- zwischen
- Big
- Break
- Bruch
- Büffel
- aber
- by
- umgehen
- Kalifornien
- Kamera
- CAN
- Kandidat
- kann keine
- Carnegie Mellon
- Verursachen
- Futter
- Koalition
- kommt
- Unternehmen
- Computer
- Computerwissenschaften
- Inhalt
- Ecke
- Ländern
- erstellen
- erstellt
- Erstellen
- Schaffung
- Ernte
- kryptographisch
- Zur Zeit
- Cyber-Kriminelle
- Dalls
- Deepfakes
- Definition
- beschrieben
- Details
- erkannt
- Entdeckung
- entwickeln
- schwer
- Direkt
- Direkt
- Direktor
- Desinformation
- unterscheiden
- Nicht
- Medikament
- einfachste
- Einfache
- Effekten
- Wahlen
- entstanden
- ermöglichen
- genug
- Era
- insbesondere
- Exekutive
- Geschäftsführer
- Experte
- Experten
- erklärt
- Auge
- Fälschung
- gefälschte Nachrichten
- Eigenschaften
- Finden Sie
- Befund
- Firmen
- Vorname
- Aussichten für
- Formen
- Forum
- weiter
- generativ
- Generative KI
- bekommen
- gegeben
- gibt
- gehen
- Boden
- persönlichem Wachstum
- Wachstum
- hätten
- hart
- schaden
- hassen
- Haben
- mit
- he
- hilft
- ihm
- seine
- Ultraschall
- aber
- HTTPS
- human
- Menschenrechte
- i
- KRANK
- identifiziert
- identifiziert
- if
- Image
- Bilder
- in
- Einzelpersonen
- in
- unsichtbar
- beteiligt
- Problem
- IT
- SEINE
- nur
- Wesentliche
- Art
- Wissen
- Wissen
- Nachname
- Letztes Jahr
- führen
- Führer
- geführt
- Gesetzgebung
- Gefällt mir
- Standorte
- suchen
- gemacht
- Mehrheit
- böswilligen
- manipuliert
- Manipulation
- viele
- Maryland
- inzwischen
- Maßnahmen
- Medien
- Mellon
- Meta
- Metadaten
- Methode
- minimieren
- Fehlinformationen
- Modell
- meist
- Need
- News
- Non-Profit-
- Non-Profit-Organisation
- jetzt an
- of
- olympisch
- on
- EINEM
- OpenAI
- or
- Organisation
- Andere
- Ausgänge
- Frieden
- Panik
- Papier
- Personen
- Menschen
- Fotorealistisch
- Ort
- Plato
- Datenintelligenz von Plato
- PlatoData
- Play
- Points
- möglich
- Professor
- Programm
- fördern
- Herkunft
- Lesen Sie mehr
- echt
- wirklich
- Reduktion
- zuverlässig
- entfernen
- Berichten zufolge
- Forscher
- Loswerden
- Rechte
- Rosig
- Said
- Salz
- Sam
- gleich
- Santa
- santa barbara
- sagen
- Wissenschaft
- Sicherheitdienst
- gesehen
- Senat
- September
- Mängel
- Konzerte
- Unterschriften
- So
- Software
- Lösung
- Lösungen
- einige
- Jemand,
- etwas
- Quelle
- besondere
- spezielle Software
- Verbreitung
- Staaten
- Immer noch
- Studie
- so
- System
- angehen
- anpacken
- Nehmen
- Einnahme
- Tech
- Tech-Unternehmen
- Technologies
- Technologie
- getestet
- Text
- zur Verbesserung der Gesundheitsgerechtigkeit
- Das
- Die Quelle
- ihr
- Sie
- Dort.
- vom Nutzer definierten
- think
- Thinks
- Dritte
- fehlen uns die Worte.
- dieses Jahr
- Durch
- TikTok
- Zeit
- zu
- sagte
- auch
- Werkzeug
- Top
- TOTAL
- verfolgen sind
- Triage
- tippe
- Typen
- Universität
- University of California
- University of Maryland
- us
- US-Senat
- -
- benutzt
- Nutzer
- Verwendung von
- überprüfen
- Videos
- sichtbar
- wurde
- Wasserzeichen
- Watermarking
- Wasserzeichen
- Weg..
- Wege
- Was
- wann
- ob
- welche
- werden wir
- mit
- Jahr
- noch
- U
- Zephyrnet