Het watermerken van inhoud is nog steeds niet voldoende om onderscheid te maken tussen echte en door AI gegenereerde inhoud, omdat cybercriminelen de beveiligingsfuncties ook kunnen omzeilen.
Dit komt omdat er steeds meer AI-technologieën worden toegepast, vooral generatieve AI, waardoor vruchtbare grond ontstaat voor gewetenloze individuen om deze te gebruiken om desinformatie, haat en andere vormen van kwaadaardige inhoud te verspreiden.
En watermerken zijn naar voren gekomen als een van de belangrijkste oplossingen om onderscheid te maken tussen door AI gegenereerde inhoud en echte inhoud. Toch heeft het ook zijn tekortkomingen.
Lees ook: Meta's Audio2Photoreal maakt nu stemgestuurde fotorealistische avatars mogelijk
De manipulatie
Experts zeggen dat de groei van AI ook gepaard gaat met slechte actoren die misbruik maken van de technologie om desinformatie en boosaardigheid te verspreiden en paniek te veroorzaken met nepnieuws.
Hoewel watermerken zijn geïdentificeerd om gebruikers in staat te stellen onderscheid te maken tussen door AI gegenereerde inhoud en echte, door mensen gemaakte inhoud, is ook dat gevoelig voor manipulatie.
Think Het registerSommige zichtbare handtekeningen, zoals het Dall-E tekst-naar-afbeelding-model, zijn een van de gemakkelijkst te omzeilen AI-detectietools. Het artikel stelt verder dat gewetenloze individuen de watermerken kunnen wegsnijden of de afbeelding kunnen kopiëren op manieren die direct downloaden omzeilen.
Een hoogleraar computerwetenschappen aan de Universiteit van Buffalo in de VS, Siwei Lyu, zei dat er ook experts zijn als het gaat om het doorbreken van de barrières.
“Watermerktechnologie wordt met een korreltje zout gebruikt, omdat het voor iemand met kennis van watermerken en AI niet zo moeilijk is om het te breken en het watermerk te verwijderen of er een te vervaardigen”, aldus Lyu.
AI-expert en uitvoerend directeur van een non-profitorganisatie die mensen helpt technologie te gebruiken om de mensenrechten te bevorderen, Sam Gregory, denkt Watermerken kunnen nog steeds worden gemanipuleerd door slechte acteurs.
Voor hem is het “een triage-instrument voor schadebeperking”, eraan toevoegend dat “het geen 100% oplossing is.”
De soorten watermerken
Het is echter niet allemaal rooskleurig voor gewetenloze, slechte acteurs. Sommige watermerken die onzichtbaar zijn, zoals die van Google DeepMind SynthID, zijn moeilijk te verwijderen omdat ze “rechtstreeks zijn ingebed in de systeemuitvoer van Imagen.”
Dit soort watermerk kan niet met het blote oog worden gezien, maar kan worden gedetecteerd met behulp van speciale software of algoritmen.
Lyu denkt echter nog steeds dat het voor schurken met enige ‘technische kennis’ mogelijk is om dat uit te wissen.
“Ik denk dat watermerken vooral inspelen op de onwetendheid van mensen over hun bestaan. Dus als ze weten dat ze het kunnen, zullen ze een manier vinden om het te doorbreken”, aldus Lyu.
Een ander type watermerk is het zichtbare watermerk, dat door bedrijven als Google, Getty en OpenAI aan video's, tekst of afbeeldingen wordt toegevoegd om de geldigheid van de inhoud te verifiëren.
Het derde type watermerk zijn cryptografische metadata. Deze laat zien wanneer de inhoud is gemaakt en hoe deze is bewerkt.
Watermerken "uitwassen".
Een onderzoek van de Universiteit van Maryland onder leiding van Soheil Feizi, hoogleraar computerwetenschappen, zei AI-watermerken waren niet waterdicht. Ze hebben alle soorten watermerken getest en ‘allemaal kapot gemaakt’.
“We beschikken op dit moment niet over betrouwbare watermerken”, zei hij.
De professor legde ook uit hoe gemakkelijk het is voor slechte acteurs om watermerken te manipuleren door wat hij omschreef als het ‘uitwassen’ van het watermerk.
Een ander onderzoek, mede geschreven door onderzoekers van de Universiteit van Californië, Santa Barbara en Carnegie Mellon, had ook dezelfde bevindingen.
“Alle zichtbare watermerken zijn niet betrouwbaar”, leest de krant.
Tijdgevoelig probleem
Een medewerker van de Amerikaanse Senaat die betrokken was bij het opstellen van wetgeving met betrekking tot AI vertelde Fedscope over de noodzaak om “gelijke tred te houden met de slechte actoren”, eraan toevoegend dat de Senaat zich momenteel in een tijdperk van “onderwijs en het definiëren van het probleem” bevond.
‘Het is net als bij Olympische atleten: nu ik weet dat je naar dit medicijn zoekt, neem ik gewoon een ander medicijn.’
met Veel landen gaan naar de stembus dit jaar kan de noodzaak van maatregelen om deepfakes en desinformatie tot een minimum te beperken niet over het hoofd worden gezien. Afgelopen september zei Chuck Schumer, leider van de meerderheid in de Senaat, dat het aanpakken van de authenticiteit van inhoud een uitdaging is tijdgevoelige kwestie gezien het feit dat in veel landen verkiezingen voor de deur staan.
“Er is het probleem van het daadwerkelijk hebben van deepfakes, waarbij mensen echt geloven … dat een kandidaat iets zegt terwijl ze volledig een creatie van AI zijn”, zei hij na zijn eerste AI-inzicht achter gesloten deuren forum.
Technologiebedrijven gaan de uitdaging aan
Intussen is de Coalition for Content Provenance and Authenticity (C2PA), het geesteskind van media- en technologiebedrijven, opgericht. Hiermee wordt de bron van de afbeelding geïdentificeerd, of het nu een camera is of een AI-programma dat is gebruikt om de afbeelding te maken.
Het geeft ook details over het tijdstip, de locatie en de manier waarop de afbeelding is gemaakt, zodat mensen de herkomst ervan kunnen verifiëren. TikTok behoort naar verluidt tot de toptechnologiebedrijven die het voortouw nemen op het gebied van watermerken.
“TikTok laat je de audiotrack zien die is gebruikt; het laat u zien welke steek is gemaakt; het laat je zien welke AI-effecten worden gebruikt”, zegt Gregory.
andere grote tech bedrijven Zoals Alphabet, Amazon, Meta en OpenAI vorig jaar beloofden watermerktechnologie te ontwikkelen om desinformatie aan te pakken.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- : heeft
- :is
- :niet
- :waar
- 8
- 9
- a
- in staat
- actoren
- werkelijk
- toegevoegd
- toe te voegen
- Adoptie
- Voordeel
- Na
- AI
- algoritmen
- Alles
- Het toestaan
- toestaat
- Alfabet
- ook
- Amazone
- onder
- an
- en
- Nog een
- elke
- ZIJN
- rond
- dit artikel
- AS
- At
- audio
- echtheid
- slecht
- barrières
- BE
- omdat
- geweest
- tussen
- Groot
- Breken
- Breaking
- Buffel
- maar
- by
- bypass
- Californië
- camera
- CAN
- kandidaat
- kan niet
- Carnegie Mellon
- Veroorzaken
- klauwplaat
- coalitie
- komt
- Bedrijven
- computer
- Computer Science
- content
- Hoek
- landen
- en je merk te creëren
- aangemaakt
- Wij creëren
- het aanmaken
- gewas
- cryptografische
- Op dit moment
- cybercriminelen
- van dall
- deepfakes
- het definiëren van
- beschreven
- gegevens
- gedetecteerd
- Opsporing
- ontwikkelen
- moeilijk
- directe
- direct
- Director
- disinformatie
- onderscheiden
- Dont
- drug
- gemakkelijkste
- En het is heel gemakkelijk
- duurt
- verkiezingen
- voortgekomen
- in staat stellen
- genoeg
- Tijdperk
- vooral
- uitvoerend
- Leidinggevend directeur
- expert
- deskundigen
- uitgelegd
- oog
- nep
- nep-nieuws
- Voordelen
- VIND DE PLEK DIE PERFECT VOOR JOU IS
- bevindingen
- bedrijven
- Voornaam*
- Voor
- formulieren
- Forum
- verder
- generatief
- generatieve AI
- krijgen
- gegeven
- geeft
- gaan
- Kopen Google Reviews
- Ground
- Groeiend
- HAD
- Hard
- schaden
- haat
- Hebben
- met
- he
- helpt
- hem
- zijn
- Hoe
- Echter
- HTTPS
- menselijk
- rechten van de mens
- i
- ZIEK
- geïdentificeerd
- identificeert
- if
- beeld
- afbeeldingen
- in
- individuen
- in
- onzichtbaar
- betrokken zijn
- kwestie
- IT
- HAAR
- voor slechts
- sleutel
- Soort
- blijven
- kennis
- Achternaam*
- Afgelopen jaar
- leiden
- leider
- LED
- Wetgeving
- als
- plaats
- op zoek
- gemaakt
- Meerderheid
- kwaadaardig
- gemanipuleerd
- Manipulatie
- veel
- Maryland
- ondertussen
- maatregelen
- Media
- Mellon
- meta
- Metadata
- methode
- verkleinen
- Desinformatie
- model
- meestal
- Noodzaak
- nieuws
- non-profit
- non-profit organisatie
- nu
- of
- Olympisch
- on
- EEN
- OpenAI
- or
- organisatie
- Overige
- uit
- uitgangen
- Tempo
- Paniek
- Papier
- Mensen
- mensen
- Fotorealistisch
- plaats
- Plato
- Plato gegevensintelligentie
- PlatoData
- Spelen
- punt
- mogelijk
- Hoogleraar
- Programma
- promoten
- herkomst
- Lees
- vast
- werkelijk
- reductie
- betrouwbaar
- verwijderen
- naar verluidt
- onderzoekers
- bevrijden
- rechten
- Rooskleurig
- Zei
- zout
- Sam
- dezelfde
- Kerstman
- santa barbara
- ervaren
- gezegde
- Wetenschap
- veiligheid
- gezien
- Senaat
- September
- tekortkomingen
- Shows
- handtekeningen
- So
- Software
- oplossing
- Oplossingen
- sommige
- Iemand
- iets
- bron
- special
- speciale software
- verspreiden
- Staten
- Still
- Studie
- dergelijk
- system
- aanpakken
- aanpakken
- Nemen
- het nemen
- tech
- tech bedrijven
- Technologies
- Technologie
- getest
- tekst
- dat
- De
- De Bron
- hun
- Ze
- Er.
- ze
- denken
- denkt
- Derde
- dit
- dit jaar
- Door
- tiktok
- niet de tijd of
- naar
- vertelde
- ook
- tools
- top
- TOTAAL
- spoor
- triage
- type dan:
- types
- universiteit-
- University of California
- University of Maryland
- us
- Amerikaanse Senaat
- .
- gebruikt
- gebruikers
- gebruik
- controleren
- Video's
- zichtbaar
- was
- watermerk
- watermerken
- watermerken
- Manier..
- manieren
- Wat
- wanneer
- of
- welke
- wil
- Met
- jaar
- nog
- u
- zephyrnet