Vannmerkeinnhold er fortsatt ikke nok til å skille mellom ekte og AI-generert innhold, siden nettkriminelle også kan omgå sikkerhetsfunksjonene.
Dette kommer ettersom det har vært økende bruk av AI-teknologier, spesielt generativ AI, og skaper grobunn for skruppelløse individer til å bruke den til å spre feilinformasjon, hat og andre former for ondsinnet innhold.
Og vannmerking har dukket opp som en av nøkkelløsningene for å skille mellom AI-generert innhold og virkelighetsinnhold. Men det har også sine mangler.
Les også: Metas Audio2Photoreal tillater nå stemmedrevne fotorealistiske avatarer
Manipulasjonen
Eksperter sier at AI-veksten også kommer med dårlige aktører som utnytter teknologien for å spre desinformasjon og ondskap og forårsake panikk med falske nyheter.
Selv om vannmerking er identifisert for å gjøre det mulig for brukere å skille mellom AI-generert innhold og ekte menneskeskapt innhold, er det også utsatt for manipulasjon.
Ifølge Registeret, noen synlige signaturer, for eksempel Dall-E tekst-til-bilde-modellen, er en av de enkleste å omgå AI-deteksjonsverktøyet. Artikkelen sier videre at skruppelløse individer kan beskjære vannmerkene eller kopiere bildet på måter som omgår direkte nedlasting.
En professor i informatikk ved University of Buffalo i USA, Siwei Lyu, sa at det også finnes eksperter når det gjelder å bryte barrierene.
"Vannmerketeknologi har blitt brukt med en klype salt fordi det ikke er så vanskelig for noen med kunnskap om vannmerker og AI å kunne bryte det og fjerne vannmerket eller produsere et," sa Lyu.
AI-ekspert og administrerende direktør for en ideell organisasjon som hjelper folk å bruke teknologi for å fremme menneskerettigheter, Sam Gregory, mener vannmerking kan fortsatt manipuleres av dårlige skuespillere.
For ham er det "et triage-verktøy for skadereduksjon," og legger til at "det ikke er en 100% løsning."
Typer vannmerker
Men alt er ikke rosenrødt for skruppelløse, dårlige skuespillere. Noen vannmerker som er usynlige, som Google DeepMind SynthID, er vanskelig å bli kvitt fordi de er "innebygd direkte i Imagens systemutganger."
Denne typen vannmerke kan ikke sees med det blotte øye, men kan oppdages ved hjelp av spesiell programvare eller algoritmer.
Lyu tror imidlertid fortsatt at det er mulig for skurker med litt "teknisk kunnskap å skrubbe det ut."
"Jeg tror vannmerker stort sett spiller på folks uvitenhet om deres eksistens. Så hvis de vet at de kan, vil de finne en måte å bryte det på, sa Lyu.
En annen type vannmerke er det synlige, som legges til videoer, tekst eller bilder av selskaper som Google, Getty og OpenAI for å bekrefte gyldigheten av innhold.
Den tredje typen vannmerke er kryptografiske metadata. Denne viser når innholdet ble opprettet og hvordan det har blitt redigert.
"Vasker ut" vannmerker
En studie ved University of Maryland ledet av Soheil Feizi, professor i informatikk, sa AI vannmerker var ikke idiotsikre. De testet alle typer vannmerker og "brøt dem alle."
"Vi har ingen pålitelig vannmerking på dette tidspunktet," sa han.
Professoren forklarte også hvor lett det er for dårlige skuespillere å manipulere vannmerker i det han beskrev som å "vaske ut" vannmerket.
En annen studie medforfatter av forskere ved University of California, Santa Barbara og Carnegie Mellon hadde også de samme funnene.
"Alle synlige vannmerker er ikke pålitelige," leser avisen.
Tidsfølsomt problem
En amerikansk ansatt i Senatet som var involvert i utformingen av lovgivning knyttet til AI fortalte Fedscope om behovet for å "holde tritt med de dårlige skuespillerne", og la til at Senatet for tiden var inne i en "utdanning og definering av problemet"-æra.
"Det er som OL-idrettsutøvere - nå som jeg vet at du leter etter dette stoffet, vil jeg bare ta et annet stoff."
Med mange land går til valgurnene i år kan behovet for tiltak for å minimere deepfakes og feilinformasjon ikke overses. I september i fjor sa Senatets majoritetsleder Chuck Schumer å takle ektheten til innhold var en tidssensitiv problemstilling gitt at valget er rett rundt hjørnet i mange land.
"Det er spørsmålet om å faktisk ha dype forfalskninger, der folk virkelig tror ... at en kandidat sier noe når de er helt en skapelse av AI," sa han etter sin første AI-innsikt med lukkede dører forum.
Teknologifirmaer tar utfordringen
I mellomtiden er Coalition for Content Provenance and Authenticity (C2PA), ideen til medie- og teknologiselskaper, nå på plass. Dette identifiserer kilden til bildet, enten det er et kamera eller et AI-program som ble brukt til å lage det.
Den gir også detaljer om tidspunkt, plassering og metode for opprettelse av bildet, slik at folk kan bekrefte herkomsten. TikTok er angivelig blant de beste teknologiselskapene som tar ledelsen når det gjelder vannmerking.
«TikTok viser deg lydsporet som ble brukt; den viser deg sømmen som ble laget; den viser deg AI-effektene som er brukt," sa Gregory.
Andre store tech selskaper som Alphabet, Amazon, Meta og OpenAI lovet i fjor å utvikle vannmerketeknologi for å takle feilinformasjon.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- : har
- :er
- :ikke
- :hvor
- 8
- 9
- a
- I stand
- aktører
- faktisk
- la til
- legge
- Adopsjon
- Fordel
- Etter
- AI
- algoritmer
- Alle
- tillate
- tillater
- Alphabet
- også
- Amazon
- blant
- an
- og
- En annen
- noen
- ER
- rundt
- Artikkel
- AS
- At
- lyd
- autentisitet
- dårlig
- barrierer
- BE
- fordi
- vært
- mellom
- Stor
- Break
- Breaking
- Buffalo
- men
- by
- bypass
- california
- rom
- CAN
- kandidat
- kan ikke
- Carnegie Mellon
- Årsak
- chuck
- koalisjon
- kommer
- Selskaper
- datamaskin
- informatikk
- innhold
- Corner
- land
- skape
- opprettet
- Opprette
- skaperverket
- avling
- kryptografisk
- I dag
- nettkriminelle
- dall sin
- deepfakes
- definere
- beskrevet
- detaljer
- oppdaget
- Gjenkjenning
- utvikle
- vanskelig
- direkte
- direkte
- Regissør
- desinformasjon
- skille
- ikke
- medikament
- enkleste
- lett
- effekter
- Valg
- dukket
- muliggjøre
- nok
- Era
- spesielt
- utøvende
- Direktør
- Expert
- eksperter
- forklarte
- øye
- forfalskning
- falske nyheter
- Egenskaper
- Finn
- funn
- bedrifter
- Først
- Til
- skjemaer
- Forum
- videre
- generative
- Generativ AI
- få
- gitt
- gir
- skal
- Ground
- Økende
- Vekst
- HAD
- Hard
- skade
- hater
- Ha
- å ha
- he
- hjelper
- ham
- hans
- Hvordan
- Men
- HTTPS
- menneskelig
- menneskerettigheter
- i
- JEG VIL
- identifisert
- identifiserer
- if
- bilde
- bilder
- in
- individer
- inn
- usynlig
- involvert
- utstedelse
- IT
- DET ER
- bare
- nøkkel
- Type
- Vet
- kunnskap
- Siste
- I fjor
- føre
- leder
- Led
- Lovgivning
- i likhet med
- plassering
- ser
- laget
- Flertall
- skadelig
- manipulert
- Manipulasjon
- mange
- Maryland
- mellomtiden
- målinger
- Media
- Mellon
- Meta
- metadata
- metode
- minimere
- feil~~POS=TRUNC
- modell
- for det meste
- Trenger
- nyheter
- non-profit
- non-profit organisasjon
- nå
- of
- OL
- on
- ONE
- OpenAI
- or
- organisasjon
- Annen
- ut
- utganger
- Fred
- Panic
- Papir
- Ansatte
- folks
- Fotorealistisk
- Sted
- plato
- Platon Data Intelligence
- PlatonData
- Spille
- Point
- mulig
- Professor
- program
- fremme
- proveniens
- Lese
- ekte
- virkelig
- reduksjon
- pålitelig
- fjerne
- velig
- forskere
- Kvitt
- rettigheter
- Rosy
- Sa
- salt
- Sam
- samme
- Nisse
- Santa Barbara
- sier
- sier
- Vitenskap
- sikkerhet
- sett
- Senatet
- September
- mangler
- Viser
- signaturer
- So
- Software
- løsning
- Solutions
- noen
- Noen
- noe
- kilde
- spesiell
- spesiell programvare
- spre
- Stater
- Still
- Studer
- slik
- system
- takle
- takling
- Ta
- ta
- tech
- tech selskaper
- Technologies
- Teknologi
- testet
- tekst
- Det
- De
- Kilden
- deres
- Dem
- Der.
- de
- tror
- tenker
- Tredje
- denne
- dette året
- Gjennom
- TikTok
- tid
- til
- fortalte
- også
- verktøy
- topp
- HELT KLART
- spor
- triage
- typen
- typer
- universitet
- University of California
- University of Maryland
- us
- Det amerikanske senatet
- bruke
- brukt
- Brukere
- ved hjelp av
- verifisere
- videoer
- synlig
- var
- vannmerke
- Vannmerking
- vannmerker
- Vei..
- måter
- Hva
- når
- om
- hvilken
- vil
- med
- år
- ennå
- du
- zephyrnet