Vsebina z vodnim žigom še vedno ni dovolj za razlikovanje med resnično vsebino in vsebino, ki jo ustvari umetna inteligenca, saj lahko kibernetski kriminalci zaobidejo tudi varnostne funkcije.
To je posledica vse večjega sprejemanja tehnologij umetne inteligence, zlasti generativne umetne inteligence, kar ustvarja plodna tla za brezvestne posameznike, ki jo uporabljajo za širjenje napačnih informacij, sovraštva in drugih oblik zlonamerne vsebine.
In vodni žig se je izkazal kot ena ključnih rešitev za razlikovanje med vsebino, ki jo ustvari umetna inteligenca, in vsebino iz resničnega življenja. Vendar ima tudi svoje pomanjkljivosti.
Preberite tudi: Metin Audio2Photoreal zdaj omogoča glasovne fotorealistične avatarje
Manipulacija
Strokovnjaki pravijo, da rast umetne inteligence prinaša tudi slabi akterji, ki izkoriščajo tehnologijo za širjenje dezinformacij in zlobe ter povzročajo paniko z lažnimi novicami.
Čeprav je bilo ugotovljeno, da vodni žig uporabnikom omogoča razlikovanje med vsebino, ki jo ustvari umetna inteligenca, in resnično vsebino, ki jo ustvari človek, je tudi to nagnjeno k manipulaciji.
Glede na Register, so nekateri vidni podpisi, kot je model besedila v sliko Dall-E, eden najlažjih načinov za obhod orodja za zaznavanje AI. Članek nadalje navaja, da lahko brezvestni posamezniki izrežejo vodne žige ali kopirajo sliko na načine, ki zaobidejo neposredni prenos.
Siwei Lyu, profesor računalništva na Univerzi v Buffalu v ZDA, je dejal, da obstajajo tudi strokovnjaki, ko gre za podiranje ovir.
»Tehnologija vodnih žigov je bila uporabljena z rezervo, saj nekomu, ki pozna vodne žige in AI, ni tako težko, da bi jo zlomil in odstranil vodni žig ali ga izdelal,« je dejal Lyu.
Strokovnjak za umetno inteligenco in izvršni direktor neprofitne organizacije, ki ljudem pomaga uporabljati tehnologijo za spodbujanje človekovih pravic, Sam Gregory, meni slabi akterji lahko še vedno manipulirajo z vodnim žigom.
Zanj je to "triažno orodje za zmanjšanje škode", dodal pa je, da "ni 100-odstotna rešitev."
Vrste vodnih žigov
Vendar pa ni vse rožnato za brezvestne, slabe igralce. Nekateri vodni žigi, ki so nevidni, kot je Google DeepMind SynthID, se jih je težko znebiti, ker so »vdelani neposredno v sistemske izhode Imagen«.
Tovrstnega vodnega žiga ni mogoče videti s prostim očesom, lahko pa ga zaznate s posebno programsko opremo ali algoritmi.
Vendar Lyu še vedno misli, da lahko nepridipravi z nekaj "tehničnega znanja in izkušenj to izbrišejo."
»Mislim, da vodni žigi večinoma igrajo na nezavedanje ljudi o njihovem obstoju. Torej, če vedo, da lahko, bodo našli način, da ga zlomijo,« je dejal Lyu.
Druga vrsta vodnega žiga je vidni, ki ga videoposnetkom, besedilom ali slikam dodajo podjetja, kot so Google, Getty in OpenAI, da preverijo veljavnost vsebine.
Tretja vrsta vodnega žiga so kriptografski metapodatki. Ta prikazuje, kdaj je bila vsebina ustvarjena in kako je bila urejena.
"Izpiranje" vodnih žigov
Študija Univerze v Marylandu, ki jo je vodil Soheil Feizi, profesor računalništva, pravi, da vodni žigi AI niso bili zanesljivi. Preizkusili so vse vrste vodnih žigov in "vse zlomili".
"Trenutno nimamo nobenega zanesljivega vodnega žiga," je dejal.
Profesor je tudi pojasnil, kako enostavno je slabim igralcem manipulirati z vodnimi žigi, kar je opisal kot "izpiranje" vodnega žiga.
Enake ugotovitve je imela tudi druga študija, ki so jo soavtorji raziskovalci na kalifornijski univerzi v Santa Barbari in Carnegie Mellon.
"Vsi vidni vodni žigi niso zanesljivi," bere papir.
Časovno občutljiva težava
Uslužbenec ameriškega senata, ki sodeluje pri pripravi zakonodaje v zvezi z umetno inteligenco, je za Fedscope povedal, da je treba "držati korak s slabimi akterji", in dodal, da je senat trenutno v dobi "izobraževanja in definiranja problema".
"To je kot pri olimpijskih športnikih - zdaj, ko vem, da iščete to zdravilo, bom vzel drugo zdravilo."
z številnih državah, ki gredo na volitve letos ni mogoče spregledati potrebe po ukrepih za zmanjšanje globinskih ponaredkov in dezinformacij. Septembra lani je vodja senatne večine Chuck Schumer dejal, da je boj proti pristnosti vsebine časovno občutljivo vprašanje glede na to, da so volitve v mnogih državah tik pred vrati.
"Obstaja vprašanje dejanskih ponaredkov, kjer ljudje resnično verjamejo ... da kandidat nekaj govori, čeprav je v celoti stvaritev umetne inteligence," je dejal po svojem prvem vpogled umetne inteligence zaprtih vrat forum.
Tehnološka podjetja sprejmejo izziv
Medtem je zdaj vzpostavljena Coalition for Content Provenance and Authenticity (C2PA), zamisel medijskih in tehnoloških podjetij. To identificira vir slike, ne glede na to, ali je kamera ali program AI, ki je bil uporabljen za njeno ustvarjanje.
Vsebuje tudi podrobnosti o času, lokaciji in načinu ustvarjanja slike, kar ljudem omogoča, da preverijo njen izvor. TikTok naj bi bil med najboljšimi tehnološkimi podjetji, ki so prevzeli vodilno vlogo pri vodnem žigu.
»TikTok vam pokaže zvočni posnetek, ki je bil uporabljen; prikaže vam šiv, ki je bil narejen; prikazuje uporabljene učinke AI,« je dejal Gregory.
Drugi veliki Tech podjetja tako kot Alphabet, Amazon, Meta in OpenAI so se lani zavezali, da bodo razvili tehnologijo vodnih žigov za boj proti dezinformacijam.
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
- PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
- PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
- PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
- vir: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :ima
- : je
- :ne
- :kje
- 8
- 9
- a
- Sposobna
- akterji
- dejansko
- dodano
- dodajanje
- Sprejetje
- Prednost
- po
- AI
- algoritmi
- vsi
- Dovoli
- omogoča
- Abeceda
- Prav tako
- Amazon
- med
- an
- in
- Še ena
- kaj
- SE
- okoli
- članek
- AS
- At
- audio
- Pristnost
- Slab
- ovire
- BE
- ker
- bilo
- med
- Big
- Break
- Breaking
- Buffalo
- vendar
- by
- bypass
- california
- kamera
- CAN
- Kandidat
- ne more
- Carnegie Mellon
- Vzrok
- glava
- koalicija
- prihaja
- Podjetja
- računalnik
- Računalništvo
- vsebina
- Kotiček
- države
- ustvarjajo
- ustvaril
- Ustvarjanje
- Oblikovanje
- pridelek
- kriptografijo
- Trenutno
- cybercriminals
- dall's
- deepfakes
- definiranje
- opisano
- Podrobnosti
- Zaznali
- Odkrivanje
- Razvoj
- težko
- neposredna
- neposredno
- Direktor
- dezinformacija
- razlikovati
- dont
- drog
- najlažje
- lahka
- Učinki
- Volitve
- pojavile
- omogočajo
- dovolj
- Era
- zlasti
- izvršni
- Izvršni direktor
- strokovnjak
- Strokovnjaki
- razložiti
- oči
- ponaredek
- ponaredek novice
- Lastnosti
- Najdi
- Ugotovitve
- podjetja
- prva
- za
- Obrazci
- Forum
- nadalje
- generativno
- Generativna AI
- dobili
- dana
- daje
- dogaja
- Igrišče
- Pridelovanje
- Rast
- imel
- Trdi
- škodovalo
- sovražijo
- Imajo
- ob
- he
- Pomaga
- ga
- njegov
- Kako
- Vendar
- HTTPS
- človeškega
- človekove pravice
- i
- Bom
- identificirati
- identificira
- if
- slika
- slike
- in
- posamezniki
- v
- neviden
- vključeni
- vprašanje
- IT
- ITS
- samo
- Ključne
- Otrok
- Vedite
- znanje
- Zadnja
- Lansko leto
- vodi
- Vodja
- Led
- Zakonodaja
- kot
- kraj aktivnosti
- si
- je
- Večina
- zlonamerno
- manipulirati
- Manipulacija
- več
- Maryland
- medtem
- ukrepe
- mediji
- Mellon
- Meta
- metapodatki
- Metoda
- zmanjšajo
- Dezinformacije
- Model
- večinoma
- Nimate
- novice
- neprofitna
- neprofitna organizacija
- zdaj
- of
- Olimpijski
- on
- ONE
- OpenAI
- or
- Organizacija
- Ostalo
- ven
- izhodi
- Pace
- Panic
- Papir
- ljudje
- Ljudske
- Fotorealistično
- Kraj
- platon
- Platonova podatkovna inteligenca
- PlatoData
- Predvajaj
- Točka
- mogoče
- Učitelj
- Program
- spodbujanje
- izvor
- Preberi
- pravo
- res
- Zmanjšanje
- zanesljiv
- odstrani
- domnevno
- raziskovalci
- znebi
- pravice
- Rosy
- Je dejal
- sol
- sam
- Enako
- Božiček
- santa barbara
- pravijo,
- rek
- Znanost
- varnost
- videl
- Senat
- september
- pomanjkljivosti
- Razstave
- Podpisi
- So
- Software
- Rešitev
- rešitve
- nekaj
- nekdo
- Nekaj
- vir
- posebna
- posebna programska oprema
- namaz
- Države
- Še vedno
- študija
- taka
- sistem
- reševanje
- reševanje
- Bodite
- ob
- tech
- Tech podjetja
- Tehnologije
- Tehnologija
- Testiran
- besedilo
- da
- O
- Vir
- njihove
- Njih
- Tukaj.
- jih
- mislim
- Misli
- tretja
- ta
- letos
- skozi
- tik Tok
- čas
- do
- Rekel
- tudi
- orodje
- vrh
- POPOLNOMA
- sledenje
- triaža
- tip
- Vrste
- univerza
- Univerza v Kaliforniji
- Univerza v Marylandu
- us
- Senat ZDA
- uporaba
- Rabljeni
- Uporabniki
- uporabo
- preverjanje
- Video posnetki
- vidna
- je
- vodni žig
- Vodni žig
- vodnih žigov
- način..
- načini
- Kaj
- kdaj
- ali
- ki
- bo
- z
- leto
- še
- jo
- zefirnet