Vesimärkide sisust ei piisa ikka veel, et teha vahet päris ja tehisintellekti loodud sisu vahel, kuna küberkurjategijad võivad ka turvafunktsioonidest mööda minna.
Selle põhjuseks on asjaolu, et tehisintellekti tehnoloogiaid, eriti generatiivset tehisintellekti on üha rohkem kasutusele võetud, luues hoolimatutele inimestele soodsa pinnase, et seda kasutada valeinformatsiooni, vihkamise ja muu pahatahtliku sisu levitamiseks.
Vesimärgid on kujunenud üheks peamiseks lahenduseks tehisintellekti loodud sisu ja tegeliku sisu eristamiseks. Kuid sellel on ka oma puudused.
Loe ka: Meta Audio2Photoreal võimaldab nüüd häälega fotorealistlikke avatare
Manipuleerimine
Eksperdid ütlevad, et tehisintellekti kasvuga kaasnevad ka halvad tegijad, kes kasutavad tehnoloogiat ära, et levitada desinformatsiooni ja pahatahtlikkust ning tekitada võltsuudistega paanikat.
Kuigi on tuvastatud, et vesimärgid võimaldavad kasutajatel teha vahet tehisintellekti loodud sisu ja tegeliku inimese loodud sisu vahel, on ka see manipuleeritav.
Järgi Register, on mõned nähtavad allkirjad, näiteks Dall-E tekst-pildiks mudel, ühed lihtsamini tehisintellekti tuvastamise tööriistast mööda hiilivad. Lisaks öeldakse artiklis, et hoolimatud isikud võivad vesimärke välja kärpida või pilti kopeerida viisil, mis väldib otsest allalaadimist.
USA Buffalo ülikooli arvutiteaduse professor Siwei Lyu ütles, et barjääride murdmisel on ka eksperte.
"Vesimärgitehnoloogiat on kasutatud soolateraga, sest vesimärke ja tehisintellekti tundval inimesel pole nii raske seda lõhkuda ja vesimärki eemaldada või vesimärki valmistada," ütles Lyu.
AI ekspert ja tegevdirektor mittetulundusühingus, mis aitab inimestel tehnoloogiat inimõiguste edendamiseks kasutada, Sam Gregory, arvab, vesimärgiga saavad ikkagi halvad näitlejad manipuleerida.
Tema jaoks on see "kahjude vähendamise triaaživahend", lisades, et "see pole 100% lahendus".
Vesimärkide tüübid
Kuid hoolimatute ja halbade näitlejate jaoks pole kõik roosiline. Mõned vesimärgid, mis on nähtamatud, nagu Google DeepMind SynthID, neist on raske lahti saada, kuna need on "otse Imageni süsteemiväljunditesse manustatud".
Sellist vesimärki ei saa palja silmaga näha, kuid seda saab tuvastada spetsiaalse tarkvara või algoritmide abil.
Lyu aga arvab endiselt, et mõne "tehnilise oskusteabega" kaabakatel on võimalik sellest lahti saada.
"Ma arvan, et vesimärgid mängivad peamiselt inimeste teadmatuses oma olemasolust. Seega, kui nad teavad, et saavad, leiavad nad viisi, kuidas seda murda, ”ütles Lyu.
Teist tüüpi vesimärk on nähtav, mille lisavad videotele, tekstile või piltidele sellised ettevõtted nagu Google, Getty ja OpenAI, et kontrollida sisu õigsust.
Kolmas vesimärkide tüüp on krüptograafilised metaandmed. See näitab, millal sisu loodi ja kuidas seda on muudetud.
Vesimärkide "väljapesemine".
Arvutiteaduse professori Soheil Feizi juhitud Marylandi ülikooli uuring näitas, et tehisintellekti vesimärgid ei olnud lollikindel. Nad testisid kõiki vesimärkide tüüpe ja "lõhkusid need kõik".
"Meil ei ole praegu ühtegi usaldusväärset vesimärki," ütles ta.
Professor selgitas ka, kui lihtne on halbadel näitlejatel vesimärkidega manipuleerida, mida ta kirjeldas kui vesimärgi "väljapesemist".
Teises California ülikooli (Santa Barbara ja Carnegie Melloni) teadlaste kaasautoris tehtud uuringus olid samuti samad tulemused.
"Kõik nähtavad vesimärgid ei ole usaldusväärsed," loeb paber.
Ajatundlik probleem
Üks USA senati töötaja, kes tegeles tehisintellekti käsitlevate õigusaktide väljatöötamisega, ütles Fedscope'ile, et on vaja "halbade osalejatega sammu pidada", lisades, et senat on praegu "hariduse ja probleemi määratlemise" ajastul.
"See on nagu olümpiasportlased – nüüd, kui ma tean, et otsite seda ravimit, võtan lihtsalt teise ravimi."
koos paljud riigid lähevad valima sel aastal ei saa mööda vaadata vajadusest võtta meetmeid süvavõltsingute ja desinformatsiooni minimeerimiseks. Eelmise aasta septembris ütles senati enamuse juht Chuck Schumer, et sisu autentsusega tegelemine on a ajatundlik probleem arvestades, et paljudes riikides on valimised ukse ees.
"Tegelikult on probleem sügavate võltsingute olemasolus, kus inimesed tõesti usuvad... et kandidaat ütleb midagi, kui ta on täielikult AI looming," ütles ta pärast esimest suletud uste AI ülevaade foorum.
Tehnikaettevõtted võtavad väljakutse vastu
Vahepeal on nüüd loodud sisu päritolu ja autentsuse koalitsioon (C2PA), mis on meedia- ja tehnoloogiaettevõtete vaimusünnitus. See tuvastab pildi allika, olgu selleks kaamera või AI-programm, mida selle loomisel kasutati.
See annab ka üksikasju pildi loomise aja, asukoha ja meetodi kohta, võimaldades inimestel kontrollida selle päritolu. TikTok on väidetavalt üks juhtivaid tehnoloogiaettevõtteid, kes on vesimärgises juhtpositsioonil.
„TikTok näitab teile kasutatud heliriba; see näitab teile tehtud õmblust; see näitab teile kasutatud tehisintellektiefekte, ”ütles Gregory.
Muud suured tech ettevõtted nagu Alphabet, Amazon, Meta ja OpenAI lubasid eelmisel aastal töötada välja vesimärgitehnoloogia, et võidelda valeinformatsiooniga.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :on
- :on
- :mitte
- : kus
- 8
- 9
- a
- Võimalik
- osalejad
- tegelikult
- lisatud
- lisades
- Vastuvõtmine
- ADEelis
- pärast
- AI
- algoritme
- Materjal: BPA ja flataatide vaba plastik
- Lubades
- võimaldab
- Tähestik
- Ka
- Amazon
- vahel
- an
- ja
- Teine
- mistahes
- OLEME
- ümber
- artikkel
- AS
- At
- heli-
- autentsus
- Halb
- tõkked
- BE
- sest
- olnud
- vahel
- Suur
- Murdma
- Purustamine
- Pühvel
- kuid
- by
- ümbersõidutee
- California
- kaamera
- CAN
- kandidaat
- ei saa
- Carnegie Mellon
- Põhjus
- patsutama
- koalitsioon
- tuleb
- Ettevõtted
- arvuti
- Arvutiteadus
- sisu
- Nurk
- riikides
- looma
- loodud
- loomine
- loomine
- põllukultuur
- krüptograafia
- Praegu
- küberkurjategijad
- dall's
- deepfakes
- määratlemisel
- kirjeldatud
- detailid
- tuvastatud
- Detection
- arendama
- raske
- otsene
- otse
- Juhataja
- deinformatsioon
- eristama
- Ära
- uimasti
- lihtsaim
- lihtne
- mõju
- Valimised
- tekkinud
- võimaldama
- piisavalt
- Ajastu
- eriti
- täidesaatev
- Tegevdirektor
- ekspert
- ekspertide
- selgitas
- silm
- võlts
- võlts uudised
- FUNKTSIOONID
- leidma
- järeldused
- ettevõtetele
- esimene
- eest
- vormid
- foorumid
- edasi
- generatiivne
- Generatiivne AI
- saama
- antud
- annab
- läheb
- Maa
- Kasvavad
- Kasv
- olnud
- Raske
- kahju
- viha
- Olema
- võttes
- he
- aitab
- teda
- tema
- Kuidas
- aga
- HTTPS
- inim-
- inimõiguste
- i
- Ma teen
- tuvastatud
- identifitseerib
- if
- pilt
- pildid
- in
- inimesed
- sisse
- nähtamatu
- seotud
- probleem
- IT
- ITS
- lihtsalt
- Võti
- Laps
- Teadma
- teadmised
- viimane
- Eelmisel aastal
- viima
- juht
- Led
- Seadusandlus
- nagu
- liising
- otsin
- tehtud
- Enamus
- pahatahtlik
- manipuleeritav
- Manipuleerimine
- palju
- Maryland
- vahepeal
- meetmed
- Meedia
- Mellon
- Meta
- Metaandmed
- meetod
- minimeerima
- Väärinformatsioon
- mudel
- enamasti
- Vajadus
- uudised
- mittetulunduslik
- mittetulundusühing
- nüüd
- of
- Olümpia-
- on
- ONE
- OpenAI
- or
- organisatsioon
- Muu
- välja
- väljundid
- tempo
- Paanika
- Paber
- Inimesed
- inimeste
- Fotorealistlik
- Koht
- Platon
- Platoni andmete intelligentsus
- PlatoData
- mängima
- Punkt
- võimalik
- Õpetaja
- Programm
- edendama
- päritolu
- Lugenud
- reaalne
- tõesti
- vähendamine
- usaldusväärne
- kõrvaldama
- teatatud
- Teadlased
- Rid
- õigusi
- Roosiline
- Ütlesin
- sool
- Sam
- sama
- Santa
- Santa Barbara
- ütlema
- ütlus
- teadus
- turvalisus
- nähtud
- Senat
- September
- puudused
- Näitused
- Allkirjad
- So
- tarkvara
- lahendus
- Lahendused
- mõned
- Keegi
- midagi
- allikas
- eriline
- spetsiaalne tarkvara
- laiali
- Ühendriigid
- Veel
- Uuring
- selline
- süsteem
- lahendada
- tegelemine
- Võtma
- võtmine
- tech
- tech ettevõtted
- Tehnoloogiad
- Tehnoloogia
- katsetatud
- tekst
- et
- .
- Allikas
- oma
- Neile
- Seal.
- nad
- mõtlema
- Mõtleb
- Kolmas
- see
- Sel aastal
- Läbi
- tikk-takk
- aeg
- et
- ütles
- liiga
- tööriist
- ülemine
- TÄIELIKULT
- jälgida
- triaaž
- tüüp
- liigid
- Ülikool
- California Ülikool
- Marylandi Ülikool
- us
- USA senati
- kasutama
- Kasutatud
- Kasutajad
- kasutamine
- kontrollima
- Videod
- nähtav
- oli
- vesimärk
- vesileimaus
- vesimärgid
- Tee..
- kuidas
- M
- millal
- kas
- mis
- will
- koos
- aasta
- veel
- sa
- sephyrnet