Vesileimasisältö ei vieläkään riitä erottamaan todellista ja tekoälyn luomaa sisältöä, sillä kyberrikolliset voivat myös ohittaa turvaominaisuudet.
Tämä johtuu siitä, että tekoälyteknologioiden, erityisesti generatiivisen tekoälyn, käyttö on lisääntynyt, mikä luo hedelmällistä maaperää häikäilemättömille henkilöille levittääkseen sitä väärää tietoa, vihaa ja muunlaista haitallista sisältöä.
Ja vesileima on noussut yhdeksi tärkeimmistä ratkaisuista tekoälyn luoman sisällön ja tosielämän sisällön erottamiseen. Silti siinä on myös puutteita.
Lue myös: Metan Audio2Photoreal sallii nyt äänikäyttöiset fotorealistiset avatarit
Manipulointi
Asiantuntijat sanovat, että tekoälyn kasvuun liittyy myös huonoja toimijoita, jotka hyödyntävät teknologiaa levittääkseen disinformaatiota ja ilkeyttä ja aiheuttaakseen paniikkia valeuutisilla.
Vaikka vesileimauksen on tunnistettu auttamaan käyttäjiä erottamaan tekoälyn luoma sisältö todellisesta ihmisen luomasta sisällöstä, sekin on altis manipulaatiolle.
Mukaan Rekisteri, jotkin näkyvät allekirjoitukset, kuten Dall-E tekstistä kuvaksi -malli, ovat yksi helpoimmista ohittaa tekoälyn tunnistustyökalu. Artikkelissa todetaan lisäksi, että häikäilemättömät henkilöt voivat leikata pois vesileimat tai kopioida kuvan tavalla, joka ohittaa suoran lataamisen.
Tietojenkäsittelytieteen professori Buffalon yliopistosta Yhdysvalloissa, Siwei Lyu, sanoi, että esteiden murtamiseen on myös asiantuntijoita.
"Vesileimatekniikkaa on käytetty suolan kanssa, koska vesileimat ja tekoälyä tuntevan ei ole niin vaikeaa rikkoa sitä ja poistaa vesileimaa tai valmistaa sellaisen", Lyu sanoi.
Tekoälyasiantuntija ja toiminnanjohtaja voittoa tavoittelemattomalle organisaatiolle, joka auttaa ihmisiä käyttämään teknologiaa ihmisoikeuksien edistämiseen, Sam Gregory, ajattelee Huonot toimijat voivat silti manipuloida vesileimaa.
Hänelle se on "haittojen vähentämiseen tarkoitettu triage-työkalu", joka lisää, että "se ei ole 100-prosenttinen ratkaisu".
Vesileimojen tyypit
Kaikki ei kuitenkaan ole ruusuista häikäilemättömille, huonoille näyttelijöille. Jotkut vesileimat, jotka ovat näkymättömiä, kuten Google DeepMind SynthID, niistä on vaikea päästä eroon, koska ne on "upotettu suoraan Imagenin järjestelmälähtöihin".
Tällaista vesileimaa ei voi nähdä paljaalla silmällä, mutta se voidaan havaita erityisillä ohjelmistoilla tai algoritmeilla.
Lyu kuitenkin uskoo edelleen, että roistot, joilla on "teknistä osaamista, voivat puhdistaa sen".
”Uskon, että vesileimat vaikuttavat enimmäkseen ihmisten tietämättömyyteen olemassaolostaan. Joten jos he tietävät pystyvänsä, he löytävät tavan murtaa se", Lyu sanoi.
Toinen vesileimatyyppi on näkyvä vesileima, jonka Googlen, Gettyn ja OpenAI:n kaltaiset yritykset lisäävät videoihin, tekstiin tai kuviin sisällön oikeellisuuden tarkistamiseksi.
Kolmas vesileimatyyppi on kryptografinen metadata. Tämä näyttää, milloin sisältö on luotu ja miten sitä on muokattu.
Vesileimat "pestään pois".
Marylandin yliopiston tutkimus, jota johti tietojenkäsittelytieteen professori Soheil Feizi, sanoi tekoälyn vesileimat. eivät olleet idioottivarmoja. He testasivat kaiken tyyppisiä vesileimoja ja "rikoivat ne kaikki".
"Meillä ei ole tässä vaiheessa luotettavaa vesileimaa", hän sanoi.
Professori selitti myös, kuinka helppoa huonojen näyttelijöiden on manipuloida vesileimoja siinä, mitä hän kuvaili vesileiman "pesemiseksi pois".
Myös toisessa Kalifornian yliopiston Santa Barbaran ja Carnegie Mellonin tutkijoiden yhdessä kirjoittamassa tutkimuksessa oli samat havainnot.
"Kaikki näkyvät vesileimat eivät ole luotettavia" lukee paperi.
Aikaherkkä ongelma
Yhdysvaltain senaatin työntekijä, joka osallistui tekoälyä koskevan lainsäädännön valmisteluun, kertoi Fedscopelle tarpeesta pysyä "pahojen toimijoiden tahdissa", ja lisäsi, että senaatti oli tällä hetkellä "koulutus- ja ongelmanmäärittelyn" aikakaudella.
"Se on kuin olympiaurheilijat - nyt kun tiedän, että etsit tätä lääkettä, otan vain toisen lääkkeen."
Kanssa monet maat ovat menossa vaaleihin tänä vuonna ei voida jättää huomiotta toimenpiteiden tarvetta syväväärennösten ja väärän tiedon minimoimiseksi. Viime syyskuussa senaatin enemmistön johtaja Chuck Schumer sanoi, että sisällön aitouden torjuminen oli a aikaherkkä asia koska vaalit ovat monissa maissa aivan nurkan takana.
"On kysymys syväväärennöksistä, joissa ihmiset todella uskovat... että ehdokas sanoo jotain, kun hän on täysin tekoälyn luomus", hän sanoi ensimmäisen kerran. suljettujen ovien AI-näkemys foorumi.
Teknologiayritykset ottavat haasteen vastaan
Sillä välin media- ja teknologiayritysten idean synnyttämä sisällön alkuperän ja autenttisuuden koalitio (C2PA) on nyt paikallaan. Tämä tunnistaa kuvan lähteen, olipa kyseessä kamera tai tekoälyohjelma, jota käytettiin kuvan luomiseen.
Se antaa myös tietoja kuvan luomisajasta, -paikasta ja -menetelmästä, jotta ihmiset voivat varmistaa sen alkuperän. TikTok on tiettävästi yksi parhaista teknologiayrityksistä, jotka ovat ottaneet johtoaseman vesileimauksessa.
"TikTok näyttää sinulle käytetyn ääniraidan; se näyttää sinulle tehdyn ompeleen; se näyttää käytetyt tekoälyefektit", Gregory sanoi.
Muut isot tech-yrityksille Kuten Alphabet, Amazon, Meta ja OpenAI lupasivat viime vuonna kehittää vesileimateknologiaa torjuakseen väärää tietoa.
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :on
- :On
- :ei
- :missä
- 8
- 9
- a
- pystyy
- toimijoiden
- todella
- lisä-
- lisää
- Hyväksyminen
- Etu
- Jälkeen
- AI
- algoritmit
- Kaikki
- Salliminen
- mahdollistaa
- Aakkoset
- Myös
- Amazon
- keskuudessa
- an
- ja
- Toinen
- Kaikki
- OVAT
- noin
- artikkeli
- AS
- At
- audio-
- aitous
- Huono
- esteet
- BE
- koska
- ollut
- välillä
- Iso
- Tauko
- Breaking
- Puhveli
- mutta
- by
- ohittaa
- Kalifornia
- kamera
- CAN
- ehdokkaat
- ei voi
- Carnegie Mellon
- Aiheuttaa
- istukka
- koalitio
- tulee
- Yritykset
- tietokone
- Tietojenkäsittelyoppi
- pitoisuus
- Kulma
- maahan
- luoda
- luotu
- Luominen
- luominen
- sato
- salauksen
- Tällä hetkellä
- verkkorikollisille
- dall's
- deepfakes
- määrittelemällä
- on kuvattu
- yksityiskohdat
- havaittu
- Detection
- kehittää
- vaikea
- ohjata
- suoraan
- Johtaja
- harhaanjohtavat tiedot
- erottaa
- Dont
- huume
- Helpoin
- helppo
- vaikutukset
- Vaalit
- syntyi
- mahdollistaa
- tarpeeksi
- Aikakausi
- erityisesti
- johtaja
- Pääjohtaja
- asiantuntija
- asiantuntijat
- selitti
- silmä
- väärennös
- fake uutiset
- Ominaisuudet
- Löytää
- tulokset
- yritykset
- Etunimi
- varten
- lomakkeet
- foorumit
- edelleen
- generatiivinen
- Generatiivinen AI
- saada
- tietty
- antaa
- menee
- Maa
- Kasvava
- Kasvu
- HAD
- Kova
- vahingoittaa
- viha
- Olla
- ottaa
- he
- auttaa
- häntä
- hänen
- Miten
- Kuitenkin
- HTTPS
- ihmisen
- ihmisoikeudet
- i
- Minä
- tunnistettu
- tunnistaa
- if
- kuva
- kuvien
- in
- henkilöt
- tulee
- näkymätön
- osallistuva
- kysymys
- IT
- SEN
- vain
- avain
- laji
- Tietää
- tuntemus
- Sukunimi
- Viime vuonna
- johtaa
- johtaja
- Led
- lainsäädäntö
- pitää
- sijainti
- näköinen
- tehty
- Enemmistö
- ilkeä
- manipuloitu
- Manipulointi
- monet
- Maryland
- sillä välin
- toimenpiteet
- Media
- Mellon
- Meta
- Metadata
- menetelmä
- minimoida
- väärät tiedot
- malli
- enimmäkseen
- Tarve
- uutiset
- voittoa tavoittelematon
- voittoa tavoittelematon organisaatio
- nyt
- of
- olympia-
- on
- ONE
- OpenAI
- or
- organisaatio
- Muut
- ulos
- lähdöt
- Rauha
- Paniikki
- Paperi
- Ihmiset
- ihmisten
- fotorealistisia
- Paikka
- Platon
- Platonin tietotieto
- PlatonData
- Pelaa
- Kohta
- mahdollinen
- Opettaja
- Ohjelma
- edistää
- alkuperä
- Lue
- todellinen
- ihan oikeesti
- vähentäminen
- luotettava
- poistaa
- kuulemma
- Tutkijat
- Eroon
- oikeudet
- Ruusuinen
- Said
- suolaa
- Sam
- sama
- joulupukki
- Santa Barbara
- sanoa
- sanonta
- tiede
- turvallisuus
- nähneet
- Senaatti
- syyskuu
- puutteet
- Näytä
- allekirjoitukset
- So
- Tuotteemme
- ratkaisu
- Ratkaisumme
- jonkin verran
- Joku
- jotain
- lähde
- erityinen
- erikoisohjelmisto
- levitä
- Valtiot
- Yhä
- tutkimus
- niin
- järjestelmä
- puuttua
- puuttumalla
- ottaa
- ottaen
- teknologia
- tech-yrityksille
- Technologies
- Elektroniikka
- testattu
- teksti
- että
- -
- Lähde
- heidän
- Niitä
- Siellä.
- ne
- ajatella
- ajattelee
- kolmas
- tätä
- Tämä vuosi
- Kautta
- TikTok
- aika
- että
- kertoi
- liian
- työkalu
- ylin
- TÄYSIN
- raita
- triage
- tyyppi
- tyypit
- yliopisto
- University of California
- Marylandin yliopisto
- us
- Yhdysvaltain senaatti
- käyttää
- käytetty
- Käyttäjät
- käyttämällä
- todentaa
- Videoita
- näkyvä
- oli
- vesileima
- vesileimaus
- vesileimat
- Tapa..
- tavalla
- Mitä
- kun
- onko
- joka
- tulee
- with
- vuosi
- vielä
- te
- zephyrnet