A vízjeles tartalom továbbra sem elegendő a valós és a mesterséges intelligencia által generált tartalom megkülönböztetésére, mivel a kiberbűnözők is megkerülhetik a biztonsági funkciókat.
Ez annak köszönhető, hogy egyre inkább elterjedt a mesterséges intelligencia, különösen a generatív mesterséges intelligencia, ami termékeny talajt teremt a gátlástalan egyének számára, hogy félretájékoztatás, gyűlölet és más rosszindulatú tartalom terjesztésére használják fel.
A vízjel pedig az egyik kulcsfontosságú megoldás az AI által generált és a valós tartalom megkülönböztetésére. De ennek is megvannak a maga hiányosságai.
Lásd még: A Meta Audio2Photoreal most lehetővé teszi a hangalapú fotorealisztikus avatarokat
A manipuláció
A szakértők szerint a mesterséges intelligencia növekedése azzal is jár, hogy a rossz szereplők kihasználják a technológiát, hogy dezinformációt és rosszindulatot terjesszenek, és álhírekkel keltsenek pánikot.
Bár a vízjel segítségével a felhasználók különbséget tudnak tenni a mesterséges intelligencia által generált és a valódi, ember által készített tartalom között, ez is hajlamos a manipulációra.
Szerint A regisztráció, néhány látható aláírás, mint például a Dall-E szöveg-kép modell, az egyik legkönnyebben megkerülhető az AI-észlelőeszköz. A cikk továbbá kijelenti, hogy a gátlástalan személyek kivághatják a vízjeleket vagy másolhatják a képet oly módon, hogy megkerüljék a közvetlen letöltést.
Az amerikai Buffalo Egyetem informatikai professzora, Siwei Lyu elmondta, hogy a korlátok áttörésében is vannak szakértők.
„A vízjelezési technológiát egy kis só mellett használták, mert a vízjeleket és a mesterséges intelligenciát ismerő ember számára nem olyan nehéz feltörni és eltávolítani a vízjelet, vagy előállítani egyet” – mondta Lyu.
AI szakértő és ügyvezető igazgatója egy non-profit szervezetnek, amely segít az embereknek a technológia használatában az emberi jogok előmozdítása érdekében, Sam Gregory, szerint a vízjelezést a rossz szereplők továbbra is manipulálhatják.
Számára ez „egy osztályozási eszköz az ártalom csökkentésére”, hozzátéve, hogy „nem 100%-os megoldás”.
A vízjelek típusai
Azonban nem minden rózsás a gátlástalan, rossz színészek számára. Néhány láthatatlan vízjel, például a Google DeepMind SynthID, nehéz megszabadulni tőlük, mert „közvetlenül az Imagen rendszerkimeneteibe vannak beágyazva”.
Ez a fajta vízjel nem látható szabad szemmel, de speciális szoftverrel vagy algoritmusokkal észlelhető.
Lyu azonban továbbra is úgy gondolja, hogy bizonyos „technikai tudással” rendelkező gazemberek ezt ki tudják súrolni.
„Szerintem a vízjelek leginkább arra játszanak, hogy az emberek nincsenek tudatában létezésüknek. Tehát, ha tudják, hogy megtehetik, megtalálják a módját, hogy megtörjék” – mondta Lyu.
Egy másik típusú vízjel a látható, amelyet olyan cégek adnak hozzá videókhoz, szövegekhez vagy képekhez, mint a Google, a Getty és az OpenAI, hogy ellenőrizzék a tartalom érvényességét.
A vízjel harmadik típusa a kriptográfiai metaadatok. Ez azt mutatja, hogy mikor és hogyan szerkesztették a tartalmat.
Vízjelek „kimosása”.
A Marylandi Egyetem Soheil Feizi számítástechnikai professzor által vezetett tanulmánya szerint az AI vízjelek nem voltak bolondbiztosak. Minden típusú vízjelet teszteltek, és „mindegyet eltörtek”.
„Jelenleg nincs megbízható vízjelünk” – mondta.
A professzor azt is elmagyarázta, hogy a rossz színészek milyen könnyen manipulálják a vízjeleket, amit a vízjel „kimosásának” mondott.
A Kaliforniai Egyetem, Santa Barbara és Carnegie Mellon kutatói által közösen jegyzett másik tanulmány is ugyanezt az eredményt hozta.
„Nem minden látható vízjel megbízható” olvas a papír.
Időérzékeny probléma
Az Egyesült Államok Szenátusának egyik munkatársa, aki részt vett a mesterséges intelligenciával kapcsolatos jogszabályok kidolgozásában, azt mondta a Fedscope-nak, hogy „lépést kell tartani a rossz szereplőkkel”, hozzátéve, hogy a szenátus jelenleg az „oktatás és a probléma meghatározása” korszakát éli.
„Olyan ez, mint az olimpiai sportolók – most, hogy tudom, hogy ezt a gyógyszert keresed, beveszek egy másik gyógyszert.”
A sok ország megy szavazni Ebben az évben nem szabad figyelmen kívül hagyni a mélyhamisítások és a félretájékoztatás minimalizálását célzó intézkedések szükségességét. Tavaly szeptemberben Chuck Schumer, a szenátus többségének vezetője azt mondta, hogy a tartalom hitelességének kezelése a időérzékeny kérdés tekintettel arra, hogy sok országban a választások a sarkon vannak.
„Fontos a mélyhamisítások problémája, ahol az emberek valóban elhiszik… hogy egy jelölt mond valamit, amikor teljesen mesterséges intelligencia teremtménye” – mondta az első alkalom után. zárt ajtós AI betekintés fórumon.
A technológiai cégek vállalják a kihívást
Mindeközben már működik a Coalition for Content Provenance and Authenticity (C2PA), a média- és technológiai cégek ötletgazdája. Ez azonosítja a kép forrását, legyen az egy kamera vagy egy mesterséges intelligencia program, amelyet a létrehozásához használtak.
Részleteket ad a kép készítésének idejéről, helyéről és módjáról is, így az emberek ellenőrizhetik a kép eredetét. A TikTok állítólag a legjobb technológiai cégek közé tartozik, amelyek vezető szerepet töltenek be a vízjelezés terén.
„A TikTok megmutatja a használt hangsávot; megmutatja az elkészített öltést; megmutatja a használt AI-effektusokat” – mondta Gregory.
Más nagy tech cégek mint például az Alphabet, az Amazon, a Meta és az OpenAI tavaly ígéretet tett arra, hogy vízjel-technológiát fejleszt a téves információk kezelésére.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :van
- :is
- :nem
- :ahol
- 8
- 9
- a
- Képes
- szereplők
- tulajdonképpen
- hozzáadott
- hozzáadásával
- Örökbefogadás
- Előny
- Után
- AI
- algoritmusok
- Minden termék
- lehetővé téve
- lehetővé teszi, hogy
- Ábécé
- Is
- amazon
- között
- an
- és a
- Másik
- bármilyen
- VANNAK
- körül
- cikkben
- AS
- At
- hang-
- hitelesség
- Rossz
- akadályok
- BE
- mert
- óta
- között
- Nagy
- szünet
- Törés
- Bivaly
- de
- by
- kitérő
- Kalifornia
- szoba
- TUD
- jelölt
- nem tud
- Carnegie Mellon
- Okoz
- chuck
- koalíció
- jön
- Companies
- számítógép
- Computer Science
- tartalom
- Sarok
- országok
- teremt
- készítette
- létrehozása
- teremtés
- termés
- kriptográfiai
- Jelenleg
- kiberbűnözők
- dall's
- deepfakes
- meghatározó
- leírt
- részletek
- észlelt
- Érzékelés
- Fejleszt
- nehéz
- közvetlen
- közvetlenül
- Igazgató
- hamis információ
- különbséget tesz
- ne
- gyógyszer
- legegyszerűbb
- könnyű
- hatások
- Választások
- alakult
- lehetővé
- elég
- Ez volt
- különösen
- végrehajtó
- Ügyvezető igazgató
- szakértő
- szakértők
- magyarázható
- szem
- hamisítvány
- hamis hírek
- Jellemzők
- Találjon
- megállapítások
- cégek
- vezetéknév
- A
- formák
- Fórum
- további
- nemző
- Generatív AI
- kap
- adott
- ad
- megy
- Földi
- Növekvő
- Növekedés
- kellett
- Kemény
- kárt
- gyűlölet
- Legyen
- tekintettel
- he
- segít
- őt
- övé
- Hogyan
- azonban
- HTTPS
- emberi
- emberi jogok
- i
- BETEG
- azonosított
- azonosítja
- if
- kép
- képek
- in
- egyének
- bele
- láthatatlan
- részt
- kérdés
- IT
- ITS
- éppen
- Kulcs
- Kedves
- Ismer
- tudás
- keresztnév
- Tavaly
- vezet
- vezető
- Led
- Jogalkotás
- mint
- elhelyezkedés
- keres
- készült
- Többség
- rosszindulatú
- manipulált
- Manipuláció
- sok
- Maryland
- Addig
- intézkedések
- Média
- Mellon
- meta
- Metaadatok
- módszer
- minimalizálása
- félrevezető tájékoztatás
- modell
- többnyire
- Szükség
- hír
- non-profit
- non-profit szervezet
- Most
- of
- Olimpiai
- on
- ONE
- OpenAI
- or
- szervezet
- Más
- ki
- kimenetek
- Béke
- Pánik
- Papír
- Emberek (People)
- emberek
- fotorealisztikus
- Hely
- Plató
- Platón adatintelligencia
- PlatoData
- játszani
- pont
- lehetséges
- Egyetemi tanár
- Program
- kellene támogatnia,
- eredet
- Olvass
- igazi
- tényleg
- csökkentés
- megbízható
- eltávolítása
- állítólag
- kutatók
- megszabadít
- jogok
- Rózsás
- Mondott
- só
- Sam
- azonos
- Télapó
- Santa Barbara
- azt mondják
- mondás
- Tudomány
- biztonság
- látott
- Szenátus
- szeptember
- hiányosságokat
- Műsorok
- aláírások
- So
- szoftver
- megoldások
- Megoldások
- néhány
- Valaki
- valami
- forrás
- speciális
- speciális szoftver
- terjedése
- Államok
- Még mindig
- Tanulmány
- ilyen
- rendszer
- felszerelés
- szerelések
- Vesz
- bevétel
- tech
- tech cégek
- Technologies
- Technológia
- kipróbált
- szöveg
- hogy
- A
- The Source
- azok
- Őket
- Ott.
- ők
- Szerintem
- Azt hiszi
- Harmadik
- ezt
- idén
- Keresztül
- tiktok
- idő
- nak nek
- mondta
- is
- szerszám
- felső
- TELJESEN
- vágány
- egészségügyi osztályozás
- típus
- típusok
- egyetemi
- University of California
- Maryland Egyetem
- us
- Amerikai szenátus
- használ
- használt
- Felhasználók
- segítségével
- ellenőrzése
- Videók
- látható
- volt
- vízjel
- vízjellel
- vízjelek
- Út..
- módon
- Mit
- amikor
- vajon
- ami
- lesz
- val vel
- év
- még
- te
- zephyrnet