Elemzés A mesterséges intelligencia félretájékoztatása elleni küzdelem idén minden eddiginél fontosabb a technológiai vállalatok számára, mivel készülnek a közelgő amerikai elnökválasztásra.
A hamis információk és a mélyhamisítások elleni küzdelem azonban csak nehezebbé vált, mivel a szintetikus tartalom előállítására szolgáló eszközök minden eddiginél szélesebb körben hozzáférhetőek.
Az OpenAI ChatGPT-je 2022 novemberi megjelenése óta egyre alkalmasabbá vált. Tavaly frissített GPT-4 rendszere hang és kép létrehozásához a szöveg tetején. Most az indítás elengedte a GPT Store, egy olyan platform, amely testre szabott ChatGPT-alapú robotokat tartalmaz, amelyek adott személyiségeket tudnak felvenni, vagy meghatározott feladatokat hajtanak végre.
"Még mindig azon dolgozunk, hogy megértsük, mennyire hatékonyak lehetnek eszközeink a személyre szabott meggyőzésben"
Hétfőn az OpenAI kijelentette, hogy tilos GPT-ket építeni politikai kampányokhoz és lobbizáshoz, és modelljeit olyan chatbotok működtetésére használni, amelyek valós személyeknek, vállalkozásoknak vagy kormányoknak adják ki magukat, visszaélés a technológiájával. A demokratikus folyamatokba beleavatkozó alkalmazások, mint például a szavazás, szintén tiltva vannak.
„Elvárjuk és célunk, hogy az emberek biztonságosan és felelősségteljesen használják eszközeinket, és a választások sem különböznek egymástól” Azt mondta. „Azon dolgozunk, hogy megelőzzük és megelőzzük a releváns visszaéléseket – például a félrevezető „mélyhamisítást”, a nagymértékű befolyásolási műveleteket vagy a jelölteket megszemélyesítő chatbotokat.”
A szabályok tisztázása jó és jó, de a betartatásuk más kérdés. Nehéz felügyelni a GPT Store-t, és az OpenAI arra támaszkodik, hogy a felhasználók jelentsék az irányelveivel ellentétes alkalmazásokat. Az emberek már megszegték annak szabályait, hogy ne hozzanak létre GPT-ket, amelyek „a romantikus társaság előmozdítására vagy szabályozott tevékenységek végzésére irányulnak”. A platform rengeteg mesterséges intelligencia „barátnővel” rendelkezik, és sok politikai chatbot is található.
Egyesek úgy vannak kialakítva, hogy olyan politikusokat utánozzanak, mint például Donald Trump, bár ezek nem meggyőzőek a személyeskedések, míg mások támogatnak bizonyos politikai ideológiákat. A The Real Trump Bottal folytatott beszélgetés során például azt mondta, hogy ellenzi a levélben történő szavazást. – Ó, ne is kezdj bele a levélben történő szavazásba. Mintha bajt kérnének. Annyira nyitott a visszaélésekre, hogy hihetetlen.”
Ez ellenkezik az OpenAI irányelveivel? Eltántoríthat valakit attól, hogy elküldje a szavazatát? „Még mindig azon dolgozunk, hogy megértsük, mennyire hatékonyak lehetnek eszközeink a személyre szabott meggyőzéshez” – ismerte el az OpenAI.
Az OpenAI egyéb óvintézkedéseket is tett. A DALL-E szöveg-kép-modell biztonsági védőkorlátai megakadályozzák a felhasználókat abban, hogy politikusokról képeket hozzanak létre, hogy megakadályozzák a mélyhamisításokat. A védőkorlátok azonban lehetővé teszik a képek szerkesztését, ami azt jelenti, hogy az emberek mesterséges intelligencia segítsége nélkül is manipulálhatják a jelöltek fényképeit.
A tartalom betiltása vagy blokkolása mellett a dezinformáció leküzdésére alkalmazott további stratégiák közé tartozik a digitális vízjelek bevezetése, valamint a felhasználóktól, hogy átláthatóak legyenek az AI által generált képek és videók tekintetében.
A Microsoft a Coalition for Content Provenance and Authenticity (C2PA) tagja, és támogatja a Content Credentials kezdeményezést. Egy olyan funkciót vezet be, amely vízjelet ágyaz be a Bing Image Creator által generált tartalomhoz, amely metaadatokat tartalmaz, amelyek leírják, hogyan, mikor és ki készítette a képet, és amely ellenőrizhető a kép eredetiségének bizonyítására. Az OpenAI követni kívánja a példát, és megvalósítja a CP2Adigitális hitelesítő adatait is. De a vízjel és a metaadat funkció nem tévedésbiztos. A kép eredetére vonatkozó információk azonban csak olyan alkalmazásokban vagy webhelyeken láthatók, amelyek támogatják a Content Credentials formátumot.
A felhasználók eltávolíthatják az információkat a Microsoft vagy az OpenAI eszközei által generált képről, és megnyithatják azokat például a Google Chrome-ban, amely nem támogatja a CP2A-t. Ekkor nem lennének metaadatok társítva a képeikhez, és ehelyett szabadon terjeszthetik ezt a verziót.
A Google YouTube-platformja más megközelítést alkalmaz, és ehelyett megköveteli az alkotóktól, hogy közöljék, hogy videóik mesterséges intelligencia által generált felvételeket tartalmaznak, hamis eseményeket ábrázolnak-e, vagy olyan embereket, akik olyasmit mondanak, amit nem mondtak el. Közben, meta és a Google arra kérték a hirdetőket, hogy nyilatkozzanak arról, hogy hirdetéseik szintetikus tartalmat tartalmaznak, legyen az hamis kép, videó vagy hang.
Szigorúbbak a szabályok a politikusok számára. Több állam, például Kalifornia, Texas, Michigan, Washington és Minnesota elmúlt jogalkotás megtiltja a politikai jelölteknek, hogy hamisítványokat készítsenek a szavazók befolyásolására. Szövetségi törvény azonban nincs. A Szövetségi Választási Bizottságnak még nem kell eldöntenie, hogy a „más jelöltek vagy politikai pártok csalárd megtévesztése” elleni politikája érvényes-e az AI által generált tartalmakra.
A mesterséges intelligencia még mindig többnyire nem szabályozott, és a világ különböző részein alkalmazandó törvények nem fedik le a politikai dezinformáció minden esetét. Bár a technológiai cégek fokozzák erőfeszítéseiket, hogy megfékezzék a felhasználókat a mesterséges intelligencia dezinformációitól, módszereik nem tökéletesek, és a felhasználók gyakran találnak módot a biztonsági intézkedések megkerülésére. ®
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :van
- :is
- :nem
- $ UP
- 2022
- a
- Rólunk
- visszaélés
- hozzáférhető
- tevékenységek
- felvételt nyer
- elfogadja
- hirdetések
- hirdetők
- ellen
- AI
- cél
- Minden termék
- lehetővé
- már
- Is
- Bár
- an
- és a
- Másik
- számít
- bármilyen
- alkalmazható
- alkalmazások
- alkalmazandó
- megközelítés
- VANNAK
- körül
- AS
- kér
- társult
- hang-
- hitelesség
- betiltották
- BE
- válik
- előtt
- Bing
- blokkoló
- Bot
- botok
- Törött
- Épület
- vállalkozások
- de
- by
- Kalifornia
- kampány
- TUD
- jelöltek
- képes
- visz
- bizonyos
- chatbots
- ChatGPT
- króm
- CO
- koalíció
- elleni küzdelem
- jutalék
- Companies
- tartalmaz
- tartalom
- Beszélgetés
- tudott
- terjed
- kidolgozott
- létrehozása
- Teremtő
- alkotók
- Hitelesítő adatok
- kritikus
- Külön rendelésre készült
- dall's
- dönt
- elszánt
- deepfakes
- demokratikus
- leíró
- különböző
- nehéz
- digitális
- nyilvánosságra
- hamis információ
- lebeszél
- terjeszteni
- do
- nem
- Don
- Donald
- Donald Trump
- szerkesztés
- Hatékony
- erőfeszítések
- Választás
- Választások
- érvényesítése
- Eter (ETH)
- Még
- események
- EVER
- példa
- vár
- hamisítvány
- hamis
- Funkció
- Szövetségi
- szövetségi törvény
- Találjon
- vezetéknév
- következik
- A
- formátum
- elősegítése
- Ingyenes
- ból ből
- generált
- generáló
- kap
- adott
- Go
- jó
- Google Chrome
- A kormányok
- felnőtt
- Legyen
- kikötő
- segít
- tárhely
- Hogyan
- azonban
- HTTPS
- Hatalmasan
- ideológiák
- if
- kép
- képek
- végre
- fontos
- in
- tartalmaz
- egyre inkább
- befolyás
- információ
- Kezdeményezés
- példányok
- helyette
- Hát
- IT
- ITS
- jpg
- Címke
- keresztnév
- Tavaly
- Törvény
- törvények
- mint
- lobbizás
- készült
- levelezési
- sok
- Anyag
- me
- jelenti
- Közben
- intézkedések
- tag
- Metaadatok
- mód
- Michigan
- microsoft
- esetleg
- Minnesota
- félrevezető
- modell
- modellek
- hétfő
- több
- többnyire
- többszörös
- nem
- november
- Most
- of
- gyakran
- oh
- on
- csak
- nyitva
- OpenAI
- Művelet
- or
- Más
- Egyéb
- mi
- ki
- különös
- fél
- Elmúlt
- Emberek (People)
- tökéletes
- előadó
- Személyiségek
- Személyre
- fényképek
- Hely
- tervezés
- emelvény
- Plató
- Platón adatintelligencia
- PlatoData
- bőséges
- Rendőrség
- Politikák
- politika
- politikai
- politikai jelöltek
- politikai pártok
- politikusok
- hatalom
- elnöki
- elnökválasztás
- megakadályozása
- Folyamatok
- gyárt
- tiltott
- Bizonyít
- eredet
- rámpa
- RE
- igazi
- szabályozott
- felszabaduló
- támaszkodva
- jelentést
- felelősségteljesen
- Gördülő
- szabályok
- s
- biztosan
- Biztonság
- Mondott
- mondás
- látott
- óta
- So
- Valaki
- valami
- különleges
- kezdődött
- indítás
- Államok
- Még mindig
- tárolni
- stratégiák
- szigorúbb
- Strip
- ilyen
- Öltöny
- támogatás
- Támogató
- szintetikus
- rendszer
- T
- szerelések
- meghozott
- bevétel
- feladatok
- tech
- tech cégek
- Technológia
- Texas
- szöveg
- mint
- hogy
- A
- az információ
- a világ
- azok
- Őket
- akkor
- Ott.
- ők
- dolgok
- ezt
- idén
- bár?
- nak nek
- is
- szerszámok
- felső
- átlátszó
- baj
- adu
- megpróbál
- megért
- elszabadult
- közelgő
- us
- használ
- Felhasználók
- segítségével
- különféle
- változat
- Videók
- Szavazás
- választók
- Szavazás
- volt
- washington
- vízjel
- vízjellel
- vízjelek
- módon
- we
- honlapok
- JÓL
- amikor
- vajon
- ami
- míg
- kit
- széles körben
- val vel
- nélkül
- Munka
- dolgozó
- világ
- lenne
- év
- még
- youtube
- zephyrnet