Funkció A generatív mesterséges intelligencia érdekes kihívások elé állítja az akadémiai kiadókat a tudományos közleményekben elkövetett csalások elleni küzdelemben, mivel a technológia megmutatja, hogy megtévesztheti az emberi szakértői értékelést.
Írjon le egy képet a DALL-E, a Stable Diffusion és a Midjourney számára, és másodpercek alatt létrehoz egy képet. Ezek a szöveg-kép rendszerek gyorsan fejlődtek az elmúlt néhány évben, és ami kezdetben kutatási prototípusként indult, jóindulatú és csodálatosan bizarr eredményt hozott. illusztrációk 2021-ben a baba daikon retek kutyasétáltatása azóta kereskedelmi szoftverré alakult, amelyet milliárd dolláros cégek építettek, és amelyek egyre valósághűbb képeket generálnak.
Ezek az AI-modellek élethű képeket tudnak készíteni emberi arcokról, tárgyakról és jelenetekről, és úgy tűnik, idő kérdése, mikor tudnak meggyőző tudományos képeket és adatokat készíteni. Szöveg-kép modellek ma már széles körben hozzáférhetőek, meglehetősen olcsón használhatók, és segíthetnek a furfangos tudósoknak eredményeket hamisítani és hamis kutatásokat könnyebben közzétenni.
A képmanipuláció már most is az akadémiai kiadók egyik legnagyobb gondja, mivel ez a legtöbb közös forma az utóbbi időben elkövetett tudományos visszaélések miatt. A szerzők mindenféle trükköt bevethetnek, például átfordíthatják, elforgathatják vagy levághatják ugyanazt a képet, hogy hamisíthassanak adatokat. A szerkesztőket becsapják azzal, hogy azt hiszik, minden bemutatott eredmény valódi, és közzéteszik munkájukat.
Sok kiadó most az AI-szoftverhez fordul annak megkísérlése érdekében kimutatására képmásolódás jelei a felülvizsgálati folyamat során. A legtöbb esetben a képeket tévedésből sokszorosították a tudósok, akik összekeverték adataikat, de néha nyilvánvaló csalásra használják fel.
De ahogy a kiadók kezdik megragadni a képmásolatot, egy másik fenyegetés is megjelenik. Egyes kutatók kísértést érezhetnek arra, hogy generatív AI-modelleket alkalmazzanak hamis adatok létrehozására. Valójában vannak bizonyítékok arra, hogy az áltudósok már ezt teszik.
MI által készített képek a papírokban?
2019-ben a DARPA elindította szemantikus kriminalisztikai (Szemantic Forensics)SemaFor) program, amely olyan kutatókat finanszíroz, akik olyan kriminalisztikai eszközöket fejlesztenek ki, amelyek képesek a mesterséges intelligencia által készített média kimutatására, a dezinformáció leküzdésére.
Az Uncle Sam védelmi kutatási ügynökségének szóvivője megerősítette, hogy hamis orvosi képeket fedeztek fel a valódi tudományos cikkekben, amelyeket úgy tűnik, hogy mesterséges intelligencia segítségével hoztak létre. A szöveg-kép modellek előtt a generatív ellenséges hálózatok népszerűek voltak. A DARPA rájött, hogy ezek a modellek, amelyek leginkább a mélyhamisítások készítésére való képességükről ismertek, orvosi szkennelésekről, sejtekről vagy más, az orvosbiológiai vizsgálatok során gyakran előforduló képtípusokról is képesek képeket hamisítani.
"A fenyegetettség meglehetősen gyorsan fejlődik" - mondta William Corvey, a SemaFor programmenedzsere A regisztráció. "A technológia jóindulatú célokra mindenütt elterjedt." Corvey elmondta, hogy az ügynökség bizonyos sikereket ért el olyan szoftverek fejlesztésében, amelyek képesek a GAN által készített képek észlelésére, és az eszközök még fejlesztés alatt állnak.
A fenyegetettség területe meglehetősen gyorsan mozog
"Eredményeink azt sugallják, hogy észlelheti a generatív mechanizmus "testvéreit vagy távoli unokatestvéreit", amelyet korábban megtanult észlelni, függetlenül a generált képek tartalmától. A SemaFor analytics számos, manipulált médiával kapcsolatos attribúciót és részletet vizsgál , mindent a metaadatoktól, a statisztikai anomáliáktól kezdve a több vizuális megjelenítésig" - mondta.
Egyes képelemzők, akik a tudományos közlemények adatait vizsgálják, olyan képekkel is találkoztak, amelyek úgy néznek ki, mint a GAN által generált képek. A GAN egy generatív ellenséges hálózat, egy olyan gépi tanulási rendszer, amely képes írást, zenét, képeket és egyebeket generálni.
Például Jennifer Byrne, a Sydney-i Egyetem molekuláris onkológia professzora és Jana Christopher, az EMBO Press folyóirat-kiadó képintegritás-elemzője furcsa képhalmazra bukkantak, amelyek 17 biokémiával kapcsolatos tanulmányban jelentek meg.
A képek egy sor zenekart ábrázoltak, amelyek közismert nevén western blotok, amelyek specifikus fehérjék jelenlétét jelzik egy mintában, és furcsa módon úgy tűnt, hogy mindegyiknek ugyanaz a háttere. Ennek nem szabadna megtörténnie.
Példák ismétlődő hátterekre Western blot képeken, piros és zöld körvonalakkal kiemelve... Forrás: Byrne, Christopher 2020
2020-ban Byrne és Christopher arra a következtetésre jutott, hogy a gyanúsnak tűnő képeket valószínűleg egy papírgyári művelet részeként hozták létre: hamis adatok felhasználásával biokémiai tanulmányok tömeges előállítása, valamint szakértői áttekintése és közzététele céljából. Ilyen kapribogyót például olyan oktatók javára fordíthatnak, akiket elfogadott papíreredményük alapján fizetnek, vagy hogy segítsenek egy tanszéknek elérni a közzétett jelentések kvótáját.
"A példában látható blotok papírunk nagy valószínűséggel számítógéppel generálták” – mondta Christopher A regisztráció.
Gyakran találkozom hamis kinézetű képekkel, túlnyomórészt Western blotokkal, de egyre gyakrabban mikroszkópos képekkel is
"A papírok megjelenése előtti és utáni átvizsgálása során gyakran találkozom hamis kinézetű képekkel, túlnyomórészt Western blotokkal, de egyre gyakrabban mikroszkópos képekkel is. Tisztában vagyok vele, hogy ezek közül sok nagy valószínűséggel GAN-ok segítségével jön létre."
Elisabeth Bik, a szabadúszó képfelderítő gyakran meg tudja állapítani, ha a képeket manipulálták. Tudományos papírok kéziratait kutatja, sokszorosított képek után kutat, és megjelöli ezeket a kérdéseket a folyóiratok szerkesztőinek, hogy tovább vizsgálják. De nehezebb leküzdeni a hamis képeket, ha azokat egy algoritmus átfogóan generálta.
Rámutatott, hogy bár a Byrne és Christopher tanulmányában kiemelt képek ismétlődő háttere a hamisítás árulkodó jele, maguk a western-blotok egyediek. A Bik számítógépes látásszoftver a papírok átvizsgálására és a képi csalások kiszűrésére nehezen tudná megjelölni ezeket a sávokat, mivel nincsenek megkettőzve a tényleges blotok.
"Soha nem fogunk átfedést találni. Azt hiszem, mindegyik mesterségesen készült. Hogy pontosan hogyan, azt nem tudom" - mondta. A regisztráció.
A legújabb generatív AI modellekkel könnyebb hamis képeket generálni
A GAN-okat nagyrészt kiszorították a diffúziós modellek. Ezek a rendszerek egyedi képeket állítanak elő, és a mai szöveg-képké alakító szoftvereket, köztük a DALL-E-t, a Stable Diffusion és a Midjourney-t biztosítják. Megtanulják a tárgyak és fogalmak vizuális megjelenítését a természetes nyelvre leképezni, és jelentősen csökkenthetik az akadémiai csalás akadályát.
A tudósok egyszerűen leírhatják, hogy milyen típusú hamis adatokat szeretnének generálni, és ezek az eszközök ezt megteszik helyettük. Jelenleg azonban még nem tudnak reálisnak tűnő tudományos képeket alkotni. Néha az eszközök olyan sejtcsoportokat hoznak létre, amelyek első pillantásra meggyőzőnek tűnnek, de szerencsétlenül meghibásodnak, ha Western blotról van szó.
Ez az a fajta dolog, amit ezek az AI programok generálhatnak:
Itt van @OpenAIA DALL-E a biológiai sejtfelhívásokkal foglalkozik
Pontosabban: „sejtek mikroszkóp alatt” és „T-sejtek pásztázó elektronmikroszkóp alatt” pic.twitter.com/BgcZr3k5Q5
– Tara Basu Trivedi (@tbt94) 23. augusztus 2022.
William Gibson – orvos-tudós és orvos-onkológus munkatárs, nem a híres szerző – további példákkal rendelkezik. itt, beleértve azt is, hogy a mai modellek hogyan küzdenek a western blot koncepciójával.
A technológia azonban csak javul, ahogy a fejlesztők több adatra képezik a nagyobb modelleket.
David Bimler, egy másik szakértő a tudományos cikkekben előforduló képmanipuláció felismerésében, ismertebb nevén Smut Clyde, a következőket mondta nekünk: "A papírgyárosok a legolcsóbb és leggyorsabb módszerrel illusztrálják termékeiket, a szakértői értékelési folyamat gyenge pontjaira támaszkodva."
"Egyszerűen másolhatnának [western blotokat] régebbi papírokról, de még ez is magában foglal munkát a régi papírok között. Jelenleg, gyanítom, a GAN használata még mindig némi erőfeszítést jelent. Bár ez változni fog" - tette hozzá.
A DARPA most szeretné kiterjeszteni SemaFor programját a szöveg-kép rendszerek tanulmányozására. "Az ilyen típusú modellek meglehetősen újak, és bár hatályosak, nem részei a SemaForon végzett jelenlegi munkánknak" - mondta Corvey.
"A SemaFor értékelői azonban valószínűleg megvizsgálják ezeket a modelleket a program következő értékelési szakaszában, 2023 őszén."
Eközben a tudományos kutatás minősége romlani fog, ha az akadémiai kiadók nem találják meg a módját a mesterséges intelligencia által generált hamis képek kimutatásának a dolgozatokban. A legjobb esetben az akadémiai csalásnak ez a formája csak olyan papírgyári rendszerekre korlátozódik, amelyek amúgy sem kapnak nagy figyelmet. A legrosszabb forgatókönyv szerint még a legelismertebb folyóiratokra is hatással lesz, és a jó szándékú tudósok időt és pénzt pazarolnak az általuk igaznak hitt hamis ötletek kergetésére. ®
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
- Forrás: https://go.theregister.com/feed/www.theregister.com/2023/03/11/ai_scientfic_fraud/
- :is
- $ UP
- 2019
- 2020
- 2021
- 2023
- a
- képesség
- egyetemi
- hozzáférhető
- át
- hozzáadott
- ellenséges
- ügynökség
- AI
- algoritmus
- Minden termék
- már
- Bár
- elemző
- Az elemzők
- analitika
- és a
- Másik
- megjelenik
- megjelent
- VANNAK
- AS
- társult
- At
- figyelem
- szerző
- szerzők
- Baba
- háttér
- háttérrel
- korlát
- alapján
- BE
- mert
- egyre
- előtt
- kezdődött
- kezdődik
- Kezdet
- hogy
- Hisz
- hívő
- haszon
- BEST
- Jobb
- orvosbiológiai
- épült
- by
- TUD
- képes
- esetek
- Cellák
- kihívások
- változik
- olcsó
- legolcsóbb
- csalás
- Christopher
- CO
- elleni küzdelem
- hogyan
- kereskedelmi
- általában
- Companies
- kompenzált
- számítógép
- Számítógépes látás
- számítógép által létrehozott
- koncepció
- fogalmak
- Vonatkozik
- következtetés
- MEGERŐSÍTETT
- tartalom
- tudott
- teremt
- létrehozása
- Jelenlegi
- dall's
- darpa
- dátum
- deepfakes
- Védelem
- osztály
- leírni
- részletek
- fejlesztők
- fejlesztése
- Fejlesztés
- Diffusion
- hamis információ
- kényszerült
- Távoli
- Kutyák
- Ennek
- alatt
- könnyebb
- könnyen
- erőfeszítés
- csiszolókő
- Eter (ETH)
- értékelés
- Még
- minden
- bizonyíték
- pontosan
- példa
- példák
- Bontsa
- szakértő
- arcok
- FAIL
- meglehetősen
- hamisítvány
- Esik
- híres
- leggyorsabb
- fickó
- kevés
- Ábra
- Találjon
- vezetéknév
- zászlók
- A
- Törvényszéki
- kriminalisztika
- kovácsol
- forma
- talált
- csalás
- szabadúszó
- ból ből
- finanszírozás
- további
- Gans
- generál
- generált
- generáló
- nemző
- generációs versenytárs hálózatok
- Generatív AI
- genom
- kap
- szerzés
- Pillantás
- megy
- jó
- Zöld
- történik
- Kemény
- Legyen
- segít
- Kiemelt
- Találat
- Hogyan
- azonban
- HTTPS
- emberi
- Vadászat
- i
- ötletek
- kép
- képek
- Hatás
- javított
- in
- Beleértve
- egyre inkább
- jelez
- alapvetően
- példa
- sértetlenség
- szándékok
- érdekes
- független
- kérdések
- IT
- ITS
- Jennifer
- folyóirat
- jpg
- ismert
- Címke
- táj
- nyelv
- nagymértékben
- nagyobb
- Késő
- legutolsó
- indított
- TANUL
- tanult
- mint
- Valószínű
- Korlátozott
- néz
- hasonló
- keres
- készült
- menedzser
- manipulált
- Manipuláció
- sok
- térkép
- Tömeg
- Anyag
- mechanizmus
- Média
- orvosi
- Metaadatok
- módszer
- Mikroszkópia
- Mid Journey
- esetleg
- modellek
- molekuláris
- pillanat
- pénz
- több
- a legtöbb
- mozgó
- zene
- Természetes
- Természetes nyelv
- hálózat
- hálózatok
- Új
- következő
- NIH
- objektumok
- of
- Régi
- on
- onkológia
- ONE
- működés
- Más
- körvonalak
- teljesítmény
- Papír
- papírok
- rész
- alkatrészek
- múlt
- egyenrangú
- fázis
- képek
- Plató
- Platón adatintelligencia
- PlatoData
- Népszerű
- pózok
- potenciális
- hatalom
- Főleg
- jelenlét
- bemutatott
- nyomja meg a
- szép
- korábban
- valószínűleg
- folyamat
- gyárt
- Készült
- Termékek
- Egyetemi tanár
- Program
- Programok
- Fehérjék
- prototípus
- közzétesz
- közzétett
- kiadó
- kiadók
- célokra
- világítás
- gyorsan
- RE
- igazi
- valószerű
- realizált
- kap
- Piros
- Regisztráció
- megismételt
- Jelentések
- képviselet
- jó hírű
- kutatás
- kutatók
- Eredmények
- Kritika
- felül
- s
- Mondott
- Sam
- azonos
- beolvasás
- letapogatás
- forgatókönyv
- jelenetek
- rendszerek
- Tudomány
- Tudományos kutatás
- tudósok
- hatálya
- szűrés
- Keresés
- másodperc
- Úgy tűnt
- szemafor
- Series of
- készlet
- mutatott
- Műsorok
- <p></p>
- jelentősen
- Jelek
- egyszerűen
- óta
- Nyomoz
- szoftver
- néhány
- forrás
- különleges
- szóvivő
- Spot
- stabil
- statisztikai
- Még mindig
- Küzdelem
- tanulmányok
- Tanulmány
- siker
- ilyen
- feltételezett
- gyanús
- sydney
- rendszer
- Systems
- Technológia
- hogy
- A
- azok
- Őket
- maguk
- Ezek
- dolog
- fenyegetés
- Keresztül
- idő
- nak nek
- Ma
- is
- szerszámok
- felső
- Vonat
- igaz
- Turning
- típusok
- mindenütt jelenlevő
- alatt
- egyedi
- egyetemi
- University of Sydney
- us
- használ
- fajta
- Ve
- látomás
- gyalogos
- Hulladék
- módon
- Nyugati
- Mit
- ami
- míg
- WHO
- széles körben
- lesz
- val vel
- Munka
- lenne
- írás
- év
- zephyrnet