Caracteristică Inteligența artificială generativă pune provocări interesante pentru editorii academicieni care abordează frauda în lucrările științifice, deoarece tehnologia arată potențialul de a păcăli evaluarea inter pares umană.
Describe an image for DALL-E, Stable Diffusion, and Midjourney, and they'll generate one in seconds. These text-to-image systems have rapidly improved over the past few years and what initially began as a research prototype, producing benign and wonderfully bizarre ilustrații a puiului de ridichi daikon care plimbă câini în 2021, s-a transformat de atunci într-un software comercial, construit de companii de miliarde de dolari, capabil să genereze imagini din ce în ce mai realiste.
These AI models can produce lifelike pictures of human faces, objects, and scenes, and it's looking like a matter of time before they get good at creating convincing scientific images and data too. Text-to-image models are now widely accessible, pretty cheap to use, and they could help dodgy scientists forge results and publish sham research more easily.
Image manipulation is already a top concern for academic publishers as it's the most formă comună de abateri științifice din ultima vreme. Autorii pot folosi tot felul de trucuri, cum ar fi răsturnarea, rotirea sau decuparea unor părți ale aceleiași imagini pentru a falsifica date. Editorii sunt păcăliți să creadă că toate rezultatele prezentate sunt reale și își vor publica munca.
Mulți editori apelează acum la software AI în încercarea de a face acest lucru detecta signs of image duplication during the review process. In most cases, images have been mistakenly duplicated by scientists who have muddled up their data, but sometimes it's used for blatant fraud.
Dar, în momentul în care editorii încep să se ocupe de duplicarea imaginilor, apare o altă amenințare. Unii cercetători pot fi tentați să folosească modele AI generative pentru a crea date false. De fapt, există dovezi care sugerează că oamenii de știință fals fac deja acest lucru.
Imagini realizate de inteligență artificială văzute în hârtii?
În 2019, DARPA și-a lansat Semantic Forensics (SemaFor), care finanțează cercetătorii care dezvoltă instrumente criminalistice capabile să detecteze mediile create de AI, pentru a combate dezinformarea.
A spokesperson for Uncle Sam's defense research agency confirmed it has spotted fake medical images published in real science papers that appear to be generated using AI. Before text-to-image models, generative adversarial networks were popular. DARPA realized these models, best known for their ability to create deepfakes, could also forge images of medical scans, cells, or other types of imagery often found in biomedical studies.
"The threat landscape is moving quite rapidly," William Corvey, SemaFor's program manager, told Registrul. "The technology is becoming ubiquitous for benign purposes." Corvey said the agency has had some success developing software capable of detecting GAN-made images, and the tools are still under development.
Peisajul amenințărilor se mișcă destul de rapid
"We have results that suggest you can detect 'siblings or distant cousins' of the generative mechanism you've learned to detect previously, irrespective of the content of the generated images. SemaFor analytics look at a variety of attributions and details associated with manipulated media, everything from metadata, statistical anomalies, to more visual representations," he said.
Unii analiști de imagine care examinează datele din lucrări științifice au dat, de asemenea, peste ceea ce arată ca imagini generate de GAN. Un GAN fiind o rețea adversară generativă, un tip de sistem de învățare automată care poate genera scris, muzică, imagini și multe altele.
De exemplu, Jennifer Byrne, profesor de oncologie moleculară la Universitatea din Sydney, și Jana Christopher, un analist al integrității imaginii pentru editorul de jurnal EMBO Press, au dat peste un set ciudat de imagini care au apărut în 17 studii legate de biochimie.
Imaginile descriu o serie de trupe cunoscute în mod obișnuit ca western blots, which indicate the presence of specific proteins in a sample, that all curiously seemed to have the same background. That's not supposed to happen.
Examples of repeating backgrounds in western blot images, highlighted by the red and green outlines ... Source: Byrne, Christopher 2020
În 2020, Byrne și Christopher au ajuns la concluzia că imaginile cu aspect suspect au fost probabil produse ca parte a unei operațiuni de fabrică de hârtie: un efort de a produce în masă lucrări despre studii biochimice folosind date falsificate și de a le face revizuite și publicate. O astfel de capriță ar putea fi făcută, de exemplu, pentru a beneficia de cadrele universitare care sunt compensate pe baza producției lor de hârtie acceptate sau pentru a ajuta un departament să atingă o cotă de rapoarte publicate.
"The blots in the example shown in hârtia noastră are most likely computer-generated," Christopher told Registrul.
Întâlnesc adesea imagini false, predominant western blot, dar din ce în ce mai mult și imagini la microscopie
"Screening papers both pre- and post-publication, I often come across fake-looking images, predominantly western blots, but increasingly also microscopy images. I am very aware that many of these are most likely generated using GANs."
Elisabeth Bik, a freelance image sleuth, can often tell when images have been manipulated, too. She pores over scientific paper manuscripts, hunting for duplicated images, and flags these issues for journal editors to examine further. But it's harder to combat fake images when they have been comprehensively generated by an algorithm.
She pointed out that although the repeated background in images highlighted in the Byrne and Christopher's study is a telltale sign of forgery, the actual western blots themselves are unique. The computer vision software Bik uses to scan papers and spot image fraud would find it hard to flag these bands because there are no duplications of the actual blots.
"We'll never find an overlap. They're all, I believe, artificially made. How exactly, I'm not sure," she told Registrul.
It's easier to generate fake images with the latest generative AI models
GANs have largely been displaced by diffusion models. These systems generate unique pictures and power today's text-to-image software including DALL-E, Stable Diffusion, and Midjourney. They learn to map the visual representation of objects and concepts to natural language, and could significantly lower the barrier for academic cheating.
Scientists can just describe what type of false data they want generated, and these tools will do it for them. At the moment, however, they can't quite create realistic-looking scientific images yet. Sometimes the tools produce clusters of cells that look convincing at first glance, but fail miserably when it comes to western blots.
Acesta este genul de lucruri pe care aceste programe AI le pot genera:
Iată ce @OpenAIDALL-E face cu solicitări de celule biologice
Mai exact: „celule sub un microscop” și „celule T sub un microscop electronic cu scanare” pic.twitter.com/BgcZr3k5Q5
— Tara Basu Trivedi (@tbt94) August 23, 2022
William Gibson – un medic-om de știință și coleg în oncologie medicală, nu faimosul autor – are alte exemple aici, including how today's models struggle with the concept of a western blot.
Cu toate acestea, tehnologia doar se îmbunătățește, pe măsură ce dezvoltatorii antrenează modele mai mari pe mai multe date.
David Bimler, another expert at recognizing image manipulation in science papers, better known as Smut Clyde, told us: "Papermillers will illustrate their products using whatever method is cheapest and fastest, relying on weaknesses in the peer-review process."
"They could simply copy [western blots] from older papers but even that involves work to search through old papers. At the moment, I suspect, using a GAN is still some effort. Though that will change," he added.
DARPA is now looking to expand its SemaFor program to study text-to-image systems. "These kinds of models are fairly new and while in scope, are not part of our current work on SemaFor," Corvey said.
"However, SemaFor evaluators are likely to look at these models during the next evaluation phase of the program beginning Fall 2023."
Meanwhile, the quality of scientific research will erode if academic publishers can't find ways to detect fake AI-generated images in papers. In the best-case scenario, this form of academic fraud will be limited to just paper mill schemes that don't receive much attention anyway. In the worst-case scenario, it will impact even the most reputable journals and scientists with good intentions will waste time and money chasing false ideas they believe to be true. ®
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
- Sursa: https://go.theregister.com/feed/www.theregister.com/2023/03/11/ai_scientfic_fraud/
- :este
- $UP
- 2019
- 2020
- 2021
- 2023
- a
- capacitate
- academic
- accesibil
- peste
- adăugat
- contradictorialității
- agenție
- AI
- Algoritmul
- TOATE
- deja
- Cu toate ca
- analist
- analiști
- Google Analytics
- și
- O alta
- apărea
- a apărut
- SUNT
- AS
- asociate
- At
- atenţie
- autor
- Autorii
- Bebelus
- fundal
- fundaluri
- barieră
- bazat
- BE
- deoarece
- devenire
- înainte
- început
- începe
- Început
- fiind
- Crede
- credincios
- beneficia
- CEL MAI BUN
- Mai bine
- biomedicale
- construit
- by
- CAN
- capabil
- cazuri
- Celule
- provocări
- Schimbare
- ieftin
- cele mai ieftine
- înşelăciune
- Christopher
- CO
- combaterea
- cum
- comercial
- în mod obișnuit
- Companii
- compensat
- calculator
- Computer Vision
- generat de computer
- concept
- Concepte
- Îngrijorare
- concluzie
- CONFIRMAT
- conţinut
- ar putea
- crea
- Crearea
- Curent
- dall-e
- DARPA
- de date
- deepfakes
- Apărare
- Departament
- descrie
- detalii
- Dezvoltatorii
- în curs de dezvoltare
- Dezvoltare
- difuziune
- dezinformare
- strămutate
- Îndepărtat
- Câini
- face
- în timpul
- mai ușor
- cu ușurință
- efort
- șmirghel
- Eter (ETH)
- evaluare
- Chiar
- tot
- dovadă
- exact
- exemplu
- exemple
- Extinde
- expert
- fete
- FAIL
- destul de
- fals
- Cădea
- celebru
- cel mai rapid
- membru
- puțini
- Figura
- Găsi
- First
- steaguri
- Pentru
- juridic
- criminalistica
- falsifica
- formă
- găsit
- fraudă
- independent
- din
- de finanțare
- mai mult
- Gans
- genera
- generată
- generator
- generativ
- rețele adversare generative
- AI generativă
- genomului
- obține
- obtinerea
- ochire
- merge
- bine
- Verde
- întâmpla
- Greu
- Avea
- ajutor
- Evidențiat
- Lovit
- Cum
- Totuși
- HTTPS
- uman
- Vânătoare
- i
- idei
- imagine
- imagini
- Impactul
- îmbunătățit
- in
- Inclusiv
- tot mai mult
- indica
- inițial
- instanță
- integritate
- intenţiile
- interesant
- indiferent
- probleme de
- IT
- ESTE
- Jennifer
- jurnal
- jpg
- cunoscut
- Etichetă
- peisaj
- limbă
- în mare măsură
- mai mare
- Târziu
- Ultimele
- a lansat
- AFLAȚI
- învățat
- ca
- Probabil
- Limitat
- Uite
- arată ca
- cautati
- făcut
- manager
- manipulat
- Manipulare
- multe
- Hartă
- Masa
- materie
- mecanism
- Mass-media
- medical
- Metadata
- metodă
- Microscopie
- MidJourney
- ar putea
- Modele
- molecular
- moment
- bani
- mai mult
- cele mai multe
- în mişcare
- Muzică
- Natural
- Limbajul natural
- reţea
- rețele
- Nou
- următor
- NIH
- obiecte
- of
- Vechi
- on
- oncologie
- ONE
- operaţie
- Altele
- contururi
- producție
- Hârtie
- lucrări
- parte
- piese
- trecut
- egal
- fază
- poze
- Plato
- Informații despre date Platon
- PlatoData
- Popular
- ridică
- potenţial
- putere
- predominant
- prezenţă
- prezentat
- presa
- destul de
- în prealabil
- probabil
- proces
- produce
- Produs
- Produse
- Profesor
- Program
- Programe
- Proteine
- prototip
- publica
- publicat
- editor
- editori
- scopuri
- calitate
- repede
- RE
- real
- realist
- realizat
- a primi
- Roșu
- Inregistreaza-te
- repetat
- Rapoarte
- reprezentare
- respectabil
- cercetare
- cercetători
- REZULTATE
- revizuiască
- revizuite
- s
- Said
- Sam
- acelaşi
- scanare
- scanare
- scenariu
- scene
- scheme
- Ştiinţă
- Cercetare științifică
- oamenii de stiinta
- domeniu
- screening-ul
- Caută
- secunde
- părea
- semafor
- serie
- set
- indicat
- Emisiuni
- semna
- semnificativ
- Semne
- pur şi simplu
- întrucât
- Sleuth
- Software
- unele
- Sursă
- specific
- Purtatorul de cuvant al
- Loc
- stabil
- statistic
- Încă
- Lupta
- studiu
- Studiu
- succes
- astfel de
- a presupus
- suspicios
- sydney
- sistem
- sisteme
- Tehnologia
- acea
- lor
- Lor
- se
- Acestea
- lucru
- amenințare
- Prin
- timp
- la
- astăzi
- de asemenea
- Unelte
- top
- Tren
- adevărat
- Cotitură
- stare de nervozitate
- Tipuri
- omniprezent
- în
- unic
- universitate
- Universitatea din Sydney
- us
- utilizare
- varietate
- Ve
- viziune
- mers
- Deșeuri
- modalități de
- Vestic
- Ce
- care
- în timp ce
- OMS
- pe larg
- voi
- cu
- Apartamente
- ar
- scris
- ani
- zephyrnet