Feature जनरेटिव एआई अकादमिक प्रकाशकों के लिए विज्ञान पत्रों में धोखाधड़ी से निपटने के लिए दिलचस्प चुनौतियां पेश करता है क्योंकि प्रौद्योगिकी मानव सहकर्मी समीक्षा को मूर्ख बनाने की क्षमता दिखाती है।
Describe an image for DALL-E, Stable Diffusion, and Midjourney, and they'll generate one in seconds. These text-to-image systems have rapidly improved over the past few years and what initially began as a research prototype, producing benign and wonderfully bizarre चित्र 2021 में बेबी डायकॉन मूली के चलने वाले कुत्तों की संख्या, तब से व्यावसायिक सॉफ़्टवेयर में रूपांतरित हो गई है, जिसे अरबों डॉलर की कंपनियों द्वारा बनाया गया है, जो तेजी से यथार्थवादी चित्र बनाने में सक्षम है।
These AI models can produce lifelike pictures of human faces, objects, and scenes, and it's looking like a matter of time before they get good at creating convincing scientific images and data too. Text-to-image models are now widely accessible, pretty cheap to use, and they could help dodgy scientists forge results and publish sham research more easily.
Image manipulation is already a top concern for academic publishers as it's the most साधारण रूप देर से वैज्ञानिक दुराचार की। नकली डेटा के लिए लेखक सभी प्रकार की तरकीबों का उपयोग कर सकते हैं, जैसे फ़्लिप करना, घुमाना या एक ही छवि के हिस्सों को क्रॉप करना। संपादकों को यह विश्वास दिलाने में मूर्ख बनाया जाता है कि प्रस्तुत किए जा रहे सभी परिणाम वास्तविक हैं और वे अपना काम प्रकाशित करेंगे।
कई प्रकाशक अब एआई सॉफ्टवेयर की ओर रुख कर रहे हैं पता लगाना signs of image duplication during the review process. In most cases, images have been mistakenly duplicated by scientists who have muddled up their data, but sometimes it's used for blatant fraud.
लेकिन जैसे ही प्रकाशकों ने छवि दोहराव पर पकड़ बनाना शुरू किया, एक और खतरा सामने आ रहा है। नकली डेटा बनाने के लिए कुछ शोधकर्ता जनरेटिव एआई मॉडल का उपयोग करने का लुत्फ उठा सकते हैं। वास्तव में, इस बात का सबूत है कि नकली वैज्ञानिक पहले से ही ऐसा कर रहे हैं।
एआई-निर्मित छवियां कागजों में दिखाई देती हैं?
2019 में, DARPA ने सिमेंटिक फ़ोरेंसिक्स (सेमाफोर) कार्यक्रम, वित्तपोषित शोधकर्ताओं ने गलत सूचना से निपटने के लिए एआई-निर्मित मीडिया का पता लगाने में सक्षम फोरेंसिक उपकरण विकसित किए।
A spokesperson for Uncle Sam's defense research agency confirmed it has spotted fake medical images published in real science papers that appear to be generated using AI. Before text-to-image models, generative adversarial networks were popular. DARPA realized these models, best known for their ability to create deepfakes, could also forge images of medical scans, cells, or other types of imagery often found in biomedical studies.
"The threat landscape is moving quite rapidly," William Corvey, SemaFor's program manager, told रजिस्टर. "The technology is becoming ubiquitous for benign purposes." Corvey said the agency has had some success developing software capable of detecting GAN-made images, and the tools are still under development.
खतरे का परिदृश्य काफी तेजी से आगे बढ़ रहा है
"We have results that suggest you can detect 'siblings or distant cousins' of the generative mechanism you've learned to detect previously, irrespective of the content of the generated images. SemaFor analytics look at a variety of attributions and details associated with manipulated media, everything from metadata, statistical anomalies, to more visual representations," he said.
कुछ छवि विश्लेषकों ने वैज्ञानिक पत्रों में डेटा की छानबीन करते हुए यह भी देखा है कि GAN-जनित छवियां कैसी दिखती हैं। GAN एक जनरेटिव एडवरसैरियल नेटवर्क है, एक प्रकार का मशीन-लर्निंग सिस्टम जो लेखन, संगीत, चित्र और बहुत कुछ उत्पन्न कर सकता है।
उदाहरण के लिए, सिडनी विश्वविद्यालय में आणविक ऑन्कोलॉजी के एक प्रोफेसर जेनिफर बायरन और पत्रिका प्रकाशक ईएमबीओ प्रेस के लिए एक छवि अखंडता विश्लेषक जना क्रिस्टोफर को 17 जैव-रसायन विज्ञान से संबंधित अध्ययनों में दिखाई देने वाली छवियों का एक अजीब सेट मिला।
तस्वीरों में आमतौर पर जाने जाने वाले बैंड की एक श्रृंखला को दर्शाया गया है पश्चिमी धब्बे, which indicate the presence of specific proteins in a sample, that all curiously seemed to have the same background. That's not supposed to happen.
Examples of repeating backgrounds in western blot images, highlighted by the red and green outlines ... Source: बायरन, क्रिस्टोफर 2020
2020 में, बायरन और क्रिस्टोफर इस निष्कर्ष पर पहुंचे कि संदिग्ध दिखने वाली छवियां संभवतः एक पेपर मिल ऑपरेशन के हिस्से के रूप में निर्मित की गई थीं: नकली डेटा का उपयोग करके जैव-रासायनिक अध्ययनों पर बड़े पैमाने पर उत्पादन करने का प्रयास, और उन्हें सहकर्मी की समीक्षा और प्रकाशित करना। उदाहरण के लिए, इस तरह के एक शरारत को खींचा जा सकता है, शिक्षाविदों को लाभ पहुंचाने के लिए, जिन्हें उनके स्वीकृत पेपर आउटपुट के आधार पर मुआवजा दिया जाता है, या किसी विभाग को प्रकाशित रिपोर्ट के कोटा को हिट करने में मदद करने के लिए।
"The blots in the example shown in हमारे अखबार are most likely computer-generated," Christopher told रजिस्टर.
मैं अक्सर नकली दिखने वाली छवियां, मुख्य रूप से पश्चिमी धब्बा, लेकिन तेजी से माइक्रोस्कोपी छवियां भी देखता हूं
"Screening papers both pre- and post-publication, I often come across fake-looking images, predominantly western blots, but increasingly also microscopy images. I am very aware that many of these are most likely generated using GANs."
Elisabeth Bik, a freelance image sleuth, can often tell when images have been manipulated, too. She pores over scientific paper manuscripts, hunting for duplicated images, and flags these issues for journal editors to examine further. But it's harder to combat fake images when they have been comprehensively generated by an algorithm.
She pointed out that although the repeated background in images highlighted in the Byrne and Christopher's study is a telltale sign of forgery, the actual western blots themselves are unique. The computer vision software Bik uses to scan papers and spot image fraud would find it hard to flag these bands because there are no duplications of the actual blots.
"We'll never find an overlap. They're all, I believe, artificially made. How exactly, I'm not sure," she told रजिस्टर।
It's easier to generate fake images with the latest generative AI models
GANs have largely been displaced by diffusion models. These systems generate unique pictures and power today's text-to-image software including DALL-E, Stable Diffusion, and Midjourney. They learn to map the visual representation of objects and concepts to natural language, and could significantly lower the barrier for academic cheating.
Scientists can just describe what type of false data they want generated, and these tools will do it for them. At the moment, however, they can't quite create realistic-looking scientific images yet. Sometimes the tools produce clusters of cells that look convincing at first glance, but fail miserably when it comes to western blots.
इस प्रकार की चीज़ें ये AI प्रोग्राम उत्पन्न कर सकते हैं:
यहाँ क्या है @OpenAIका DALL-E जैविक सेल संकेतों के साथ करता है
विशेष रूप से: "माइक्रोस्कोप के तहत कोशिकाएं" और "स्कैनिंग इलेक्ट्रॉन माइक्रोस्कोप के तहत टी-सेल" pic.twitter.com/BgcZr3k5Q5
– तारा बसु त्रिवेदी (@ tbt94) अगस्त 23, 2022
विलियम गिब्सन - एक चिकित्सक-वैज्ञानिक और मेडिकल ऑन्कोलॉजी फेलो, प्रसिद्ध लेखक नहीं - के और भी उदाहरण हैं यहाँ उत्पन्न करें, including how today's models struggle with the concept of a western blot.
तकनीक केवल बेहतर हो रही है, हालांकि, डेवलपर्स अधिक डेटा पर बड़े मॉडल को प्रशिक्षित करते हैं।
David Bimler, another expert at recognizing image manipulation in science papers, better known as Smut Clyde, told us: "Papermillers will illustrate their products using whatever method is cheapest and fastest, relying on weaknesses in the peer-review process."
"They could simply copy [western blots] from older papers but even that involves work to search through old papers. At the moment, I suspect, using a GAN is still some effort. Though that will change," he added.
DARPA is now looking to expand its SemaFor program to study text-to-image systems. "These kinds of models are fairly new and while in scope, are not part of our current work on SemaFor," Corvey said.
"However, SemaFor evaluators are likely to look at these models during the next evaluation phase of the program beginning Fall 2023."
Meanwhile, the quality of scientific research will erode if academic publishers can't find ways to detect fake AI-generated images in papers. In the best-case scenario, this form of academic fraud will be limited to just paper mill schemes that don't receive much attention anyway. In the worst-case scenario, it will impact even the most reputable journals and scientists with good intentions will waste time and money chasing false ideas they believe to be true. ®
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- स्रोत: https://go.theregister.com/feed/www.theregister.com/2023/03/11/ai_scientfic_fraud/
- :है
- $यूपी
- 2019
- 2020
- 2021
- 2023
- a
- क्षमता
- शैक्षिक
- सुलभ
- के पार
- जोड़ा
- विरोधात्मक
- एजेंसी
- AI
- कलन विधि
- सब
- पहले ही
- हालांकि
- विश्लेषक
- विश्लेषकों
- विश्लेषिकी
- और
- अन्य
- दिखाई देते हैं
- छपी
- हैं
- AS
- जुड़े
- At
- ध्यान
- लेखक
- लेखकों
- बच्चा
- पृष्ठभूमि
- पृष्ठभूमि
- अवरोध
- आधारित
- BE
- क्योंकि
- बनने
- से पहले
- शुरू किया
- शुरू करना
- शुरू
- जा रहा है
- मानना
- विश्वास
- लाभ
- BEST
- बेहतर
- बायोमेडिकल
- बनाया गया
- by
- कर सकते हैं
- सक्षम
- मामलों
- कोशिकाओं
- चुनौतियों
- परिवर्तन
- सस्ता
- सबसे सस्ता
- छल
- क्रिस्टोफर
- CO
- का मुकाबला
- कैसे
- वाणिज्यिक
- सामान्यतः
- कंपनियों
- आपूर्ति की
- कंप्यूटर
- Computer Vision
- कंप्यूटर जनित
- संकल्पना
- अवधारणाओं
- चिंता
- निष्कर्ष
- की पुष्टि
- सामग्री
- सका
- बनाना
- बनाना
- वर्तमान
- दल-ए
- DARPA
- तिथि
- deepfakes
- रक्षा
- विभाग
- वर्णन
- विवरण
- डेवलपर्स
- विकासशील
- विकास
- प्रसार
- दुष्प्रचार
- विस्थापित
- दूर
- कुत्ते की
- कर
- दौरान
- आसान
- आसानी
- प्रयास
- कस्र्न पत्थर
- ईथर (ईटीएच)
- मूल्यांकन
- और भी
- सब कुछ
- सबूत
- ठीक ठीक
- उदाहरण
- उदाहरण
- विस्तार
- विशेषज्ञ
- चेहरे के
- असफल
- काफी
- उल्लू बनाना
- गिरना
- प्रसिद्ध
- सबसे तेजी से
- साथी
- कुछ
- आकृति
- खोज
- प्रथम
- झंडे
- के लिए
- फोरेंसिक
- फोरेंसिक
- बनाना
- प्रपत्र
- पाया
- धोखा
- फ्रीलांस
- से
- निधिकरण
- आगे
- Gans
- उत्पन्न
- उत्पन्न
- सृजन
- उत्पादक
- जनरेटिव प्रतिकूल नेटवर्क
- जनरेटिव एआई
- जीनोम
- मिल
- मिल रहा
- झलक
- जा
- अच्छा
- हरा
- होना
- कठिन
- है
- मदद
- हाइलाइट
- मारो
- कैसे
- तथापि
- HTTPS
- मानव
- शिकार
- i
- विचारों
- की छवि
- छवियों
- प्रभाव
- उन्नत
- in
- सहित
- तेजी
- संकेत मिलता है
- शुरू में
- उदाहरण
- ईमानदारी
- इरादे
- दिलचस्प
- निरपेक्ष
- मुद्दों
- IT
- आईटी इस
- जेनिफर
- पत्रिका
- जेपीजी
- जानने वाला
- लेबल
- परिदृश्य
- भाषा
- बड़े पैमाने पर
- बड़ा
- देर से
- ताज़ा
- शुभारंभ
- जानें
- सीखा
- पसंद
- संभावित
- सीमित
- देखिए
- हमशक्ल
- देख
- बनाया गया
- प्रबंधक
- चालाकी से
- जोड़ - तोड़
- बहुत
- नक्शा
- सामूहिक
- बात
- तंत्र
- मीडिया
- मेडिकल
- मेटाडाटा
- तरीका
- माइक्रोस्कोपी
- मध्य यात्रा
- हो सकता है
- मॉडल
- आणविक
- पल
- धन
- अधिक
- अधिकांश
- चलती
- संगीत
- प्राकृतिक
- प्राकृतिक भाषा
- नेटवर्क
- नेटवर्क
- नया
- अगला
- NIH
- वस्तुओं
- of
- पुराना
- on
- ऑन्कोलॉजी
- ONE
- आपरेशन
- अन्य
- रूपरेखा
- उत्पादन
- काग़ज़
- कागजात
- भाग
- भागों
- अतीत
- सहकर्मी
- चरण
- तस्वीरें
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- लोकप्रिय
- बन गया है
- संभावित
- बिजली
- मुख्य रूप से
- उपस्थिति
- प्रस्तुत
- दबाना
- सुंदर
- पहले से
- शायद
- प्रक्रिया
- उत्पादन
- प्रस्तुत
- उत्पाद
- प्रोफेसर
- कार्यक्रम
- प्रोग्राम्स
- प्रोटीन
- प्रोटोटाइप
- प्रकाशित करना
- प्रकाशित
- प्रकाशक
- प्रकाशकों
- प्रयोजनों
- गुणवत्ता
- तेजी
- RE
- वास्तविक
- यथार्थवादी
- एहसास हुआ
- प्राप्त करना
- लाल
- रजिस्टर
- दोहराया गया
- रिपोर्ट
- प्रतिनिधित्व
- सम्मानित
- अनुसंधान
- शोधकर्ताओं
- परिणाम
- की समीक्षा
- समीक्षा
- s
- कहा
- सैम
- वही
- स्कैन
- स्कैनिंग
- परिदृश्य
- दृश्यों
- योजनाओं
- विज्ञान
- वैज्ञानिक अनुसंधान
- वैज्ञानिकों
- क्षेत्र
- Search
- सेकंड
- लग रहा था
- सिकंदरा
- कई
- सेट
- दिखाया
- दिखाता है
- हस्ताक्षर
- काफी
- लक्षण
- केवल
- के बाद से
- खोजी कुत्ता
- सॉफ्टवेयर
- कुछ
- स्रोत
- विशिष्ट
- प्रवक्ता
- Spot
- स्थिर
- सांख्यिकीय
- फिर भी
- संघर्ष
- पढ़ाई
- अध्ययन
- सफलता
- ऐसा
- माना
- संदेहजनक
- सिडनी
- प्रणाली
- सिस्टम
- टेक्नोलॉजी
- कि
- RSI
- लेकिन हाल ही
- उन
- अपने
- इन
- बात
- धमकी
- यहाँ
- पहर
- सेवा मेरे
- आज
- भी
- उपकरण
- ऊपर का
- रेलगाड़ी
- <strong>उद्देश्य</strong>
- मोड़
- प्रकार
- देशव्यापी
- के अंतर्गत
- अद्वितीय
- विश्वविद्यालय
- सिडनी विश्वविद्यालय
- us
- उपयोग
- विविधता
- Ve
- दृष्टि
- घूमना
- बेकार
- तरीके
- पश्चिमी
- क्या
- कौन कौन से
- जब
- कौन
- व्यापक रूप से
- मर्जी
- साथ में
- काम
- होगा
- लिख रहे हैं
- साल
- जेफिरनेट