الميزات يطرح الذكاء الاصطناعي التوليدي تحديات مثيرة للاهتمام للناشرين الأكاديميين الذين يتعاملون مع الاحتيال في الأوراق العلمية حيث تُظهر التكنولوجيا إمكانية خداع مراجعة الأقران البشرية.
قم بوصف صورة لـ DALL-E، وStable Diffusion، وMidjourney، وسوف يقومون بإنشاء واحدة في ثوانٍ. لقد تحسنت أنظمة تحويل النص إلى صورة بسرعة خلال السنوات القليلة الماضية، وما بدأ في البداية كنموذج بحثي أولي، مما أدى إلى إنتاج نصوص حميدة وغريبة بشكل رائع الرسوم التوضيحية من فجل دايكون كلاب المشي في عام 2021 ، تحولت منذ ذلك الحين إلى برامج تجارية ، بنتها شركات بمليارات الدولارات ، قادرة على إنتاج صور واقعية بشكل متزايد.
يمكن لنماذج الذكاء الاصطناعي هذه إنتاج صور واقعية لوجوه وأشياء ومشاهد بشرية، ويبدو أنها مسألة وقت قبل أن تتقن إنشاء صور وبيانات علمية مقنعة أيضًا. أصبحت نماذج تحويل النص إلى صورة متاحة الآن على نطاق واسع، كما أنها رخيصة الاستخدام، ويمكنها مساعدة العلماء المراوغين في التوصل إلى نتائج ونشر أبحاث زائفة بسهولة أكبر.
يعد التلاعب بالصور بالفعل مصدر قلق كبير للناشرين الأكاديميين لأنه الأكثر أهمية قائمة موحدة من سوء السلوك العلمي في الآونة الأخيرة. يمكن للمؤلفين استخدام جميع أنواع الحيل ، مثل التقليب أو التدوير أو اقتصاص أجزاء من نفس الصورة لتزييف البيانات. ينخدع المحررون بالاعتقاد بأن جميع النتائج المعروضة حقيقية وسوف ينشرون أعمالهم.
يلجأ العديد من الناشرين الآن إلى برامج الذكاء الاصطناعي في محاولة لذلك بكشف أو علامات تكرار الصورة أثناء عملية المراجعة. في معظم الحالات، تم تكرار الصور عن طريق الخطأ من قبل العلماء الذين قاموا بتشويش بياناتهم، ولكن في بعض الأحيان يتم استخدامها في الاحتيال الصارخ.
ولكن بمجرد أن يبدأ الناشرون في السيطرة على نسخ الصور ، يظهر تهديد آخر. قد يميل بعض الباحثين إلى استخدام نماذج الذكاء الاصطناعي التوليدية لإنشاء بيانات مزيفة. في الواقع ، هناك أدلة تشير إلى أن العلماء الزائفين يفعلون ذلك بالفعل.
هل تم رصد صور من صنع الذكاء الاصطناعي في الأوراق؟
في عام 2019 ، أطلقت داربا الطب الشرعي الدلالي (سما) ، بتمويل الباحثين الذين يطورون أدوات جنائية قادرة على اكتشاف الوسائط المصنوعة بالذكاء الاصطناعي ، لمكافحة المعلومات المضللة.
وأكد متحدث باسم وكالة أبحاث الدفاع التابعة للعم سام أنها رصدت صورًا طبية مزيفة منشورة في أوراق علمية حقيقية يبدو أنها تم إنشاؤها باستخدام الذكاء الاصطناعي. قبل نماذج تحويل النص إلى صورة، كانت شبكات الخصومة التوليدية شائعة. أدركت DARPA أن هذه النماذج، المعروفة بقدرتها على إنشاء صور مزيفة، يمكنها أيضًا تزوير صور للفحوصات الطبية أو الخلايا أو أنواع أخرى من الصور التي غالبًا ما توجد في الدراسات الطبية الحيوية.
وقال ويليام كورفي، مدير برنامج SemaFor، إن "مشهد التهديد يتحرك بسرعة كبيرة". السجل. "لقد أصبحت التكنولوجيا في كل مكان لأغراض حميدة." وقال كورفي إن الوكالة حققت بعض النجاح في تطوير برامج قادرة على اكتشاف الصور المصنوعة من GAN، ولا تزال الأدوات قيد التطوير.
مشهد التهديد يتحرك بسرعة كبيرة
"لدينا نتائج تشير إلى أنه يمكنك اكتشاف "الأشقاء أو أبناء العمومة البعيدين" للآلية التوليدية التي تعلمت اكتشافها سابقًا، بغض النظر عن محتوى الصور التي تم إنشاؤها. تنظر تحليلات SemaFor إلى مجموعة متنوعة من السمات والتفاصيل المرتبطة بالوسائط التي تم التلاعب بها وقال: "كل شيء بدءًا من البيانات الوصفية، والشذوذات الإحصائية، إلى المزيد من التمثيلات المرئية".
كما صادف بعض محللي الصور الذين يقومون بفحص البيانات في الأوراق العلمية ما يشبه الصور التي تم إنشاؤها بواسطة GAN. تعد GAN شبكة خصومة توليدية ، وهي نوع من أنظمة التعلم الآلي التي يمكنها إنشاء الكتابة والموسيقى والصور وغير ذلك.
على سبيل المثال ، صادفت جينيفر بيرن ، أستاذة علم الأورام الجزيئي في جامعة سيدني ، وجانا كريستوفر ، محللة تكامل الصور لدى ناشر المجلات EMBO Press ، مجموعة غريبة من الصور ظهرت في 17 دراسة متعلقة بالكيمياء الحيوية.
صورت الصور سلسلة من الفرق الموسيقية المعروفة باسم البقع الغربية، والتي تشير إلى وجود بروتينات محددة في العينة، ويبدو أن جميعها لها نفس الخلفية بشكل غريب. هذا ليس من المفترض أن يحدث.
أمثلة على الخلفيات المتكررة في صور اللطخة الغربية، المميزة بالخطوط العريضة الحمراء والخضراء... المصدر: بيرن ، كريستوفر 2020
في عام 2020 ، توصل بيرن وكريستوفر إلى استنتاج مفاده أن الصور المشبوهة ربما تم إنتاجها كجزء من عملية مصنع الورق: محاولة لإنتاج أوراق على نطاق واسع حول الدراسات الكيميائية الحيوية باستخدام بيانات مزيفة ، ومراجعتها من قبل الأقران ونشرها. قد يتم سحب مثل هذا الكبر ، على سبيل المثال ، لصالح الأكاديميين الذين يتم تعويضهم بناءً على مخرجاتهم الورقية المقبولة ، أو لمساعدة قسم في الوصول إلى حصة من التقارير المنشورة.
"البقع في المثال الموضح في ورقتنا قال كريستوفر: "على الأرجح تم إنشاؤها بواسطة الكمبيوتر". السجل.
غالبًا ما أصادف صورًا مزيفة المظهر ، في الغالب بقع غربية ، ولكن أيضًا صور مجهرية بشكل متزايد
"من خلال فحص الأوراق قبل النشر وبعده، غالبًا ما أصادف صورًا مزيفة، معظمها بقع غربية، ولكن أيضًا صور مجهرية بشكل متزايد. وأنا أدرك تمامًا أن العديد من هذه الصور يتم إنشاؤها على الأرجح باستخدام شبكات GAN."
تستطيع إليزابيث بيك، وهي باحثة مستقلة في مجال الصور، معرفة متى تم التلاعب بالصور أيضًا. إنها تدقق في المخطوطات الورقية العلمية، وتبحث عن الصور المكررة، وتضع علامة على هذه المشكلات ليقوم محررو المجلات بفحصها بشكل أكبر. ولكن من الصعب مكافحة الصور المزيفة عندما يتم إنشاؤها بشكل شامل بواسطة خوارزمية.
وأشارت إلى أنه على الرغم من أن الخلفية المتكررة في الصور التي تم تسليط الضوء عليها في دراسة بيرن وكريستوفر هي علامة واضحة على التزوير، إلا أن البقع الغربية الفعلية نفسها فريدة من نوعها. إن برنامج رؤية الكمبيوتر الذي يستخدمه بيك لمسح الأوراق ضوئيًا ورصد الاحتيال في الصور سيجد صعوبة في تحديد هذه النطاقات لأنه لا توجد تكرارات للبقع الفعلية.
وقالت: "لن نجد تداخلًا أبدًا. أعتقد أنها جميعها مصنوعة بشكل مصطنع. ولست متأكدة من كيفية صنعها بالضبط". السجل.
أصبح من السهل إنشاء صور مزيفة باستخدام أحدث نماذج الذكاء الاصطناعي التوليدية
لقد تم استبدال شبكات GAN إلى حد كبير بنماذج الانتشار. تقوم هذه الأنظمة بتوليد صور فريدة وتشغيل برامج تحويل النص إلى صورة الحالية بما في ذلك DALL-E وStable Diffusion وMidjourney. ويتعلمون ربط التمثيل البصري للأشياء والمفاهيم باللغة الطبيعية، ويمكن أن يقللوا بشكل كبير من حاجز الغش الأكاديمي.
يمكن للعلماء فقط وصف نوع البيانات الخاطئة التي يريدون توليدها، وستقوم هذه الأدوات بذلك نيابةً عنهم. ومع ذلك، في الوقت الحالي، لا يمكنهم إنشاء صور علمية ذات مظهر واقعي بعد. في بعض الأحيان تنتج الأدوات مجموعات من الخلايا تبدو مقنعة للوهلة الأولى، لكنها تفشل فشلا ذريعا عندما يتعلق الأمر بالبقع الغربية.
هذا هو نوع الشيء الذي يمكن أن تولده برامج الذكاء الاصطناعي هذه:
وهنا ما OpenAIيعمل DALL-E مع مطالبات الخلايا البيولوجية
على وجه التحديد: "الخلايا تحت المجهر" و "الخلايا التائية تحت المجهر الإلكتروني الماسح" pic.twitter.com/BgcZr3k5Q5
- تارا باسو تريفيدي (@ tbt94) 23 أغسطس 2022
وليام جيبسون - عالم طبيب وزميل طب الأورام ، وليس المؤلف الشهير - لديه أمثلة أخرى هنا، بما في ذلك كيف تكافح نماذج اليوم مع مفهوم اللطخة الغربية.
ومع ذلك ، فإن التكنولوجيا تتحسن فقط ، حيث يقوم المطورون بتدريب نماذج أكبر على المزيد من البيانات.
أخبرنا ديفيد بيملر، وهو خبير آخر في التعرف على التلاعب بالصور في الأوراق العلمية، والمعروف باسم سموت كلايد: "سوف يقوم صانعو الورق بتوضيح منتجاتهم باستخدام أي طريقة أرخص وأسرع، معتمدين على نقاط الضعف في عملية مراجعة النظراء".
وأضاف: "يمكنهم ببساطة نسخ [اللطخات الغربية] من الأوراق القديمة، ولكن حتى ذلك يتطلب العمل للبحث في الأوراق القديمة. في الوقت الحالي، أظن أن استخدام GAN لا يزال يتطلب بعض الجهد. على الرغم من أن ذلك سيتغير".
تتطلع DARPA الآن إلى توسيع برنامج SemaFor الخاص بها لدراسة أنظمة تحويل النص إلى صورة. وقال كورفي: "هذه الأنواع من النماذج جديدة إلى حد ما، وعلى الرغم من أنها في نطاقها، فهي ليست جزءًا من عملنا الحالي في SemaFor".
"ومع ذلك، من المرجح أن ينظر مقيمو SemaFor إلى هذه النماذج خلال مرحلة التقييم التالية للبرنامج بدءًا من خريف 2023."
وفي الوقت نفسه، سوف تتآكل جودة البحث العلمي إذا لم يتمكن الناشرون الأكاديميون من إيجاد طرق للكشف عن الصور المزيفة التي يولدها الذكاء الاصطناعي في الأوراق. في أفضل السيناريوهات، سيقتصر هذا النوع من الاحتيال الأكاديمي على مخططات مصانع الورق فقط التي لا تحظى باهتمام كبير على أي حال. وفي أسوأ السيناريوهات، سيؤثر ذلك حتى على المجلات الأكثر شهرة، وسيضيع العلماء ذوو النوايا الحسنة الوقت والمال في مطاردة الأفكار الخاطئة التي يعتقدون أنها صحيحة. ®
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
- المصدر https://go.theregister.com/feed/www.theregister.com/2023/03/11/ai_scientfic_fraud/
- :يكون
- $ UP
- 2019
- 2020
- 2021
- 2023
- a
- القدرة
- أكاديمي
- يمكن الوصول
- في
- وأضاف
- الخصومة
- وكالة
- AI
- خوارزمية
- الكل
- سابقا
- بالرغم ان
- المحلل
- المحللين
- تحليلات
- و
- آخر
- تظهر
- ظهر
- هي
- AS
- أسوشيتد
- At
- اهتمام
- المؤلفة
- الكتاب
- الأطفال
- خلفية
- خلفيات
- حاجز
- على أساس
- BE
- لان
- أن تصبح
- قبل
- بدأ
- بدأ
- البداية
- يجري
- اعتقد
- الاعتقاد
- تستفيد
- أفضل
- أفضل
- الطبية الحيوية
- بنيت
- by
- CAN
- قادر على
- الحالات
- خلايا
- التحديات
- تغيير
- رخيص
- أرخص
- غش
- كريستوفر
- CO
- مكافحة
- تأتي
- تجاري
- عادة
- الشركات
- تعويض
- الكمبيوتر
- رؤية الكمبيوتر
- مولدة بالحاسوب
- مفهوم
- المفاهيم
- قلق
- اختتام
- تم تأكيد
- محتوى
- استطاع
- خلق
- خلق
- حالياًّ
- دال
- داربا
- البيانات
- deepfakes
- الدفاع
- القسم
- وصف
- تفاصيل
- المطورين
- تطوير
- التطوير التجاري
- التوزيع
- التضليل
- النازحين
- بعيد
- الكلاب
- فعل
- أثناء
- أسهل
- بسهولة
- جهد
- الناشئة
- الأثير (ETH)
- تقييم
- حتى
- كل شىء
- دليل
- بالضبط
- مثال
- أمثلة
- وسع
- خبير
- وجوه
- يفشلون
- بإنصاف
- زائف
- فال
- مشهور
- أسرع
- زميل
- قليل
- الشكل
- الاسم الأول
- الأعلام
- في حالة
- الطب الشرعي
- التحاليل الجنائية
- إقامة
- النموذج المرفق
- وجدت
- احتيال
- مستقل
- تبدأ من
- التمويل
- إضافي
- شبكات GAN
- توليد
- ولدت
- توليد
- توليدي
- شبكات التزوج التوليدية
- الذكاء الاصطناعي التوليدي
- الجينوم
- دولار فقط واحصل على خصم XNUMX% على جميع
- الحصول على
- لمحة
- الذهاب
- خير
- أخضر
- يحدث
- الثابت
- يملك
- مساعدة
- سلط الضوء
- ضرب
- كيفية
- لكن
- HTTPS
- الانسان
- صيد
- i
- الأفكار
- صورة
- صور
- التأثير
- تحسن
- in
- بما فيه
- على نحو متزايد
- تشير
- في البداية
- مثل
- سلامة
- النوايا
- وكتابة مواضيع مثيرة للاهتمام
- بغض النظر
- مسائل
- IT
- انها
- جينيفر
- مجلة
- JPG
- معروف
- تُشير
- المشهد
- لغة
- إلى حد كبير
- أكبر
- متأخر
- آخر
- أطلقت
- تعلم
- تعلم
- مثل
- على الأرجح
- محدود
- بحث
- يبدو مثل
- أبحث
- صنع
- مدير
- التلاعب
- تلاعب
- كثير
- رسم خريطة
- كتلة
- أمر
- آلية
- الوسائط
- طبي
- البيانات الوصفية
- طريقة
- المجهر
- ميدجورني
- ربما
- عارضات ازياء
- جزيئي
- لحظة
- مال
- الأكثر من ذلك
- أكثر
- يتحرك
- موسيقى
- طبيعي
- اللغة الطبيعية
- شبكة
- الشبكات
- جديد
- التالي
- المعاهد الوطنية للصحة
- الأجسام
- of
- قديم
- on
- علم الأورام
- ONE
- عملية
- أخرى
- حدود
- الناتج
- ورق
- أوراق
- جزء
- أجزاء
- الماضي
- الند
- مرحلة جديدة
- لوحات حائط
- أفلاطون
- الذكاء افلاطون البيانات
- أفلاطون داتا
- أكثر الاستفسارات
- يطرح
- محتمل
- قوة
- في الغالب
- وجود
- قدم
- صحافة
- جميل
- سابقا
- المحتمل
- عملية المعالجة
- إنتاج
- أنتج
- المنتجات
- البروفيسور
- البرنامج
- البرامج
- البروتينات
- النموذج
- نشر
- نشرت
- الناشر
- الناشرين
- أغراض
- جودة
- بسرعة
- RE
- حقيقي
- واقعي
- أدركت
- تسلم
- أحمر
- تسجيل جديد
- متكرر
- التقارير
- التمثيل
- حسن السمعة
- بحث
- الباحثين
- النتائج
- مراجعة
- استعرض
- s
- قال
- سام
- نفسه
- تفحص
- مسح
- سيناريو
- مشاهد
- مخططات
- علوم
- بحث علمي
- العلماء
- نطاق
- الفحص
- بحث
- ثواني
- بدت
- Semafor
- مسلسلات
- طقم
- أظهرت
- يظهر
- إشارة
- بشكل ملحوظ
- لوحات
- ببساطة
- منذ
- نقب
- تطبيقات الكمبيوتر
- بعض
- مصدر
- محدد
- المتحدث باسم
- بقعة
- مستقر
- إحصائي
- لا يزال
- النضال
- دراسات
- دراسة
- تحقيق النجاح
- هذه
- مفترض
- مشكوك فيه
- سيدني
- نظام
- أنظمة
- تكنولوجيا
- أن
- •
- من مشاركة
- منهم
- أنفسهم
- تشبه
- شيء
- التهديد
- عبر
- الوقت
- إلى
- اليوم
- جدا
- أدوات
- تيشرت
- قطار
- صحيح
- تحول
- أو تويتر
- أنواع
- واسع الانتشار
- مع
- فريد من نوعه
- جامعة
- جامعة سيدني
- us
- تستخدم
- تشكيلة
- Ve
- رؤيتنا
- المشي
- نفاية
- طرق
- الغربي
- ابحث عن
- التي
- في حين
- من الذى
- على نحو واسع
- سوف
- مع
- للعمل
- سوف
- جاري الكتابة
- سنوات
- زفيرنت