Özellikler(Hazırlık aşamasında) Teknoloji, insan akran değerlendirmesini yanıltma potansiyeli gösterdiğinden, üretken yapay zeka bilim makalelerindeki sahtekarlıkla mücadele eden akademik yayıncılar için ilginç zorluklar ortaya çıkarıyor.
DALL-E, Stabil Difüzyon ve Midjourney için bir görsel tanımlayın, saniyeler içinde bir tane oluştursunlar. Bu metinden görüntüye sistemler son birkaç yılda hızla gelişti ve başlangıçta bir araştırma prototipi olarak başlayan şey, iyi huylu ve harika derecede tuhaf ürünler üretti. çizimler 2021'de bebek daikon turplarının yürüyüş köpeklerinin yüzdesi, o zamandan beri milyar dolarlık şirketler tarafından inşa edilen ve giderek daha gerçekçi görüntüler üretebilen ticari yazılımlara dönüştü.
Bu yapay zeka modelleri, insan yüzlerinin, nesnelerin ve sahnelerin gerçeğe yakın resimlerini üretebiliyor ve ikna edici bilimsel görüntüler ve veriler oluşturma konusunda da başarılı olmaları an meselesi gibi görünüyor. Metin-görüntü modellerine artık geniş çapta erişilebilir, kullanımı oldukça ucuz ve tehlikeli bilim adamlarının sonuçları daha kolay oluşturmasına ve sahte araştırmaları yayınlamasına yardımcı olabilir.
Görüntü manipülasyonu zaten akademik yayıncılar için en önemli konulardan biri. Ortak biçim geç bilimsel suistimal. Yazarlar, verileri sahte hale getirmek için aynı görüntünün parçalarını çevirme, döndürme veya kırpma gibi her türlü numarayı kullanabilir. Editörler, sunulan tüm sonuçların gerçek olduğuna ve çalışmalarını yayınlayacaklarına inanarak kandırılıyor.
Birçok yayıncı, şu anda yapay zeka yazılımına yöneliyor. belirlemek inceleme süreci sırasında görüntü kopyalarının belirtileri. Çoğu durumda, görseller, verilerini karıştıran bilim insanları tarafından yanlışlıkla kopyalanıyor, ancak bazen bu, bariz sahtekarlık için kullanılıyor.
Ancak yayıncılar, görüntü çoğaltma konusunda kontrolü ele almaya başlarken, başka bir tehdit ortaya çıkıyor. Bazı araştırmacılar, sahte veriler oluşturmak için üretici yapay zeka modellerini kullanma eğiliminde olabilir. Aslında, sahte bilim adamlarının bunu zaten yaptıklarını gösteren kanıtlar var.
AI yapımı görüntüler gazetelerde mi görüldü?
2019'da DARPA, Semantik Adli Bilişimini başlattı (SemaFor) programı, dezenformasyonla mücadele etmek için yapay zeka yapımı medyayı tespit edebilen adli tıp araçları geliştiren araştırmacılara fon sağlıyor.
Sam Amca'nın savunma araştırma ajansının bir sözcüsü, gerçek bilim makalelerinde yayınlanan ve yapay zeka kullanılarak oluşturulmuş gibi görünen sahte tıbbi görüntüler tespit ettiğini doğruladı. Metinden resme modellerden önce üretken rakip ağlar popülerdi. DARPA, deepfake oluşturma yetenekleriyle tanınan bu modellerin aynı zamanda tıbbi taramaların, hücrelerin veya biyomedikal çalışmalarda sıklıkla bulunan diğer görüntü türlerinin görüntülerini de oluşturabileceğini fark etti.
SemaFor'un program yöneticisi William Corvey, "Tehdit manzarası oldukça hızlı ilerliyor" dedi. Kayıt. "Teknoloji iyi niyetli amaçlar için her yerde yaygınlaşıyor." Corvey, ajansın GAN yapımı görüntüleri tespit edebilen yazılım geliştirmede bir miktar başarı elde ettiğini ve araçların hala geliştirilme aşamasında olduğunu söyledi.
Tehdit manzarası oldukça hızlı ilerliyor
"Oluşturulan görüntülerin içeriğinden bağımsız olarak, daha önce tespit etmeyi öğrendiğiniz üretken mekanizmanın 'kardeşlerini veya uzak kuzenlerini' tespit edebileceğinizi gösteren sonuçlara sahibiz. SemaFor analizleri, manipüle edilmiş medyayla ilgili çeşitli atıflara ve ayrıntılara bakıyor. Meta verilerden istatistiksel anormalliklere ve daha fazla görsel temsile kadar her şey" dedi.
Bilimsel makalelerdeki verileri inceleyen bazı görüntü analistleri, GAN tarafından oluşturulmuş görüntülere benzeyen görüntülerle de karşılaştı. Üretken bir rakip ağ olan GAN, yazı, müzik, resim ve daha fazlasını üretebilen bir tür makine öğrenimi sistemidir.
Örneğin, Sidney Üniversitesi'nde moleküler onkoloji profesörü olan Jennifer Byrne ve dergi yayıncısı EMBO Press'in görüntü bütünlüğü analisti Jana Christopher, biyokimyayla ilgili 17 çalışmada ortaya çıkan bir dizi garip görüntüyle karşılaştı.
Resimler, yaygın olarak bilinen bir dizi grubu tasvir ediyordu. batı lekesiBir örnekte belirli proteinlerin varlığını gösteren ve merakla hepsi aynı arka plana sahip gibi görünen. Bunun olmaması gerekiyordu.
Western blot görüntülerinde, kırmızı ve yeşil ana hatlarla vurgulanan, tekrarlanan arka plan örnekleri... Kaynak: Byrne, Christopher 2020
2020'de Byrne ve Christopher, şüpheli görünen görüntülerin muhtemelen bir kağıt fabrikası operasyonunun parçası olarak üretildiği sonucuna vardılar: sahte veriler kullanarak biyo-kimyasal araştırmalar üzerine kağıtlar toplu olarak üretme ve onları hakem incelemesinden geçirme ve yayınlama çabası. Böyle bir hırsızlık, örneğin, kabul edilen kağıt çıktılarına göre tazminat alan akademisyenlere fayda sağlamak veya bir bölümün yayınlanan rapor kotasını doldurmasına yardımcı olmak için yapılabilir.
"Gösterilen örnekteki lekeler bizim kağıt büyük olasılıkla bilgisayar tarafından oluşturulmuştur" dedi Christopher Kayıt.
Sıklıkla sahte görünen görüntülerle karşılaşıyorum, ağırlıklı olarak western blotlar, ancak giderek artan bir şekilde mikroskopik görüntüler de
"Yayın öncesi ve sonrası belgeleri incelerken sıklıkla sahte görünümlü görüntülerle, çoğunlukla western lekeleriyle ve giderek artan oranda mikroskopi görüntüleri ile karşılaşıyorum. Bunların çoğunun büyük olasılıkla GAN'lar kullanılarak oluşturulduğunun oldukça farkındayım."
Serbest çalışan bir görüntü dedektifi olan Elisabeth Bik de genellikle görüntülerin ne zaman manipüle edildiğini anlayabilir. Bilimsel makale taslaklarını inceliyor, kopya görseller arıyor ve bu sorunları dergi editörlerinin daha ayrıntılı incelemesi için işaretliyor. Ancak, bir algoritma tarafından kapsamlı bir şekilde oluşturulduklarında sahte görüntülerle mücadele etmek daha zordur.
Byrne ve Christopher'ın çalışmasında vurgulanan görüntülerde tekrarlanan arka planın sahteciliğin açık bir işareti olmasına rağmen, gerçek western lekelerinin kendilerinin benzersiz olduğuna dikkat çekti. Bik'in kağıtları taramak ve görüntü sahtekarlığını tespit etmek için kullandığı bilgisayarlı görüntü yazılımı, bu bantları işaretlemeyi zor bulacaktır çünkü gerçek lekelerin kopyaları yoktur.
"Asla bir örtüşme bulamayacağız. Hepsinin yapay olarak yapıldığına inanıyorum. Tam olarak nasıl olduğundan emin değilim" dedi Kayıt.
En yeni üretken yapay zeka modelleriyle sahte görüntüler oluşturmak daha kolay
GAN'ların yerini büyük ölçüde difüzyon modelleri almıştır. Bu sistemler benzersiz resimler üretir ve DALL-E, Stable Diffusion ve Midjourney gibi günümüzün metinden resme yazılımına güç verir. Nesnelerin ve kavramların görsel temsilini doğal dille eşleştirmeyi öğrenirler ve akademik kopya çekme engelini önemli ölçüde azaltabilirler.
Bilim adamları ne tür yanlış verilerin üretilmesini istediklerini sadece tanımlayabilirler ve bu araçlar bunu onlar için yapacaktır. Ancak şu anda henüz tam olarak gerçekçi görünen bilimsel görüntüler oluşturamıyorlar. Bazen araçlar, ilk bakışta ikna edici görünen hücre kümeleri üretir, ancak konu western blot'lara gelince fena halde başarısız olur.
Bu, bu AI programlarının üretebileceği türden bir şeydir:
İşte ne var @OpenAIDALL-E, biyolojik hücre uyarılarıyla çalışır
Spesifik olarak: "mikroskop altındaki hücreler" ve "tarama elektron mikroskobu altındaki T hücreleri" pic.twitter.com/BgcZr3k5Q5
— Tara Basu Trivedi (@tbt94) Ağustos 23, 2022
Ünlü yazar değil, bir doktor-bilim adamı ve tıbbi onkoloji uzmanı olan William Gibson'ın başka örnekleri var okuyungünümüz modellerinin batı lekesi kavramıyla nasıl mücadele ettiği de dahil.
Bununla birlikte, geliştiriciler daha fazla veri üzerinde daha büyük modeller eğittikçe teknoloji yalnızca daha iyi hale geliyor.
Bilim makalelerinde görüntü manipülasyonunu tanıma konusunda bir başka uzman olan ve daha çok Smut Clyde olarak bilinen David Bimler bize şunları söyledi: "Kağıt fabrikaları, hakem değerlendirme sürecindeki zayıf noktalara dayanarak, en ucuz ve en hızlı yöntemi kullanarak ürünlerini sergileyecek."
"Eski gazetelerden basitçe [Western lekelerini] kopyalayabilirler ama bu bile eski gazeteler arasında arama yapmayı gerektiriyor. Şu anda, GAN kullanmanın hala biraz çaba gerektirdiğinden şüpheleniyorum. Ancak bu değişecek" diye ekledi.
DARPA şimdi SemaFor programını metinden görüntüye sistemleri incelemek üzere genişletmeyi düşünüyor. Corvey, "Bu tür modeller oldukça yeni ve kapsam dahilinde olsa da SemaFor'daki mevcut çalışmalarımızın bir parçası değil" dedi.
"Ancak SemaFor değerlendiricilerinin bu modellere 2023 Sonbaharından itibaren programın bir sonraki değerlendirme aşamasında bakması muhtemeldir."
Bu arada, eğer akademik yayıncılar makalelerde yapay zeka tarafından oluşturulan sahte görselleri tespit etmenin yollarını bulamazlarsa bilimsel araştırmanın kalitesi düşecek. En iyi senaryoda, bu tür akademik dolandırıcılık, zaten fazla ilgi görmeyen kağıt fabrikası planlarıyla sınırlı olacaktır. En kötü senaryoda, en saygın dergileri bile etkileyecek ve iyi niyetli bilim insanları, doğru olduğuna inandıkları yanlış fikirlerin peşinde koşarak zaman ve para harcayacak. ®
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
- Kaynak: https://go.theregister.com/feed/www.theregister.com/2023/03/11/ai_scientfic_fraud/
- :dır-dir
- $UP
- 2019
- 2020
- 2021
- 2023
- a
- kabiliyet
- akademik
- ulaşılabilir
- karşısında
- katma
- düşmanca
- ajans
- AI
- algoritma
- Türkiye
- zaten
- Rağmen
- analist
- Analistler
- analytics
- ve
- Başka
- görünmek
- çıktı
- ARE
- AS
- ilişkili
- At
- Dikkat
- yazar
- Yazarlar
- Bebek
- arka fon
- arka
- bariyer
- merkezli
- BE
- Çünkü
- olma
- önce
- başladı
- başlamak
- Başlangıç
- olmak
- Inanmak
- inanan
- yarar
- İYİ
- Daha iyi
- biyomedikal
- yapılı
- by
- CAN
- yetenekli
- durumlarda
- Hücreler
- zorluklar
- değişiklik
- ucuz
- en ucuz
- hile
- Christopher
- CO
- mücadele
- nasıl
- ticari
- çoğunlukla
- Şirketler
- telafi
- bilgisayar
- Bilgisayar görüşü
- bilgisayar tarafından oluşturulan
- kavram
- kavramlar
- İlgilendirmek
- sonuç
- ONAYLANDI
- içerik
- olabilir
- yaratmak
- Oluşturma
- akım
- dal-e
- DARPA
- veri
- deepfakes
- Savunma
- bölüm
- tanımlamak
- ayrıntılar
- geliştiriciler
- gelişen
- gelişme
- Yayılma
- yanlış bilgi verme
- yerinden
- Uzak
- Köpekler
- yapıyor
- sırasında
- kolay
- kolayca
- çaba
- ortaya çıkan
- Eter (ETH)
- değerlendirme
- Hatta
- her şey
- kanıt
- kesinlikle
- örnek
- örnekler
- Genişletmek
- uzman
- yüzler
- FAIL
- oldukça
- sahte
- Düşmek
- ünlü
- hızlı
- adam
- az
- şekil
- bulmak
- Ad
- bayraklar
- İçin
- Adli
- adli
- demirhane
- Airdrop Formu
- bulundu
- dolandırıcılık
- serbest
- itibaren
- finansman
- daha fazla
- Gans
- oluşturmak
- oluşturulan
- üreten
- üretken
- üretici ters ağlar
- üretken yapay zeka
- genom
- almak
- alma
- Bakış
- gidiş
- Tercih Etmenizin
- Yeşil
- olmak
- Zor
- Var
- yardım et
- Vurgulanan
- vurmak
- Ne kadar
- Ancak
- HTTPS
- insan
- avcılık
- i
- fikirler
- görüntü
- görüntüleri
- darbe
- gelişmiş
- in
- Dahil olmak üzere
- giderek
- belirtmek
- başlangıçta
- örnek
- bütünlük
- niyetlerini
- ilginç
- bakılmaksızın
- sorunlar
- IT
- ONUN
- Jennifer
- dergi
- jpg
- bilinen
- etiket
- manzara
- dil
- çok
- büyük
- Geç
- son
- başlattı
- ÖĞRENİN
- öğrendim
- sevmek
- Muhtemelen
- Sınırlı
- Bakın
- gibi görünmek
- bakıyor
- yapılmış
- müdür
- manipüle
- hile
- çok
- harita
- Kitle
- Mesele
- mekanizma
- medya
- tıbbi
- Metadata
- yöntem
- mikroskopla inceleme
- Orta Yolculuk
- olabilir
- modelleri
- moleküler
- an
- para
- Daha
- çoğu
- hareketli
- Music
- Doğal (Madenden)
- Doğal lisan
- ağ
- ağlar
- yeni
- sonraki
- NIH
- nesneler
- of
- Eski
- on
- onkoloji
- ONE
- operasyon
- Diğer
- ana hatlar
- çıktı
- kâğıt
- kâğıtlar
- Bölüm
- parçalar
- geçmiş
- armut
- faz
- Fotoğraf Galerisi
- Platon
- Plato Veri Zekası
- PlatoVeri
- Popüler
- pozlar
- potansiyel
- güç kelimesini seçerim
- ağırlıklı olarak
- varlık
- sundu
- basın
- güzel
- Önceden
- muhtemelen
- süreç
- üretmek
- Üretilmiş
- Ürünler
- profesör
- Programı
- Programlar
- Proteinler
- prototip
- yayınlamak
- yayınlanan
- yayımcı
- Yayıncılar
- amaçlı
- kalite
- hızla
- RE
- gerçek
- реалистичный,en
- fark
- teslim almak
- Kırmızı
- kayıt olmak
- tekrarlanan
- Raporlar
- temsil
- saygın
- araştırma
- Araştırmacılar
- Sonuçlar
- yorum
- Yorumlar
- s
- Adı geçen
- Sam
- aynı
- taramak
- tarama
- senaryo
- Sahneler
- şemaları
- Bilim
- Bilimsel araştırma
- bilim adamları
- kapsam
- tarama
- Ara
- saniye
- gibiydi
- semafor
- Dizi
- set
- gösterilen
- Gösteriler
- işaret
- önemli ölçüde
- İşaretler
- sadece
- beri
- Hafiye
- Yazılım
- biraz
- Kaynak
- özel
- sözcüsü
- Spot
- kararlı
- istatistiksel
- Yine
- Çabalama
- çalışmalar
- Ders çalışma
- başarı
- böyle
- sözde
- şüpheli
- sydney
- sistem
- Sistemler
- Teknoloji
- o
- The
- ve bazı Asya
- Onları
- kendilerini
- Bunlar
- şey
- tehdit
- İçinden
- zaman
- için
- bugün
- çok
- araçlar
- üst
- Tren
- gerçek
- Dönüş
- türleri
- her yerde birden bulunan
- altında
- benzersiz
- üniversite
- Sydney Üniversitesi
- us
- kullanım
- çeşitlilik
- Ve
- vizyonumuz
- yürüyüş
- Atık
- yolları
- batı
- Ne
- hangi
- süre
- DSÖ
- geniş ölçüde
- irade
- ile
- İş
- olur
- yazı yazıyor
- yıl
- zefirnet