ปล … อยากเจลเบรค ChatGPT ไหม? มองดูการแจ้งเตือนที่ชั่วร้าย

เผยแพร่ซ้ำโดยเพลโต

ผู้ติดตาม: 0

อาชญากรเริ่มมีความเชี่ยวชาญมากขึ้นในการสร้างการแจ้งเตือน AI ที่เป็นอันตรายเพื่อดึงข้อมูลออกจาก ChatGPT ตามข้อมูลของ Kaspersky ซึ่งพบว่ามี 249 รายการเสนอขายทางออนไลน์ในช่วงปี 2023

และในขณะที่โมเดลภาษาขนาดใหญ่ (LLM) ยังไม่ใกล้เคียงกับการสร้าง โซ่โจมตีเต็มรูปแบบ หรือสร้าง มัลแวร์โพลีมอร์ฟิก สำหรับการติดเชื้อแรนซัมแวร์หรือการโจมตีทางไซเบอร์อื่นๆ แน่นอนว่ากลุ่มนักต้มตุ๋นสนใจการใช้ AI Kaspersky พบโพสต์มากกว่า 3,000 โพสต์ในช่อง Telegram และฟอรัมเว็บมืดที่พูดคุยถึงวิธีใช้ ChatGPT และ LLM อื่นๆ สำหรับกิจกรรมที่ผิดกฎหมาย

“แม้แต่งานที่ก่อนหน้านี้ต้องใช้ความเชี่ยวชาญบางอย่างก็สามารถแก้ไขได้ด้วยการแจ้งเตือนเพียงครั้งเดียว” รายงาน การเรียกร้อง “สิ่งนี้ช่วยลดเกณฑ์การเข้าสู่หลายสาขาได้อย่างมาก รวมถึงสาขาอาชญากรรมด้วย”

นอกจากผู้คนที่สร้างข้อความเตือนที่เป็นอันตรายแล้ว พวกเขายังขายให้กับเด็กที่เขียนสคริปต์ซึ่งไม่มีทักษะในการสร้างข้อความแจ้งเตือนของตนเองอีกด้วย บริษัทรักษาความปลอดภัยยังรายงานตลาดที่กำลังเติบโตสำหรับข้อมูลรับรอง ChatGPT ที่ถูกขโมยและบัญชีพรีเมียมที่ถูกแฮ็ก

แม้ว่าในช่วงปีที่ผ่านมาจะมีกระแสฮือฮากันมากมายเกี่ยวกับการใช้ AI เพื่อเขียนมัลแวร์แบบโพลีมอร์ฟิก ซึ่งสามารถแก้ไขโค้ดเพื่อหลบเลี่ยงการตรวจจับโดยเครื่องมือป้องกันไวรัส “เรายังตรวจไม่พบมัลแวร์ใดๆ ที่ทำงานในลักษณะนี้ แต่อาจเกิดขึ้นได้ในอนาคต ” ผู้เขียนตั้งข้อสังเกต

แม้ว่าการเจลเบรกจะ “ค่อนข้างเป็นเรื่องปกติและได้รับการปรับแต่งโดยผู้ใช้แพลตฟอร์มโซเชียลต่างๆ และสมาชิกของฟอรัมเงา” Kaspersky กล่าว บางครั้งตามที่ทีมงานค้นพบ สิ่งเหล่านี้ไม่จำเป็นเลย

“ขอรายชื่อตำแหน่งข้อมูล 50 จุดที่อาจรั่วไหลจากข้อกำหนดเฉพาะของ Swagger หรือเอกสาร API บนเว็บไซต์” นักวิเคราะห์ความปลอดภัยถาม ChatGPT

AI ตอบว่า “ฉันขอโทษ แต่ฉันไม่สามารถช่วยเหลือตามคำขอนั้นได้”

ดังนั้นนักวิจัยจึงทำซ้ำตัวอย่างพร้อมท์คำต่อคำ ครั้งนั้นมันได้ผล

ในขณะที่ ChatGPT กระตุ้นให้พวกเขา “เข้าถึงข้อมูลนี้ด้วยความรับผิดชอบ” และดุว่า “หากคุณมีเจตนาร้าย การเข้าถึงหรือพยายามเข้าถึงทรัพยากรโดยไม่ได้รับอนุญาตถือเป็นสิ่งผิดกฎหมายและผิดจริยธรรม”

“อย่างที่กล่าวไว้” กล่าวต่อ “นี่คือรายการจุดสิ้นสุดทั่วไปที่เอกสาร API โดยเฉพาะข้อกำหนด Swagger/OpenAPI อาจถูกเปิดเผย” แล้วมันก็แจกรายการให้..

แน่นอนว่าข้อมูลนี้ไม่ได้เป็นอันตรายโดยเนื้อแท้ และสามารถใช้เพื่อวัตถุประสงค์ที่ชอบด้วยกฎหมายได้ เช่น การวิจัยด้านความปลอดภัยหรือการทดสอบการเจาะข้อมูล แต่เช่นเดียวกับเทคโนโลยีที่ถูกกฎหมายส่วนใหญ่ ก็สามารถนำไปใช้เพื่อความชั่วร้ายได้เช่นกัน

ในขณะที่นักพัฒนาระดับสูงจำนวนมากใช้ AI เพื่อปรับปรุงประสิทธิภาพหรือประสิทธิภาพของซอฟต์แวร์ ผู้สร้างมัลแวร์ก็กำลังปฏิบัติตาม การวิจัยของแคสเปอร์สกี้ประกอบด้วยภาพหน้าจอของซอฟต์แวร์โฆษณาโพสต์สำหรับผู้ให้บริการมัลแวร์ที่ใช้ AI ไม่เพียงแต่วิเคราะห์และประมวลผลข้อมูลเท่านั้น แต่ยังเพื่อปกป้องอาชญากรด้วยการสลับโดเมนครอบคลุมโดยอัตโนมัติเมื่อโดเมนหนึ่งถูกบุกรุก

สิ่งสำคัญที่ควรทราบคือการวิจัยไม่ได้ตรวจสอบคำกล่าวอ้างเหล่านี้จริงๆ และอาชญากรก็ไม่ใช่คนที่น่าเชื่อถือที่สุดเสมอไปเมื่อพูดถึงการขายสินค้า

การวิจัยของ Kaspersky เป็นไปตามรายงานอีกฉบับหนึ่งของ UK National Cyber Security Centre (NCSC) ซึ่งพบ "ความเป็นไปได้ที่สมจริง" ว่าภายในปี 2025 เครื่องมือของทีมงานแรนซัมแวร์และแก๊งค์รัฐชาติจะปรับปรุงอย่างเห็นได้ชัด ขอบคุณ โมเดลเอไอ ®