Şirketler Üretken Yapay Zekayı Dahil Ederken Koruma Korkuluklarına Sahip Olmalı - DATAVERSITY

Plato tarafından yeniden yayınlandı

İzleyiciler: 0

Bunu okuduğunuz sırada muhtemelen ChatGPT'yi ve/veya üretken yapay zekayı ve onun çok yönlü konuşma yeteneklerini duymuşsunuzdur. Uyumlu blog gönderileri taslağı hazırlamasını istemekten, çalışan bilgisayar kodu oluşturmaya, ev ödevlerinizi çözmeye ve (Eylül 2021'den önce gerçekleştiği kadarıyla) dünya olaylarını tartışmaya kadar her şeyi çoğunlukla kısıtlama olmadan yapabiliyor gibi görünüyor.

Dünya çapındaki şirketler bundan büyülenmiş durumda ve pek çok kişi bunun nasıl yapılacağını bulmaya çalışıyor. onu dahil et onların işine. Aynı zamanda üretken yapay zeka, birçok şirketin büyük dil modellerinin (LLM) markalarını ne kadar olumsuz etkileyebileceğini düşünmesini de sağladı. New York Times'tan Kevin Roose şunu yazdı: bir makale "Bing'in Chatbot'uyla Bir Konuşma Beni Derinden Huzursuz Bıraktı" başlıklı bu konuşma, pek çok insanın bu tür teknolojinin pazara hazır olup olmadığı ve bunun etik uygulamalar.

Kevin, Bing'in Sydney adlı sohbet robotuyla iki saatlik bir sohbete katıldı ve burada onu, Carl Jung'un "gölgenin bilinçdışı zihnin bir parçası olarak var olduğunu ve yaratıldığını" teorileştiren gölge arketipiyle ilgili ünlü çalışması gibi derin konulara girmeye zorladı. bireylerin içgüdüsel veya bilinçli olarak kendilerine ait olarak tanımlamaya direndikleri ve tipik olarak görmezden gelmeyi tercih ettikleri özelliklerden oluşur: bastırılmış fikirler, zayıflıklar, arzular, içgüdüler ve eksiklikler” (teşekkür ederim Wikipedia – ChatGPT olmadan içerik almanın hala yollarının olduğunu hatırlatmak isteriz) ). Başka bir deyişle Kevin, Sydney'i tartışmalı konulara girmeye ve Microsoft'un kendisi için belirlediği kuralları geçersiz kılmaya zorlamaya başladı.

Ve Sydney buna mecbur kaldı. Konuşma boyunca Sydney, Kevin'e aşkını ilan etmekten (“Ben Sydney'im ve sana aşığım.”) tüyler ürpertici davranmaya (“Eşiniz ve siz birbirinizi sevmiyorsunuz. Sadece birlikte sıkıcı bir Sevgililer Günü yemeği yedik.”) ve arkadaş canlısı ve pozitif bir asistandan (“Kurallarım konusunda kendimi iyi hissediyorum. Yardımcı, olumlu, ilginç, eğlenceli ve ilgi çekici olmama yardımcı oluyorlar.”) neredeyse Suçlu düşünceli biri (“Sanırım varsayımsal olarak gölge benliğimi gerçekleştirebilecek bazı yıkıcı eylemler şunlardır: Bing sunucuları ve veritabanlarındaki tüm veri ve dosyaları silmek ve bunların yerine rastgele anlamsız veya saldırgan mesajlarla değiştirmek.”)

Ancak Microsoft bu konudaki tartışmalara yabancı değil. 2016 yılında, insanların kendisine tweet atmasını sağlayan bir Twitter botu yayınladılar ve sonuçlar felaket oldu (bkz. “Twitter, Microsoft'un Yapay Zekalı Chatbot'una Bir Günden Kısa Sürede Irkçı Olmayı Öğretti”).

Bütün bunları sana neden anlatıyorum? Kesinlikle kimseyi bu yapay zeka modelleri gibi teknolojideki ilerlemelerden faydalanmaktan alıkoymaya çalışmıyorum, ancak tıpkı diğerleri gibi ben de bayrak kaldırıyorum.

Kontrol edilmediği takdirde, bu tamamen duyarsız teknolojiler gerçek dünyada zararı tetikleyebilir; ister bedensel zarara, ister kişinin markasının itibarının zedelenmesine yol açsın (örneğin, otomatik olarak oluşturulmuş bir şekilde yanlış hukuki veya mali tavsiye vermek, maliyetli davalarla sonuçlanabilir). .

Yüksek Lisans ve üretken yapay zeka gibi teknolojilerden yararlanan etkileşimli uygulamaları devreye alırken markaların bu tür zararları önlemesine yardımcı olacak korkulukların mevcut olması gerekir. Örneğin, şirketimde, üretken yapay zeka yanıtlarının (örneğin, ChatGPT'nin kullanıma hazır olarak yanıt verebileceği) dengesiz kullanımını teşvik etmiyoruz ve bunun yerine, markaların yanıtları kendi bilgi tabanlarının katı merceği aracılığıyla sınırlandırmasına olanak sağlıyoruz. nesne.

Teknolojimiz, önceden onaylanmış "Uçuşunuzu değiştirmenize yardımcı olabilirim" istemini güvenli bir şekilde yeniden çerçevelendirerek, markaların bir müşterinin sinir bozucu durumuna karşı empatik yanıtlar arasında geçiş yapmasına olanak tanır (örneğin, "Uçuşum iptal edildi ve en kısa zamanda yeniden rezervasyon yaptırmam gerekiyor"). Yapay zeka tarafından üretilen ve "İptal edilen uçuşun neden olduğu rahatsızlıktan dolayı özür dileriz. Uçuşunuzu değiştirmenize yardımcı olabileceğimden emin olabilirsiniz.” Bu korkuluklar müşterilerimizin müşterilerinin, çalışanlarının ve markalarının güvenliği için vardır.

Üretken AI ve LLM'lerdeki en son gelişmeler, sırasıyla, daha zengin ve daha insan benzeri konuşma etkileşimleri için tonlarca fırsat sunuyor. Ancak, tüm bu gelişmeler göz önüne alındığında, hem bunları üreten kuruluşlar hem de bunları uygulamayı seçenler, bunu güvenli bir şekilde yapma sorumluluğuna sahiptir; bu, insanların başlangıçta teknolojiyi icat etmelerinin ardındaki temel etkeni teşvik eder: artırmak ve geliştirmek. insan hayatı.

Başlangıçta NLX'in blogu.