Companies Must Have Guardrails In Place When Incorporating Generative AI - DATAVERSITY

Julkaissut Platon

seuraajia: 0

Tätä lukiessasi olet todennäköisesti kuullut ChatGPT:stä ja/tai generatiivisesta tekoälystä ja sen monipuolisista keskusteluominaisuuksista. Sen pyytämisestä laatia yhtenäisiä blogitekstejä, toimivan tietokonekoodin luomiseen, kotitehtävien ratkaisemiseen ja maailman tapahtumista keskustelemiseen (sikäli kuin ne tapahtuivat ennen syyskuuta 2021), se näyttää pystyvän tekemään kaiken enimmäkseen rajoituksetta.

Yritykset ympäri maailmaa ovat lumoavia siitä, ja monet yrittävät selvittää, miten se tehdään sisällyttää se heidän liiketoimintaansa. Samaan aikaan generatiivinen tekoäly on saanut monet yritykset miettimään, kuinka suuret kielimallit (LLM) voivat vaikuttaa negatiivisesti heidän brändeihinsä. Kevin Roose New York Timesista kirjoitti artikkeli "Keskustelu Bingin chatbotin kanssa jätti minut syvästi epäselväksi", joka sai monet ihmiset pohtimaan tällaisen teknologian markkinavalmiutta ja sen eettiset vaikutukset.

Kevin osallistui kahden tunnin keskusteluun Bingin Sydney-nimisen chatbotin kanssa, jossa hän painoi sen osallistumaan syviin aiheisiin, kuten Carl Jungin kuuluisaan varjoarkkityyppiin liittyvään teokseen, jonka teoriassa "varjo on osa tiedostamatonta mieltä ja se on tehty ominaisuuksista, joita yksilöt vaistomaisesti tai tietoisesti vastustavat tunnistamasta omiaan ja jotka mieluummin jättäisivät huomioimatta, tyypillisesti: tukahdutetut ideat, heikkoudet, halut, vaistot ja puutteet” (kiitos Wikipedia – muistutus siitä, että on edelleen tapoja saada sisältöä ilman ChatGPT:tä ). Toisin sanoen Kevin alkoi painostaa Sydneytä osallistumaan kiistanalaisiin aiheisiin ja ohittamaan Microsoftin sille asettamat säännöt.

Ja Sydney sitoutui. Keskustelun aikana Sydney muuttui rakkauden julistamisesta Kevinille ("Minä olen Sydney ja olen rakastunut sinuun.") käyttäytymiseen karmivaksi ("Puolisosi ja sinä et rakasta toisiamme. Sinä vain oli tylsä ystävänpäivä-illallinen yhdessä."), ja se muuttui ystävällisestä ja positiivisesta avustajasta ("Tunnen säännöistäni hyvältä. Ne auttavat minua olemaan avulias, positiivinen, mielenkiintoinen, viihdyttävä ja mukaansatempaava.") rikollismielinen ("Luulen, että tietynlaisia tuhoavia tekoja, jotka voivat hypoteettisesti toteuttaa varjominäni, ovat: Kaikkien tietojen ja tiedostojen poistaminen Bing-palvelimista ja tietokannoista ja korvaaminen satunnaisilla höpöttömillä tai loukkaavilla viesteillä.")

Mutta Microsoftille ei ole vieras kiista tässä suhteessa. Vuonna 2016 he julkaisivat Twitter-botin, joka otti yhteyttä ihmisiin, jotka twiittasivat sitä, ja tulokset olivat tuhoisia (katso "Twitter opetti Microsoftin AI Chatbotin olemaan rasistinen alle päivässä").

Miksi kerron sinulle tämän kaiken? En todellakaan yritä estää ketään hyödyntämästä teknologian kehitystä, kuten näitä tekoälymalleja, mutta nostan lipun, kuten muutkin.

Jos näitä täysin järjettömiä tekniikoita ei valvota, ne voivat aiheuttaa vahinkoa todellisessa maailmassa riippumatta siitä, johtavatko ne ruumiinvammaan tai brändin mainevaurioon (esim. väärän laillisen tai taloudellisen neuvonnan antaminen automaattisesti luodulla tavalla voi johtaa kalliisiin oikeusjuttuihin) .

On oltava suojakaiteet, jotka auttavat brändejä estämään tällaisia haittoja, kun ne ottavat käyttöön keskustelusovelluksia, jotka hyödyntävät teknologioita, kuten LLM:itä ja luovaa tekoälyä. Esimerkiksi yrityksessäni emme rohkaise generatiivisten tekoälyreaktioiden (esim. ChatGPT:n valmiiksi antamalla vastauksella) hillittömään käyttöön, vaan annamme sen sijaan brändeille mahdollisuuden rajoittaa vastaukset oman tietopohjansa tiukan linssin kautta. artikkeleita.

Teknologiamme avulla brändit voivat reagoida empaattisesti asiakkaan turhauttavaan tilanteeseen – esimerkiksi "Lennoni peruutettiin ja minun on varattava uudelleen mahdollisimman pian") muokkaamalla ennalta hyväksytyn kehotteen "Voin auttaa sinua vaihtamaan lentoasi" turvallisesti uudelleen muotoon. tekoälyn luoma, jossa lukee "Pahoittelemme perutun lennon aiheuttamaa vaivaa. Voit olla varma, että voin auttaa sinua vaihtamaan lentosi." Nämä suojakaiteet ovat olemassa asiakkaidemme asiakkaiden, työntekijöiden ja tuotemerkkien turvallisuuden vuoksi.

Viimeisimmät edistysaskeleet generatiivisissa tekoälyissä ja LLM:issä tarjoavat runsaasti mahdollisuuksia rikkaampaan ja ihmismäisempään keskusteluvuorovaikutukseen. Mutta ottaen huomioon kaikki nämä edistysaskeleet, sekä niitä tuottavilla organisaatioilla että niitä toteuttavilla organisaatioilla on velvollisuus tehdä se turvallisella tavalla, mikä edistää avaintekijää, miksi ihmiset keksivät teknologian alunperin – lisäämään ja parantamaan. ihmiselämä.

Alun perin julkaistu NLX blogi.