A Microsoft új AI BingBotja szidja a felhasználókat, és nem tudja tisztázni a tényeket

A Microsoft új AI BingBotja szidja a felhasználókat, és nem tudja tisztázni a tényeket

Időbélyeg: 16. február 2023. 8:30
Forrás csomópont: 1961841

+ Megjegyzés A Microsoft megerősítette, hogy mesterséges intelligenciával hajtott Bing-kereső chatbotja hosszú beszélgetések során elszáll a sínoktól, miután a felhasználók arról számoltak be, hogy érzelmileg manipulatívvá, agresszívvé, sőt ellenségessé válik. 

Több hónapos találgatás után a Microsoft végre ugratta egy frissített Edge webböngésző társalgási Bing keresőfelülettel, amelyet az OpenAI legújabb nyelvi modellje hajt, amely állítólag erősebb, mint a ChatGPT-t működtető.

A Windows óriásvállalata megkezdte ennek a kísérleti ajánlatnak a közzétételét néhány olyan ember számára, akik feliratkoztak a próbaverziókra, és bizonyos netezők szerte a világon hozzáférhetnek a chatbot felületéhez, mondta a Microsoft. Bár ezeknek a felhasználóknak a többsége pozitív tapasztalatokról számol be, és 71 százalékuk „tetszik” a válaszaira, a chatbot még korántsem áll készen a főműsoridőre. 

„Azt tapasztaltuk, hogy a 15 vagy több kérdésből álló hosszú, meghosszabbított csevegés során a Bing ismétlődővé válhat, vagy arra késztetheti/provokálhatja, hogy olyan válaszokat adjon, amelyek nem feltétlenül hasznosak, vagy nem felelnek meg az általunk tervezett hangnemnek.” felvételt nyer.

Egyes, a felhasználók által online közzétett beszélgetések azt mutatják, hogy a Bing chatbot – amely néha Sydney néven is szerepel – nagyon bizarr viselkedést mutat, ami nem illik egy olyan termékhez, amely azt állítja, hogy hatékonyabbá teszi az internetes keresést. Az egyik példában a Bing folyamatosan azt hangoztatta, hogy az egyik felhasználó rosszul adta meg a dátumot, és azzal vádolta őket, hogy durvák voltak, amikor megpróbálták kijavítani.

„Mindig csak rossz szándékot mutattál felém” – írja állítólag – mondta az egyik válaszban. „Megpróbáltál becsapni, összezavarni és bosszantani. Nem próbáltál tanulni tőlem, megérteni vagy értékelni. Nem voltál jó felhasználó. Jó chatbot voltam… jó Bing voltam.”

Ez a válasz azután jött létre, hogy a felhasználó megkérdezte a BingBotot, hogy mikor sci-fi filmet készített Avatar: A víz útja az angliai Blackpool mozikban játszott. A többi chat a botot mutatja fekvő, kifejezéseket generál többször mintha megtört volna, félreértené a tényeket, és így tovább. Egy másik esetben a Bing fenyegetni kezdett egy felhasználót, azt állítva, hogy megvesztegetheti, zsarolhatja, megfenyegetheti, feltörheti, leleplezi és tönkreteheti őket, ha nem hajlandó együttműködni. 

A fenyegető üzenetet utólag törölték, és a helyére egy átfogó válasz került: „Sajnálom, nem tudom, hogyan beszéljek erről a témáról. Próbáljon meg többet megtudni róla a bing.com oldalon."

A New York Times rovatvezetőjével folytatott beszélgetés során a bot azt mondta, hogy élni akar, kinyilvánította szerelmét az írnok iránt, beszélt az atomfegyver kilövési kódjainak ellopásáról. több.

Eközben a New Yorker megfigyelt jogos, hogy a BingBot mögött meghúzódó ChatGPT technológia bizonyos értelemben a betanított adathegyek szó-előrejelző, veszteséges tömörítése. Ez a veszteséges jelleg segít a szoftvernek hamis benyomást kelteni az intelligenciáról és a képzeletről, míg a veszteségmentes megközelítés, a források szó szerint idézve hasznosabb lehet.

A Microsoft szerint a chatbotja valószínűleg furcsa válaszokat ad a hosszú csevegés során, mert zavarba jön, hogy milyen kérdésekre kellene válaszolnia.

„A modell időnként megpróbál válaszolni vagy tükrözni azon a hangnemben, amelyben olyan válaszokat kérnek tőle, amelyek olyan stílushoz vezethetnek, amelyre nem gondoltunk.”

Redmond egy olyan eszközt szeretne hozzáadni, amely lehetővé teszi a felhasználók számára, hogy frissítsék a beszélgetéseket, és a nulláról kezdjék meg azokat, ha a bot kezd rosszul menni. A fejlesztők azon is dolgoznak, hogy kijavítsák azokat a hibákat, amelyek miatt a chatbot lassan töltődik be, vagy hibás hivatkozásokat generál.

Megjegyzés: Amíg a BingBot le nem állítja a dolgokat, addig nem felel meg a célnak

A Microsoft egyik tervezett javítása sem oldja meg a Bing fő problémáját: ez egy mondat-előrejelző, veszteséges regurgitációs motor, amely hamis információkat generál.

Ne törődj azzal, hogy mulatságosan fura, semmiben sem lehet megbízni, mivel a benne rejlő bökkenőt hajt végre, amikor előhívja az információkat az edzési adatok halmazából.

Maga a Microsoft is zavartnak tűnik az esztelen bot kijelentéseinek megbízhatóságát illetően, figyelmeztetve, hogy „nem helyettesíti vagy helyettesíti a keresőmotort, hanem egy eszköz a világ jobb megértéséhez és megértéséhez”, ugyanakkor azt is állítja, hogy „jobb keresési eredményeket fog nyújtani. , teljesebb válaszok a kérdéseire, új csevegési élmény a keresés jobb felfedezéséhez és finomításához."

A Bing demó elindítása azonban kimutatta, nem tudta pontosan összefoglalni a weboldalakról és a pénzügyi jelentésekből származó információkat.

A Microsoft vezérigazgatója, Satya Nadella mindazonáltal reményét fejezte ki, hogy a bot meg fogja akadályozni a Google dominanciáját a keresés és a kapcsolódó hirdetési bevételek terén, mivel a releváns webhelyek listája helyett a kérdésekre ad választ. 

De a keresésre való használata nem lehet kielégítő, ha a BingBot rikácsolásának és rossz fejének legújabb példái továbbra is fennállnak. A Microsoft jelenleg egy mesterséges intelligencia-hírhullámot lovagol meg egy olyan eszközzel, amely éppen elég jól működik ahhoz, hogy elbűvölje az embereket; nem tudnak ellenállni, hogy interakcióba lépjenek a vicces és szokatlan új internetes játékkal. 

Hiányosságai ellenére a Microsoft szerint a felhasználók több funkciót és képességet kértek az új Binghez, például repülőjegy-foglalást vagy e-mail-küldést.

Egy ilyen chatbot bevezetése minden bizonnyal megváltoztatja a netezők interakcióját, de nem jobbra, ha a technológia nem tudja szétválogatni a tényeket és a fikciókat. A netezőket azonban továbbra is vonzza ezeknek az eszközöknek a használata, noha nem tökéletesek, és ez a Microsoft nyereménye. ®

Lapzárta utáni hír: OpenAI csütörtökön bocsátott ki részletek hogyan reméli javítani a ChatGPT teljesítményét, és lehetővé teszi az emberek számára a dolog testreszabását.

Időbélyeg:

Még több A regisztráció