A mesterséges intelligencia felelősség

Újra kiadta Platón

Követő: 0

Megjegyzés A mesterséges intelligencia, vagyis a szöveget megjósoló, a képeket és a beszédet kategorizálni képes nagy alapmodellek inkább kötelezettségnek, mint eszköznek tűnik.

A dolláros kár eddig csekély mértékű. 2019-ben egy Tesla-sofőr, aki az autógyártó Autopilot szoftverének segítségével üzemeltette járművét, piros lámpába futott és elütött egy másik járművet. Az utasok meghaltak, a Tesla autósa pedig múlt héten megrendelt hogy fizessen vissza 23,000 XNUMX dollárt.

A Tesla nagyjából ugyanebben az időben adott ki egy visszahívás kétmillió járművet, hogy felülvizsgálja Autopilot szoftverét, válaszul az Egyesült Államok Nemzeti Közúti Közlekedésbiztonsági Hivatala (NHTSA) vizsgálatára, amely megállapította, hogy az Autopilot biztonsági vezérlői hiányoznak.

Huszonháromezer dollár nem sok két életért, de az érintett családok polgári jogi követeléseket indítanak a sofőrrel és a Teslával szemben, így a költségek emelkedhetnek. És állítólag legalább vannak tucatnyi per az USA-ban az Autopilot bevonásával.

Eközben az egészségügyi ágazatban a UnitedHealthcare pert indítanak mert az nH Predict AI Modell, amelyet a Navihealth 2020-as megvásárlásával szerzett meg, állítólag megtagadta a biztosított időskorúaktól a szükséges posztakut ellátást.

Korlátozások szükségesek

Az AI-modelleket és -szolgáltatásokat értékesítő vállalatok egyértelműen megértik, hogy probléma van. Az alapmodellek körül elhelyezett „védőkorlátokra” utalnak, hogy segítsenek nekik a sávjukban maradni – még akkor is, ha ezek nem működik nagyon jól. Az efféle óvintézkedések szükségtelenek lennének, ha ezek a modellek nem tartalmaznák gyermekek szexuális zaklatását ábrázoló anyagok és egy sor egyéb mérgező tartalom.

Mintha a mesterséges intelligencia fejlesztői olvasnák Alex Blechman íróját vírusos poszt arról, hogy a technológiai cégek terméktervként értelmezték a „Ne hozd létre a gyötrelmes nexust” figyelmeztető mesét, és azt mondták: „Jól néz ki.”

Természetesen vannak régebbi irodalmi hivatkozások, amelyek megfelelnek az MI-nek, mint például Mary Shelley Frankensteinje vagy Pandora szelencéje – különösen jól illeszkednek, mivel az AI-modelleket gyakran fekete dobozoknak nevezik, mivel a tananyag nem átlátható.

A káros tartalommal teleszórt kereskedelmi modellek kifürkészhetetlensége eddig nem rótta meg túlságosan a vállalkozásokat. Van egy friss követelés Chris Bakke, a Laskie alapítója és vezérigazgatója (amelyet idén vásárolt meg egy magát X-nek nevezett cég), hogy egy watsonville-i (Kaliforniai) autókereskedés által használt GM chatbotot rábeszéltek egy 2024-es Chevy Tahoe eladására. dollárért 1 egy kis gyors tervezéssel. De a kereskedés valószínűleg nem fogja teljesíteni ezt a kötelezettségvállalást.

Ennek ellenére az AI-modellekre való támaszkodás kockázata elegendő Google, microsoftés Antropikus felajánlották, hogy kártalanítják az ügyfeleket a szerzői jogi követelések alól (amelyek számos és nagyrészt megoldatlan). Ezt nem teszed, hacsak nincs esély a felelősségre.

Szabályozás

A hatóságok még mindig próbálják kitalálni, hogyan kell értékelni a mesterséges intelligencia felelősségét. Fontolja meg, hogyan fogalmazta meg a kérdést az Európai Bizottság, miközben a mesterséges intelligencia működőképes jogi keretének kialakításán dolgozik:

„A jelenlegi felelősségi szabályok, különösen a vétkességen alapuló nemzeti szabályok, nem alkalmasak az AI-kompatibilis termékek/szolgáltatások által okozott károk miatti kártérítési igények kezelésére.” mondott [PDF] tavaly. „Ilyen szabályok szerint az áldozatoknak igazolniuk kell a kárt okozó személy jogellenes tevékenységét/mulasztását. A mesterséges intelligencia sajátos jellemzői, beleértve az autonómiát és az átlátszatlanságot (az úgynevezett „fekete doboz” effektus), megnehezítik vagy megfizethetetlenül költségessé teszik a felelős személy azonosítását és a sikeres felelősségi igény bizonyítását.”

És az amerikai törvényhozók is javasolt kétpárti mesterségesintelligencia-keretrendszer, amely „biztosítja, hogy a mesterséges intelligencia-vállalatok felelősségre vonhatók legyenek a felügyeleti szerv végrehajtása és a magánjogi fellépés révén, ha modelljeik és rendszereik sértik a magánélet védelmét, megsértik az állampolgári jogokat vagy más módon észlelhető károkat okoznak”.

Ne izguljon túl, ha rács mögött látja az AI-cégek vezetőit: A mesterségesintelligencia-ipar vezetőinek bevonása ebbe a folyamatba azt sugallja, hogy a megjelenő szabályok körülbelül olyan hatékonyak lesznek, mint a lobbisták által megsértett egyéb szabályozási keretek.

De az izgalom a probléma része: olyan nagy a hírverés a sztochasztikus papagájokról, ahogyan az AI-modelleket nevezik.

Az AI-modellek bizonyos esetekben valódi értékkel bírnak, ahogy azt a Socket biztonsági cég is megjegyezte, amely a ChatGPT-t használta segítség zászló szoftver sérülékenységek. Csodákat tettek a beszédfelismeréssel, fordítással és képfelismeréssel, az átírók és a CAPTCHA rejtvények kárára. Emlékeztették a szakma veteránjait, hogy milyen szórakoztató volt velük játszani Eliza, egy korai chatbot. Úgy tűnik, valóban hasznosak a döntéstámogató munkákban, feltéve, hogy ember van a hurokban. És összetett parancssori varázslatokat vettek át, válogatott jelzőikkel és paramétereikkel, és ugyanolyan összetett szöveges promptokká alakították őket, amelyek akár bekezdésekig is eltarthatnak.

Az AI által lehetővé tett automatizálásnak azonban ára van. Egy nemrégiben cikkben Cory Doctorow író és aktivista a Locus című tudományos-fantasztikus szakmagazin számára így érvelt: „Az MI-cégek hallgatólagosan arra fogadnak, hogy ügyfeleik mesterséges intelligenciát vásárolnak a rendkívül következményes automatizáláshoz, elbocsátják a dolgozókat, és ennek következtében fizikai, mentális és gazdasági károkat okoznak saját ügyfeleiknek. , valahogy kibújva a felelősség alól ezekért a károkért.”

A Doctorow a kockázatok miatt szkeptikus a tekintetben, hogy van értelmes piac a mesterséges intelligencia szolgáltatásoknak a nagy értékű vállalkozásokban, és úgy véli, AI buborék. Példaként a GM Cruise-t emeli ki, megjegyezve, hogy az önvezető autókat gyártó cég üzleti modellje – bizonytalanságban gyalogos sérülése és visszahívása miatt – minden alacsony bérű sofőrt 1.5 drágább távfelügyeletre cserél, anélkül, hogy kizárná a balesetek és a kapcsolódó perek lehetőségét.

Túlterhelés

Legalább van némi lehetőség az AI-val kapcsolatos kis értékű üzletre. Ezek magukban foglalják a havi fizetést egy API-hoz való hozzáférésért a pontatlan csevegésért, az algoritmikus képgenerálásért, amely engedély nélkül választja ki a művészek stílusát, vagy százakat generál álhíroldalak (vagy könyvek) oly módon, hogy „elönti a zónát” félretájékoztatással.

Valószínűtlennek tűnik, hogy az Arena Groupé követelés hogy mesterséges intelligencia platformja 80-90 százalékkal csökkentheti az olyan kiadványok cikkeinek elkészítéséhez szükséges időt, mint a Sports Illustrated, javítja az olvasói elégedettséget, a márkahűséget vagy a tartalom minőségét. De talán az emberileg lehetségesnél több cikk generálása a cég több száz címén több oldalmegtekintést eredményezhet a robotok által, és több automatizált hirdetési bevételhez vezet a hirdetésvásárlóktól, akik túl naivak ahhoz, hogy felfogják.

A probléma része az, hogy az elsődleges AI-promoterek – az Amazon, a Google, az Nvidia és a Microsoft – felhőplatformokat üzemeltetnek, vagy GPU-hardvert értékesítenek. Ők a mesterséges intelligencia aranylázának csákányos eladói, akik csak felhőszolgáltatásaikat vagy számtörő készletüket szeretnék eladni. Mindannyian részt vettek a blokklánc expressz- és kriptovaluta-fölényben, amíg ez a téveszme el nem csillapodott.

Még lelkesebben segítik a vállalatokat a mesterséges intelligencia-terhelések futtatásában, akár hasznosak, akár nem. Egyszerűen felh Hasonlóképpen, az infrastruktúra nélküli gépi tanulással foglalkozó startupok abban reménykednek, hogy a transzformációs technológiáról szóló lélegzetelállító beszéd felfújja vállalatuk értékelését, hogy megjutalmazza a korai befektetőket.

A mesterséges intelligencia őrülete részben annak is betudható, hogy a technológiai ipar folyamatosan arra törekszik, hogy megválaszolja a „Mi következik?” hosszan tartó pangás idején. Apple, Google, amazon, meta, microsoftés Nvidia mindannyian mindent megtesznek annak érdekében, hogy megakadályozzák az értelmes versenyt, és a felhő- és mobilkorszak kezdete, a 2000-es évek közepe óta ez meglehetősen jól sikerült. Nem mintha a versenyellenes magatartás valami új lenne – emlékezzünk vissza a 2010-es iparágra település az Egyesült Államok Igazságügyi Minisztériumával az Adobe, a Google, az Intel, az Intuit és a Pixar közötti megállapodások miatt, hogy elkerüljék a tehetségek egymás elleni orvvadászatát.

A Microsoft a mesterséges intelligencia-integráció nagy részét a Binggel valósította meg, amelyet sokáig háttérbe szorított a Google Search, azt állítva, hogy „a keresés újra feltalálása.” De nem sok változott azóta – Bing állítólag nem sikerült elvennie a piaci részesedést a Google-tól, amikor széles körben elterjedt az a vélekedés, hogy a Google Keresés – amely szintén ma már mesterséges intelligenciával is tele van – egyre rosszabb.

Hozd 2024-et

Ahhoz, hogy megtudjuk, mi következik, meg kell várnunk, amíg az igazságügyi minisztérium és a világ más részének szabályozói végrehajtják a változtatásokat. trösztellenes végrehajtás és perek. Mert míg a Google zárolja a keresési terjesztést – az Apple-lel és másokkal kötött üzleteken keresztül – és a digitális reklámozáson keresztül, a Metával kötött megállapodása révén (engedélyezték az USA-ban, még mindig kivizsgálás alatt Európában és az Egyesült Királyságban) és egyéb tevékenységek, amelyek felpiszkált az Igazságügyi Minisztérium érdeklődése – sem a keresési, sem a hirdetési üzletág nem tűnik alkalmasnak az új kihívók számára, bármennyi AI szószt is adnak hozzá.

Az AI nemcsak pénzügyi, hanem etikai értelemben is felelősség. Bérmegtakarítást ígér – ennek ellenére lévén rendkívül szempontjából drága képzés, fejlesztés és a környezeti hatás – miközben az emberi munka, a szellemi tulajdon, a káros teljesítmény és az információs pontosság iránti közömbösséget ösztönzi. A mesterséges intelligencia arra kéri a vállalatokat, hogy távolítsák el az embereket az egyenletből, ha gyakran olyan hozzáadott értéket adnak, amely nem derül ki a mérlegből.

Van hely a mesterséges intelligencia számára, hogy valóban hasznos legyen, de azért kell használni, hogy segítsen az embereknek, nem pedig megszabadulni tőlük. ®