Artificial Intelligence Is A Liability

Ponovno objavil Platon

Spremljevalci: 0

komentar Umetna inteligenca, kar pomeni velike temeljne modele, ki predvidevajo besedilo in lahko kategorizirajo slike in govor, je videti bolj kot odgovornost kot sredstvo.

Doslej je bila dolarska škoda majhna. Leta 2019 je voznik Tesle, ki je svoje vozilo upravljal s pomočjo programske opreme Autopilot proizvajalca avtomobilov, prevozil rdečo luč in trčil v drugo vozilo. Stanovalci so umrli, prejšnji teden pa je umrl voznik Tesle naročil plačati 23,000 dolarjev odškodnine.

Približno ob istem času je izdal Tesla odpoklic dva milijona vozil za revizijo svoje programske opreme za avtopilot kot odziv na preiskavo ameriške uprave za varnost v cestnem prometu (NHTSA), ki je ugotovila, da varnostni nadzor avtopilota manjka.

Triindvajset tisoč dolarjev ni veliko za dve življenji, vendar vpletene družine vlagajo civilne tožbe proti vozniku in proti Tesli, zato se lahko stroški povečajo. In naj bi jih bilo vsaj ducat tožb ki vključuje avtopilota v ZDA.

Medtem pa v zdravstveni industriji UnitedHealthcare je tožen ker je model nH Predict AI, ki ga je pridobil z nakupom Navihealtha leta 2020, zavarovanim starejšim domnevno zavračal potrebno post-akutno oskrbo.

Zahtevane omejitve

Podjetja, ki prodajajo modele in storitve AI, jasno razumejo, da obstaja težava. Sklicujejo se na "varovalne ograje", nameščene okoli temeljnih modelov, da bi jim pomagali ostati na voznem pasu - tudi če ti ne delaj zelo dobro. Tovrstni previdnostni ukrepi ne bi bili potrebni, če ti modeli ne bi vsebovali gradivo o spolni zlorabi otrok in kopico druge strupene vsebine.

Kot da bi razvijalci AI brali pisatelja Alexa Blechmana viralna objava o tehnoloških podjetjih, ki si opozorilno zgodbo »Don't Create the Torment Nexus« razlagajo kot načrt izdelka, in rekel: »Meni se zdi dobro.«

Seveda obstajajo starejše literarne reference, ki ustrezajo AI, kot sta Frankenstein Mary Shelley ali Pandorina skrinjica – kar je še posebej primerno glede na to, da se modeli AI pogosto imenujejo črne skrinjice zaradi pomanjkanja preglednosti gradiva za usposabljanje.

Doslej nedoumljivost komercialnih modelov, posutih s škodljivo vsebino, podjetjem ni vzela prevelikega davka. Obstaja nedavna trdijo Chrisa Bakkeja, ustanovitelja in izvršnega direktorja podjetja Laskie (ki ga je letos kupilo podjetje, ki se imenuje X), da je bil klepetalni robot GM, ki ga uporablja prodajalec avtomobilov v Watsonvillu v Kaliforniji, nagovorjen, da je privolil v prodajo Chevy Tahoe letnik 2024 za $ 1 z malo hitrega inženiringa. Vendar zastopstvo te zaveze verjetno ne bo izpolnilo.

Kljub temu je tveganje zanašanja na modele AI dovolj google, Microsoftin Antropično so ponudili odškodnino strankam zaradi zahtevkov glede avtorskih pravic (ki so številni in večinoma nerešeni). To ni nekaj, kar počnete, razen če obstaja možnost odgovornosti.

Uredba

Organi še vedno poskušajo ugotoviti, kako bi bilo treba oceniti odgovornost za umetno inteligenco. Razmislite, kako je Evropska komisija oblikovala to vprašanje, medtem ko si prizadeva za oblikovanje uporabnega pravnega okvira za umetno inteligenco:

"Trenutni predpisi o odgovornosti, zlasti nacionalni predpisi, ki temeljijo na krivdi, niso prilagojeni za obravnavo odškodninskih zahtevkov za škodo, povzročeno z izdelki/storitvami, ki podpirajo umetno inteligenco," je Komisija je dejal [PDF] lani. »Po takšnih pravilih morajo oškodovanci dokazati protipravno dejanje/opustitev osebe, ki je povzročila škodo. Posebne značilnosti umetne inteligence, vključno z avtonomijo in nepreglednostjo (tako imenovani učinek črne skrinjice), otežujejo ali prehitro drago identificirajo odgovorno osebo in dokazujejo zahteve za uspešen zahtevek glede odgovornosti.«

In ameriški zakonodajalci so predlagano dvostranski okvir za umetno inteligenco, ki "zagotavlja, da so podjetja z umetno inteligenco lahko odgovorna prek uveljavljanja nadzornih organov in zasebnih pravic do ukrepanja, ko njihovi modeli in sistemi posegajo v zasebnost, kršijo državljanske pravice ali kako drugače povzročijo opazno škodo."

Ne bodite preveč navdušeni nad tem, da boste za zapahi videli direktorje podjetij za umetno inteligenco: vključenost vodilnih v industriji umetne inteligence v ta proces nakazuje, da bodo vsa pravila, ki se bodo pojavila, približno tako učinkovita kot drugi regulativni okviri, ki so jih lobisti omajali.

Toda vznemirjenje je del težave: toliko je hype o stohastičnih papagajih, kot se imenujejo modeli AI.

Modeli umetne inteligence imajo v nekaterih kontekstih resnično vrednost, kot ugotavlja varnostno podjetje Socket, ki je uporabilo ChatGPT za zastavica pomoči ranljivosti programske opreme. Naredili so čudeže pri prepoznavanju govora, prevajanju in prepoznavanju slik, na škodo prepisovalcev in ugank CAPTCHA. Veterane industrije so spomnili na to, kako zabavno je bilo igrati z njimi Eliza, zgodnji chatbot. Izgledajo, kot da imajo resnično korist pri podpori odločanju, če je v zanki človek. In vzeli so zapletene ukaze ukazne vrstice z njihovimi izbranimi zastavicami in parametri ter jih spremenili v enako zapletene besedilne pozive, ki se lahko nadaljujejo v odstavkih.

Toda avtomatizacija, ki jo omogoča AI, ima svojo ceno. V nedavnem članek za znanstvenofantastično strokovno revijo Locus je avtor in aktivist Cory Doctorow trdil: »Podjetja z umetno inteligenco implicitno stavijo, da bodo njihove stranke kupile umetno inteligenco za zelo posledično avtomatizacijo, požarne delavce in posledično povzročile fizično, duševno in ekonomsko škodo svojim strankam. , s čimer se nekako izmika odgovornosti za to škodo.«

Doctorow je skeptičen, da obstaja pomemben trg za storitve umetne inteligence v podjetjih z visoko vrednostjo zaradi tveganj, in verjame, da smo v AI mehurček. Kot primer izpostavlja GM Cruise in ugotavlja, da poslovni model podjetja za samovozeče avtomobile – v limbu zaradi poškodbe pešca in odpoklica – pomeni zamenjavo vsakega nizko plačanega voznika z 1.5 dražjim nadzornikom na daljavo, brez izključitve možnosti nesreč in povezanih tožb.

preobremenitev

Z umetno inteligenco je vsaj nekaj potenciala za posle nizke vrednosti. Ti vključujejo mesečno plačilo za dostop do API-ja za nenatančen klepet, algoritemsko ustvarjanje slik, ki brez dovoljenja izbere stile umetnikov, ali ustvarjanje stotin strani z lažnimi novicami (oz knjige) na način, da "poplavi območje” z napačnimi informacijami.

Zdi se malo verjetno, da Arena Group trdijo da lahko njegova platforma AI skrajša čas, potreben za ustvarjanje člankov za publikacije, kot je Sports Illustrated, za 80-90 odstotkov, bo izboljšalo zadovoljstvo bralcev, zvestobo blagovni znamki ali kakovost vsebine. Morda pa bo ustvarjanje več člankov, kot je človeško možno v stotinah naslovov podjetja, povzročilo več ogledov strani s strani botov in več prihodkov od programskih oglasov od kupcev oglasov, ki so preveč naivni, da bi jih ujeli.

Del težave je, da glavni promotorji AI – Amazon, Google, Nvidia in Microsoft – upravljajo platforme v oblaku ali prodajajo strojno opremo GPE. So prodajalci zlate mrzlice z umetno inteligenco, ki samo želijo prodati svoje storitve v oblaku ali komplet za drobljenje številk. Vsi so bili na krovu za blockchain express in prevlado kriptovalut, dokler ta zabloda ni izginila.

Še bolj so navdušeni nad tem, da pomagajo podjetjem pri izvajanju delovnih obremenitev umetne inteligence, koristnih ali ne. Preprosto sejajo v oblak in upajo, da bodo uspeli spodbuditi poslovanje k svojim operacijam najema procesorjev. Podobno startupi s strojnim učenjem brez infrastrukture upajo, da bo zadihano govorjenje o transformacijski tehnologiji napihnilo vrednotenje njihovega podjetja in tako nagradilo prve vlagatelje.

Norost AI lahko delno pripišemo tudi nenehnim prizadevanjem tehnološke industrije, da odgovori na vprašanje: "Kaj sledi?" v času dolgotrajne stagnacije. Apple, google, Amazon, Meta, Microsoftin Nvidia vsi so se po svojih najboljših močeh trudili preprečiti pomembno konkurenco in od začetka dobe oblakov in mobilnih telefonov sredi 2000-ih jim je to uspelo dokaj dobro. Ne, da je protikonkurenčno vedenje nekaj novega – spomnimo se industrije iz leta 2010 naselje z ministrstvom za pravosodje ZDA glede sporazumov med Adobe, Google, Intel, Intuit in Pixar, da bi se izognili lovljenju talentov drug od drugega.

Microsoft je veliko izkoristil svojo integracijo umetne inteligence z Bingom, ki jo je dolgo zasenčil Google Iskanje, in trdil, da je "iskanje na novo.” Toda od takrat se ni veliko spremenilo – Bing domnevno Googlu ni uspelo prevzeti nobenega tržnega deleža v času, ko je splošno razširjeno mnenje, da se iskanje Google – prav tako zdaj obogateno z umetno inteligenco – slabša.

Pripelji 2024

Da bi ugotovili, kaj sledi, bomo morali počakati, da ministrstvo za pravosodje in regulatorji drugod po svetu izsilijo spremembe protimonopolne izvršbe in tožbe. Ker medtem ko Google blokira distribucijo iskanja – prek poslov z Applom in drugimi – in digitalnega oglaševanja – prek posla z Meto (carinjen v ZDA, še vedno v preiskavi v Evropi in Združenem kraljestvu) in druge dejavnosti, ki vznemirjen interes Ministrstva za pravosodje – niti iskalni posel niti oglaševalski posel nista videti primerna za nove izzivalce, ne glede na to, koliko dodane omake AI.

Umetna inteligenca ni odgovornost le v finančnem, ampak tudi v etičnem smislu. Obeta prihranke pri plačah – kljub biti izjemno drago v smislu usposabljanje, razvoj in okoljski udarec – ob spodbujanju brezbrižnosti do človeškega dela, intelektualne lastnine, škodljivih rezultatov in točnosti informacij. AI vabi podjetja, da odstranijo ljudi iz enačbe, ko pogosto dodajajo vrednost, ki ni očitna iz bilance stanja.

Obstaja prostor za resnično uporabnost umetne inteligence, vendar jo je treba uporabiti za pomoč ljudem, namesto da bi se jih znebili. ®