Artificial Intelligence Is A Liability

Julkaissut Platon

seuraajia: 0

Kommentti Tekoäly, eli suuria perusmalleja, jotka ennustavat tekstiä ja voivat luokitella kuvia ja puhetta, näyttää enemmän vastuulta kuin hyödykkeeltä.

Toistaiseksi dollarivahingot ovat olleet vähäisiä. Vuonna 2019 Teslan kuljettaja, joka ohjasi ajoneuvoaan autonvalmistajan Autopilot-ohjelmiston avulla, ajoi punaiseen valoon ja törmäsi toiseen ajoneuvoon. Asukkaat kuolivat ja Teslan autoilija viime viikolla tilasi maksaa 23,000 XNUMX dollaria hyvityksenä.

Tesla julkaisi suunnilleen samaan aikaan muistutus kaksi miljoonaa ajoneuvoa tarkistaakseen Autopilot-ohjelmistonsa vastauksena Yhdysvaltain kansallisen liikenneturvallisuushallinnon (NHTSA) tutkimukseen, jossa todettiin, että Autopilotin turvaohjaukset puuttuvat.

Kaksikymmentäkolme tuhatta dollaria ei ole paljon kahdelle ihmishengelle, mutta asianomaiset perheet nostavat siviilikanteita kuljettajaa ja Teslaa vastaan, joten kustannukset voivat nousta. Ja niitä ainakin sanotaan olevan kymmenkunta oikeusjuttua mukana Autopilot Yhdysvalloissa.

Samaan aikaan terveydenhuoltoalalla UnitedHealthcare haastaa oikeuteen Koska nH Predict AI -malli, jonka se hankki Navihealthin vuonna 2020 ostamalla, on väitetysti estänyt vakuutetuilta eläkeläisiltä tarpeellisen jälkihoidon.

Rajoitukset vaaditaan

Tekoälymalleja ja -palveluita myyvät yritykset ymmärtävät selvästi, että ongelma on olemassa. He viittaavat "suojakaiteisiin", jotka on asetettu perusmallien ympärille auttamaan heitä pysymään kaistallaan – vaikka nämä älä toimi hyvä on. Tämän tyyppiset varotoimet olisivat tarpeettomia, jos nämä mallit eivät sisällä lasten seksuaalisen hyväksikäytön aineisto ja paljon muuta myrkyllistä sisältöä.

On kuin tekoälykehittäjät lukisivat kirjailija Alex Blechmanin viruspostitus teknologiayrityksistä, jotka tulkitsevat varoitustarinan "Älä luo Torment Nexusta" tuotesuunnitelmaksi ja sanoivat: "Näyttää hyvältä."

Tietenkin on olemassa vanhempia kirjallisia viittauksia, jotka sopivat tekoälylle, kuten Mary Shelleyn Frankenstein tai Pandoran lipas – erityisen hyvä istuvuus, kun otetaan huomioon, että tekoälymalleja kutsutaan usein mustiksi laatikoiksi koulutusmateriaalin läpinäkyvyyden puutteen vuoksi.

Haitallisella sisällöllä täynnä olevien kaupallisten mallien käsittämättömyys ei ole toistaiseksi rasittanut yrityksiä liikaa. Siellä on tuore vaatia Chris Bakke, Laskien perustaja ja toimitusjohtaja (hankittiin tänä vuonna X:ksi kutsuvan yrityksen toimesta), että Watsonvillen, Kalifornian autoliikkeen käyttämä GM-chatbot keskusteltiin suostumaan vuoden 2024 Chevy Tahoen myyntiin. dollaria 1 hieman nopealla suunnittelulla. Mutta jälleenmyyjä ei todennäköisesti noudata tätä sitoumusta.

Silti riski luottaa tekoälymalleihin riittää siihen Google, Microsoftja Antropinen ovat tarjoutuneet korvaamaan asiakkaita tekijänoikeusvaatimuksista (jotka ovat lukuisia ja suurelta osin ratkaisemattomia). Sitä et tee, ellet ole vastuussa.

Asetus

Viranomaiset yrittävät edelleen selvittää, kuinka tekoälyvastuuta tulisi arvioida. Mieti, miten Euroopan komissio muotoili asian, kun se pyrkii muotoilemaan toimivan oikeudellisen kehyksen tekoälylle:

"Nykyisiä vastuusääntöjä, etenkään kansallisia tuottamukseen perustuvia sääntöjä, ei ole mukautettu käsittelemään tekoälyn tukemien tuotteiden/palvelujen aiheuttamia vahinkoja koskevia korvausvaatimuksia", komissio toteaa. sanoi [PDF] viime vuonna. ”Tällaisten sääntöjen mukaan uhrin on todistettava vahingon aiheuttaneen henkilön laiton toiminta/laiminlyönti. Tekoälyn erityispiirteet, mukaan lukien autonomia ja opasiteetti (ns. "musta laatikko" -ilmiö), tekevät vastuullisen tunnistamisen ja onnistuneen vastuuvaatimuksen vaatimusten osoittamisen vaikeaksi tai kohtuuttoman kalliiksi."

Ja Yhdysvaltain lainsäätäjät ovat tehneet ehdotettu Bipartisan AI Framework "varmistaa, että tekoälyyritykset voidaan saattaa vastuuseen valvontaelimen täytäntöönpanon ja yksityisten toimintaoikeuksien kautta, kun niiden mallit ja järjestelmät loukkaavat yksityisyyttä, loukkaavat kansalaisoikeuksia tai muutoin aiheuttavat havaittavissa olevia haittoja."

Älä innostu näkemästä tekoälyyritysten johtajia kaltereiden takana: tekoälyalan johtajien osallistuminen tähän prosessiin viittaa siihen, että kaikki esiin tulevat säännöt ovat suunnilleen yhtä tehokkaita kuin muut lobbaajien loukkaamat sääntelykehykset.

Mutta jännitys on osa ongelmaa: stokastisista papukaijoista, kuten tekoälymalleja on kutsuttu, on vain niin paljon hypeä.

Tekoälymalleilla on todellista arvoa joissakin yhteyksissä, kuten turvayritys Socket on todennut, joka on käyttänyt ChatGPT:tä avun lippu ohjelmiston haavoittuvuuksia. He ovat tehneet ihmeitä puheentunnistuksen, käännösten ja kuvantunnistuksen suhteen transkribointilaitteiden ja CAPTCHA-pulmien kustannuksella. He ovat muistuttaneet alan veteraaneja siitä, kuinka hauskaa oli leikkiä Eliza, varhainen chatbot. He näyttävät siltä, että heillä on todellista hyötyä päätöksenteon tukitehtävissä, edellyttäen, että silmukassa on ihminen. Ja he ovat ottaneet monimutkaisia komentoriviloitsuja erilaisine lippuineen ja parametreineen ja muuttaneet niistä yhtä monimutkaisia tekstikehotteita, joita voidaan jatkaa kappaleisiin.

Mutta tekoälyn mahdollistama automaatio maksaa. Tuoreessa artikkeli kirjailija ja aktivisti Cory Doctorow väitti sci-fi-alan lehdelle Locus: "Tekoälyyritykset lyövät implisiittisesti vetoa siitä, että heidän asiakkaat ostavat tekoälyä erittäin seuraukselliseen automaatioon, irtisanoutuvat työntekijöitä ja aiheuttavat sen seurauksena fyysistä, henkistä ja taloudellista vahinkoa omille asiakkailleen. , jotenkin välttyäen vastuulta näistä haitoista."

Doctorow suhtautuu epäilevästi siihen, että tekoälypalveluilla on merkitykselliset markkinat arvokkaissa yrityksissä riskien vuoksi ja uskoo, että olemme AI kupla. Hän mainitsee esimerkkinä GM Cruisen ja huomauttaa, että itseajavia autoja valmistavan yrityksen liiketoimintamalli – limbossa jalankulkijan loukkaantumisen ja takaisinvedon vuoksi – tarkoittaa jokaisen matalapalkkaisen kuljettajan korvaamista 1.5 kalliimmalla etävalvojalla, sulkematta kuitenkaan pois onnettomuuksien ja niihin liittyvien oikeusjuttujen mahdollisuutta.

Ylikuormittaa

Tekoälyyn liittyy ainakin vähän potentiaalia vähäarvoiselle liiketoiminnalle. Näihin kuuluu kuukausittainen maksu sovellusliittymän käyttämisestä epätarkan keskustelun vuoksi, algoritmisten kuvien luominen, joka valitsee taiteilijoiden tyylit ilman lupaa, tai tuottaa satoja valeuutissivustoilta (tai kirjat) tavalla, että "tulvii vyöhykkeen” väärällä tiedolla.

Vaikuttaa epätodennäköiseltä, että Arena Groupin vaatia että sen tekoälyalusta voi lyhentää artikkeleiden luomiseen tarvittavaa aikaa Sports Illustratedin kaltaisiin julkaisuihin 80–90 prosenttia, mikä parantaa lukijatyytyväisyyttä, brändiuskollisuutta tai sisällön laatua. Mutta ehkä enemmän artikkeleiden luominen kuin inhimillisesti mahdollista yrityksen sadoissa nimikkeissä johtaa enemmän sivujen katseluihin robottien toimesta ja enemmän ohjelmallisia mainostuloja mainoksen ostajilta, jotka ovat liian naiivit kiinni saamaan.

Osa ongelmaa on se, että ensisijaiset tekoälypromoottorit – Amazon, Google, Nvidia ja Microsoft – käyttävät pilvialustoja tai myyvät GPU-laitteita. He ovat tekoälyn kultakuumeen myyjiä, jotka haluavat vain myydä pilvipalvelujaan tai numerosarjansa. He olivat kaikki mukana lohkoketjun express- ja kryptovaluuttojen ylivallassa, kunnes tämä harha laantui.

He ovat entistä innostuneempia auttamaan yrityksiä suorittamaan tekoälyn työtaakkaa, olipa se sitten hyödyllistä tai muuta. He vain harjoittelevat pilvikylvöä ja toivovat saavansa liiketoimintaa prosessorivuokraustoimintoihinsa. Samoin koneoppivat startupit, joilla ei ole infrastruktuuria, toivovat, että hengästyttävä puhe transformaatioteknologiasta nostaa heidän yrityksensä arvoa palkitakseen varhaisia sijoittajia.

Tekoälyhulluus johtuu osittain myös teknologiateollisuuden jatkuvasta pyrkimyksestä vastata kysymykseen "Mitä seuraavaksi?" pitkittyneen pysähtyneisyyden aikana. omena, Google, Amazon, Meta, Microsoftja Nvidia ovat kaikki tehneet parhaansa estääkseen mielekästä kilpailua, ja pilvi- ja mobiiliaikakauden alkamisesta 2000-luvun puolivälissä he ovat tehneet niin melko hyvin. Ei sillä, että kilpailunvastainen toiminta olisi mitään uutta – muistakaa vuoden 2010 ala tilitys Yhdysvaltain oikeusministeriön kanssa Adoben, Googlen, Intelin, Intuitin ja Pixarin välisistä sopimuksista välttääkseen kykyjen salametsästyksen toisiltaan.

Microsoft teki suuren osan tekoäly-integraatiostaan Bingin kanssa, joka oli pitkään Google-haun varjossa, väittäen, että se on "haun keksiminen uudelleen.” Mutta paljon ei ole muuttunut sen jälkeen - Bing kuulemma ei ole onnistunut ottamaan markkinaosuutta Googlelta aikana, jolloin on laaja käsitys, että Google-haku – myös nyt tekoälyllä täytettävä – on huonontunut.

Ota käyttöön 2024

Saadaksemme selville, mitä seuraavaksi, meidän on odotettava, että oikeusministeriö ja sääntelijät muualla maailmassa pakottavat muutokset kilpailuoikeuden täytäntöönpanoa ja oikeusjuttuja. Koska vaikka Googlella on lukko hakujakelussa – Applen ja muiden kanssa tehtyjen sopimusten kautta – ja digitaalisen mainonnan kautta – Metan kanssa tehdyn sopimuksen kautta (selvitetty Yhdysvalloissa, silti tutkittavana Euroopassa ja Isossa-Britanniassa) ja muita toimintoja, jotka kiihottunut oikeusministeriön kiinnostus – haku- tai mainosala ei näytä sopivalta uusille haastajille riippumatta siitä, kuinka paljon tekoälykastiketta lisätään.

Tekoäly on vastuu paitsi taloudellisessa, myös eettisessä mielessä. Se lupaa palkkasäästöjä – huolimatta olevan äärimmäisen kannalta kallis koulutus ja kehitys ja ympäristövaikutus – samalla rohkaista välinpitämättömyyttä ihmistyötä, henkistä omaisuutta, haitallista tuotantoa ja tiedon tarkkuutta kohtaan. Tekoäly kehottaa yrityksiä poistamaan ihmisiä yhtälöstä, kun he usein tuovat lisäarvoa, joka ei ole ilmeistä taseesta.

Tekoälyllä on tilaa olla aidosti hyödyllinen, mutta sitä on käytettävä ihmisten auttamiseksi sen sijaan, että he pääsisivät eroon. ®