AI mitmekesisuse tähtsus ei ole arvamus, see on matemaatika – IBMi ajaveeb

Me kõik tahame, et meie tehnoloogiates peegelduksid meie ideaalsed inimlikud väärtused. Ootame, et sellised tehnoloogiad nagu tehisintellekt (AI) ei valetaks meile, ei diskrimineeriks ning oleksid meile ja meie lastele ohutud. Kuid paljud AI loojad seisavad praegu silmitsi vastureaktsiooniga nende mudelites esinevate eelarvamuste, ebatäpsuste ja problemaatilise andmepraktika tõttu. Need probleemid nõuavad enamat kui tehnilist, algoritmilist või AI-põhist lahendust. Tegelikkuses on vaja terviklikku, sotsiaal-tehnilist lähenemist.

Matemaatika näitab võimsat tõde

Kõik ennustavad mudelid, sealhulgas tehisintellekt, on täpsemad, kui need hõlmavad inimese mitmekülgset intelligentsust ja kogemusi. See ei ole arvamus; sellel on empiiriline kehtivus. Kaaluge mitmekesisuse ennustamise teoreem. Lihtsamalt öeldes, kui grupi mitmekesisus on suur, on rahvahulga viga väike - see toetab "rahvahulga tarkuse" kontseptsiooni. Mõjukas uuring näitas, et madala võimekusega probleemilahendajate rühmad võivad ületada kõrge võimekusega probleemilahendajate rühmi (Hong & Page, 2004).

Matemaatilises keeles: mida suurem on teie dispersioon, seda standardsem on teie keskmine. Võrrand näeb välja selline:

A edasi õppima esitas rohkem arvutusi, mis täpsustavad targa rahvahulga statistilisi määratlusi, sealhulgas teiste liikmete ennustuste mitteteadmist ja nende liikmete kaasamist. maksimaalselt erinev (negatiivses korrelatsioonis) ennustused või hinnangud. Seega ei paranda prognoose mitte ainult maht, vaid mitmekesisus. Kuidas võib see arusaam AI mudelite hindamist mõjutada?

Mudeli (eba)täpsus

Tsiteerides levinud aforismi, kõik mudelid on valed. See kehtib statistika, teaduse ja tehisintellekti valdkondades. Domeenialaste teadmiste puudumisega loodud mudelid võivad põhjustada ekslik väljundid.

Tänapäeval määrab väike homogeenne rühm inimesi, milliseid andmeid kasutada generatiivsete tehisintellekti mudelite koolitamiseks, mis pärinevad allikatest, mis esindavad inglise keelt oluliselt üle. "Suurema osa maailma enam kui 6,000 keelest ei piisa saadaolevatest tekstiandmetest suuremahulise alusmudeli väljaõpetamiseks" (alates "Vundamendimudelite võimalustest ja riskidest”, Bommasani et al., 2022).

Lisaks on mudelid ise loodud piiratud arhitektuuridest: "Peaaegu kõik tipptasemel NLP mudelid on nüüd kohandatud mõnele vundamendimudelile, nagu BERT, RoBERTa, BART, T5 jne. Kuigi see homogeniseerimine annab tulemuseks äärmiselt suur finantsvõimendus (kõik alusmudelite täiustused võivad tuua kohest kasu kogu NLP-s), see on ka kohustus; kõik AI-süsteemid võivad pärida mõne alusmudeli sama probleemse eelarvamuse (Bommasani et al.) "

Selleks, et generatiivne tehisintellekt paremini kajastaks erinevaid kogukondi, mida see teenindab, peab mudelites olema esindatud palju suurem hulk inimeste andmeid.

Mudeli täpsuse hindamine käib käsikäes eelarvamuste hindamisega. Peame küsima, mis on mudeli eesmärk ja kelle jaoks see on optimeeritud? Mõelge näiteks sellele, kes saavad sisusoovitusalgoritmidest ja otsingumootori algoritmidest kõige rohkem kasu. Sidusrühmadel võivad olla väga erinevad huvid ja eesmärgid. Algoritmid ja mudelid nõuavad sihtmärke või puhverservereid Bayesi vea jaoks: minimaalne viga, mida mudel peab parandama. See puhverserver on sageli isik, näiteks asjatundja, kellel on valdkonnateadmised.

Väga inimlik väljakutse: riski hindamine enne mudeli hankimist või väljatöötamist

Uued tehisintellekti eeskirjad ja tegevuskavad rõhutavad üha enam algoritmiliste mõjuhindamise vormide tähtsust. Nende vormide eesmärk on koguda tehisintellekti mudelite kohta kriitilist teavet, et juhtimismeeskonnad saaksid enne nende kasutuselevõttu riske hinnata ja nendega tegeleda. Tüüpilised küsimused hõlmavad järgmist:

• Milline on teie mudeli kasutusjuht?
• Millised on erineva mõju riskid?
• Kuidas hindate õiglust?
• Kuidas muudate oma mudeli seletatavaks?

Kuigi see on loodud heade kavatsustega, on probleem selles, et enamik tehisintellekti mudelite omanikke ei mõista, kuidas oma kasutusjuhtumi riske hinnata. Tavaline refrään võib olla: "Kuidas saab minu mudel olla ebaõiglane, kui see ei kogu isikut tuvastavat teavet (PII)?" Järelikult täidetakse vorme harva sellise läbimõeldusega, mis on vajalik juhtimissüsteemide jaoks riskitegurite täpseks märgistamiseks.

Seega rõhutatakse lahenduse sotsiaal-tehnilist olemust. Mudeliomanikule – üksikisikule – ei saa lihtsalt anda märkeruutude loendit, et hinnata, kas nende kasutusjuhtum võib kahjustada. Selle asemel on vaja väga erineva elukogemusega inimeste rühmi, kes tulevad kokku kogukondades, mis pakuvad psühholoogilist turvalisust, et pidada keerulisi vestlusi erineva mõju üle.

Usaldusväärse tehisintellekti laiemate perspektiivide tervitamine

IBM® usub nullkliendi lähenemisviisi, rakendades soovitusi ja süsteeme, mida see oma klientide jaoks nõustamis- ja tootepõhiste lahenduste kaudu teeks. See lähenemisviis laieneb eetilistele tavadele, mistõttu IBM lõi usaldusväärse tehisintellekti tippkeskuse (COE).

Nagu eespool selgitatud, on tehisintellekti mõjude nõuetekohaseks hindamiseks kriitilise tähtsusega kogemuste ja oskuste mitmekesisus. Kuid tippkeskuses osalemise väljavaade võib olla hirmutav ettevõttes, kus on palju tehisintellekti uuendajaid, eksperte ja silmapaistvaid insenere, mistõttu on vaja arendada psühholoogilise turvalisuse kogukonda. IBM väljendab seda selgelt, öeldes: „Kas olete AI-st huvitatud? Kas olete huvitatud AI-eetikast? Sul on iste selle laua taga.”

COE pakub tehisintellekti eetika alast koolitust praktikutele igal tasandil. Pakutakse nii sünkroonset õppimist (õpetaja ja õpilased klassis) kui ka asünkroonseid (isejuhitavaid) programme.

Aga see on COE rakendatud koolitus, mis annab meie praktikutele sügavaima ülevaate, kui nad töötavad globaalsete, mitmekesiste ja multidistsiplinaarsete meeskondadega reaalsete projektide kallal, et paremini mõista erinevat mõju. Nad kasutavad ka IBMi disainimõtlemise raamistikke Disain AI jaoks grupp kasutab sisemiselt ja koos klientidega tehisintellektimudelite soovimatute mõjude hindamiseks, hoides silma peal neid, kes on sageli tõrjutud. (Vaata Sylvia Duckworthi Jõu ja privileegide ratas näiteid selle kohta, kuidas isikuomadused ristuvad inimeste privileegi või marginaliseerimisega.) IBM kinkis paljud raamistikud ka avatud lähtekoodiga kogukonnale Disain eetiliselt.

Allpool on mõned aruanded, mille IBM on nende projektide kohta avalikult avaldanud.

Tehisintellekti mudeli toimimise kohta olulise ülevaate saamiseks on vaja automaatseid AI mudeli juhtimistööriistu. Kuid pidage meeles, et optimaalne on võtta riske enne, kui teie mudel on välja töötatud ja tootmises. Luues mitmekesistest, multidistsiplinaarsetest praktikutest koosnevad kogukonnad, mis pakuvad inimestele turvalist ruumi erineva mõju teemal rasketeks vestlusteks, saate alustada teekonda oma põhimõtete kasutuselevõtuks ja tehisintellekti vastutustundlikuks arendamiseks.

Praktikas arvestage tehisintellekti praktikute palkamisel, et enam kui 70% mudelite loomise jõupingutustest moodustab õigete andmete kureerimine. Soovite palgata inimesi, kes teavad, kuidas koguda andmeid, mis on esinduslikud ja mida kogutakse ka nõusoleku alusel. Samuti soovite, et inimesed, kes teavad, teeksid domeeniekspertidega tihedat koostööd, et veenduda, et neil on õige lähenemisviis. Oluline on tagada, et neil praktikutel oleks emotsionaalne intelligentsus, et läheneda tehisintellekti vastutustundliku kureerimise väljakutsele alandlikult ja tähelepanelikult. Peame olema tahtlikud, et õppida ära tundma, kuidas ja millal AI-süsteemid võivad ebavõrdsust süvendada sama palju kui inimeste intelligentsust.

Mõelge uuesti, kuidas teie ettevõte AI-ga töötab