Tehisintellekti diskrimineerimisega tegelemise kiireloomulisus: läbipaistvus, vastutus ja regulatiivsed tähtajad

Tehisintellekt (AI) on muutnud revolutsiooni erinevates tööstusharudes, pakkudes arvukalt eeliseid ja võimalusi. Siiski on esile kerkinud muret seoses AI potentsiaaliga diskrimineerimist ja eelarvamusi põlistada. See artikkel uurib tehisintellekti diskrimineerimise teemat, heites valgust tehisintellektisüsteemides sisalduvate eelarvamuste tuvastamise ja käsitlemise väljakutsetele. Tööstuse insaiderid väljendavad kahtlusi tehisintellekti moraalsete ja eetiliste mõjude suhtes, viidates murele valeinformatsiooni, algoritmide kallutatuse ja eksitava sisu loomise pärast. Tehisintellekti puudutavate arutelude intensiivistudes tekib üha suurem üleskutse mõtestatud regulatsiooni järele, et tagada läbipaistvus, vastutus ja põhiõiguste kaitse.

Tehisintellektiga seotud väljakutsed finantstööstusele

Worldpay by FIS krüpto- ja Web3 juhi Nabil Manji sõnul sõltub tehisintellekti toodete tõhusus suuresti koolitusel kasutatava lähtematerjali kvaliteedist. Intervjuus CNBC-le selgitas Manji, et tehisintellekti jõudlust mõjutavad kaks peamist tegurit: andmed, millele tal on juurdepääs, ja suure keelemudeli võimalused.

Andmete olulisuse illustreerimiseks mainis Manji, et sellised ettevõtted nagu Reddit on avalikult deklareerinud andmete kraapimise piirangud, mis nõuavad juurdepääsu eest tasu. Finantsteenuste sektoris tõi ta esile väljakutse, mis on seotud killustatud andmesüsteemidega erinevates keeltes ja formaatides. See konsolideerimise ja ühtlustamise puudumine piirab AI-põhiste toodete tõhusust, eriti kui võrrelda standardiseeritud ja moderniseeritud andmeinfrastruktuuriga tööstusharudega.

Manji sõnul võib plokiahela või hajutatud pearaamatu tehnoloogia kasutamine pakkuda potentsiaalset lahendust selle probleemi lahendamiseks. See uuenduslik lähenemisviis võib suurendada tavaliste pankade keerulistes süsteemides salvestatud killustatud andmete läbipaistvust. Siiski tunnistas ta, et pankade väga reguleeritud ja aeglane olemus võib takistada nende võimet kiiresti kasutusele võtta uusi tehisintellekti tööriistu, erinevalt paindlikumatest tehnoloogiaettevõtetest, nagu Microsoft ja Google, kes on viimase paari jooksul olnud innovatsiooni edendamise esirinnas. aastakümneid.

Neid tegureid arvesse võttes on ilmne, et finantssektor seisab tehisintellekti võimendamisel silmitsi ainulaadsete väljakutsetega, mis on tingitud andmete integreerimise keerukusest ja pangandussektorile omasest olemusest.

Twitteri masinõppe eetika, läbipaistvuse ja vastutuse endise juhi Rumman Chowdhury sõnul on laenuandmine märkimisväärne näide sellest, kuidas tehisintellektisüsteemide eelarvamused võivad marginaliseeritud kogukondi negatiivselt mõjutada. Amsterdamis toimunud paneeldiskussioonil rääkides tõstis Chowdhury esile ajaloolise "redlining" praktika Chicagos 1930. aastatel. Redlining hõlmas laenude andmisest keeldumist peamiselt Aafrika-Ameerika naabruskondadele rassilise demograafia põhjal.

Chowdhury selgitas, et kuigi tänapäevased algoritmid ei pruugi rassi andmepunktina selgesõnaliselt sisaldada, saab eelarvamusi siiski kaudselt kodeerida. Algoritmide väljatöötamisel, et hinnata linnaosade ja üksikisikute riskantsust laenuandmise eesmärgil, võivad eelarvamusi sisaldavad ajaloolised andmed tahtmatult diskrimineerimist põlistada.

Angle Bush, mustanahaliste naiste tehisintellekti visionäär, rõhutas, kui oluline on tunnistada ohte, mis on seotud ajaloolistesse andmetesse kantud eelarvamuste taastootmisega, kui AI-süsteeme kasutatakse laenu heakskiitmise otsustamisel. Selline praktika võib kaasa tuua marginaliseeritud kogukondade laenutaotluste automaatse tagasilükkamise, säilitades seeläbi rassilise või soolise ebavõrdsuse.

Kogenud tehisintellekti arendaja Frost Li juhtis tähelepanu isikupärastamise väljakutsetele AI integreerimine. Tehisintellekti mudelite treenimiseks „põhifunktsioonide” valimine võib mõnikord hõlmata sõltumatuid tegureid, mis võivad viia kallutatud tulemusteni. Li tõi näite, kuidas välismaalastele suunatud fintech-idufirmad võivad kokku puutuda erinevate krediidihinnangu kriteeriumidega võrreldes kohalike pankadega, mis on kohalike koolide ja kogukondadega paremini tuttavad.

Fintechide otsuste tegemise automatiseerimisele spetsialiseerunud startupi Taktile COO Niklas Guske selgitas, et generatiivset tehisintellekti ei kasutata tavaliselt krediidiskooride või tarbijate riskide hindamiseks. Vastupidi, selle tugevus seisneb struktureerimata andmete (nt tekstifailide) eeltöötluses, et parandada tavapäraste kindlustusmudelite andmete kvaliteeti.

Kokkuvõttes tekitab tehisintellekti kasutamine laenu- ja finantsteenustes muret eelarvamuste ja diskrimineerimise pärast. Andmetes sisalduvad ajaloolised eelarvamused ja ebaoluliste funktsioonide valik tehisintellekti koolituse ajal võivad viia ebaõiglaste tulemusteni. Pankade ja finantsasutuste jaoks on ülioluline neid probleeme ära tunda ja nendega tegeleda, et vältida tahtmatut diskrimineerimise jätkumist tehisintellektilahenduste rakendamisel.

AI-diskrimineerimise tõestus

Tehisintellektil põhineva diskrimineerimise tõestamine võib olla keeruline, nagu rõhutavad sellised näited nagu Apple ja Goldman Sachsi juhtum. New Yorgi osariigi finantsteenuste osakond lükkas tagasi süüdistused Apple Cardi naiste jaoks madalamate piirangute kehtestamise kohta, viidates põhjendavate tõendite puudumisele.

Euroopa rassismivastase võrgustiku direktor Kim Smouter juhib tähelepanu sellele, et tehisintellekti massiline kasutuselevõtt muudab otsustusprotsessid läbipaistmatuks, muutes üksikisikute jaoks raskeks diskrimineerimise tuvastamise ja sellega tegelemise.

Smouter selgitab, et inimestel on sageli piiratud teadmised AI-süsteemide toimimisest, mistõttu on raske tuvastada diskrimineerimise või süsteemsete eelarvamuste juhtumeid. See muutub veelgi keerulisemaks, kui diskrimineerimine on osa laiemast probleemist, mis mõjutab mitut inimest. Smouter viitab Hollandi laste hoolekande skandaalile, kus suur hulk hüvitisetaotlusi märgiti institutsionaalse eelarvamuse tõttu ekslikult petturlikuks. Selliste talitlushäirete avastamine on keeruline ning hüvitise saamine võib olla keeruline ja aeganõudev, põhjustades märkimisväärset ja mõnikord pöördumatut kahju.

Need näited illustreerivad loomupäraseid raskusi tehisintellektil põhineva diskrimineerimise põhjendamisel ja sellise diskrimineerimise korral abinõude saamisel. Tehisintellektisüsteemide keerukus ja läbipaistvuse puudumine otsustusprotsessides võivad muuta diskrimineerimisjuhtumite tõhusa äratundmise ja nendega tegelemise üksikisikute jaoks keeruliseks.

Chowdhury sõnul on tungiv vajadus ÜRO-ga sarnase ülemaailmse reguleeriva asutuse järele, mis tegeleks tehisintellektiga seotud riskidega. Kuigi tehisintellekt on näidanud märkimisväärset uuenduslikkust, on tehnoloogid ja eetikateadlased väljendanud muret selle moraalsete ja eetiliste tagajärgede pärast. Need probleemid hõlmavad selliseid probleeme nagu valeinformatsioon, manustatud rassilised ja soolised eelarvamused AI algoritmides ning eksitava sisu loomine selliste tööriistade abil nagu ChatGPT.

Chowdhury väljendab muret tõejärgsesse maailma sisenemise pärast, kus võrguteave, sealhulgas tekst, video ja heli, muutub generatiivse AI tõttu ebausaldusväärseks. See tõstatab küsimuse, kuidas saame tagada teabe terviklikkuse ja kuidas saame sellele tugineda teadlike otsuste tegemisel. Euroopa Liidu tehisintellekti seaduse näitel on tehisintellekti sisukas reguleerimine praegu ülioluline. Siiski tekitab muret pikk ajakava, mis kulub regulatiivsete ettepanekute jõustumiseks, mis võib vajalike meetmete võtmist edasi lükata.

Smouter rõhutab vajadust AI-algoritmide suurema läbipaistvuse ja vastutuse järele. See hõlmab algoritmide arusaadavamaks muutmist mitteekspertide jaoks, testide läbiviimist ja tulemuste avaldamist, sõltumatute kaebuste esitamise protsesside loomist, perioodilisi auditeid ja aruandlust ning rassiliste kogukondade kaasamist tehnoloogia väljatöötamisse ja kasutuselevõtmisse. Tehisintellekti seaduse jõustamine, mis võtab põhiõiguste vaatenurga ja võtab kasutusele sellised mõisted nagu hüvitamine, algab eeldatavalt umbes kahe aasta pärast. Selle ajakava lühendamine oleks kasulik läbipaistvuse ja vastutuse säilitamiseks innovatsiooni lahutamatute aspektidena.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Autod/elektrisõidukid, Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• BlockOffsets. Keskkonnakompensatsiooni omandi ajakohastamine. Juurdepääs siia.
• Allikas: https://www.forexnewsnow.com/fintech/the-urgency-of-addressing-ai-discrimination-transparency-accountability-and-regulatory-timelines/