Intian pääministerin neuvonantajat sanovat, että tekoäly voi aiheuttaa "massaskitsofreniaa"

Intian pääministerin neuvonantajat sanovat, että tekoäly voi aiheuttaa "massaskitsofreniaa"

Aikaleima: 31. tammikuuta 2024 10
Lähdesolmu: 3091579

Intian pääministerin taloudellinen neuvoa-antava neuvosto (EACPM) on laatinut asiakirjan, jossa varoitetaan, että nykyiset maailmanlaajuiset tekoälysäännöt ovat todennäköisesti tehottomia, ja suositteli teknologian säätelyä vaihtoehtoisilla taktiikoilla - kuten rahoitusmarkkinoilla.

Neuvosto on erittäin huolissaan tekoälystä. Sen asiakirjassa varoitetaan "Valvonnan, vakuuttavan viestinnän ja synteettisen median luomisen yhdistelmän avulla pahantahtoinen tekoäly voisi yhä enemmän hallita tietoekosysteemejä ja jopa valmistaa räätälöityjä petollisia todellisuutta pakottaakseen ihmisten käyttäytymiseen, aiheuttaen massaskitsofreniaa."

Järjestö kritisoi Yhdysvaltojen lähestymistapaa tekoälyyn liian kädestä pitäen, Yhdistynyttä kuningaskuntaa riskin olevan innovaatio- ja laissez-faire-mielinen, ja EU:n tekoälysääntöjä puutteellisina, koska blokin jäsenmaat hajoavat ja omaksuvat erilaisia ​​painotuksia ja sovelluksia. täytäntöönpanotoimenpiteitä.

Asiakirja väittää myös, että Kiinan taipumus säännellä "kaikkivoimaisella keskitetyllä byrokraattisella järjestelmällä" on virheellinen - kuten "COVID-19:n todennäköinen laboratoriovuoto" osoittaa.

Täällä ollaan lasin läpi, ihmiset.

(Tiedustelun vuoksi Yhdysvaltain kansallisen tiedustelupalvelun johtajan toimisto on viitteitä ei löytynyt että virus on vuotanut kiinalaisesta laboratoriosta.)

Mutta me eroamme.

Neuvosto ehdottaa, että tekoälyä pidettäisiin "hajautettuna itseorganisoituvana järjestelmänä [joka kehittyy] takaisinkytkentäsilmukoiden, vaihesiirtymien ja alkuolosuhteiden herkkyyden kautta" ja esittää muita esimerkkejä tällaisista järjestelmistä – kuten rahoitusmarkkinoilla nähtävät epälineaariset kokonaisuudet, muurahaisyhdyskuntien käyttäytyminen tai liikennemalleista.

"Perinteiset menetelmät jäävät vajaaksi tekoälyn epälineaarisen, arvaamattoman luonteen vuoksi. Tekoälyjärjestelmät ovat samanlaisia ​​kuin Complex Adaptive Systems (CAS), joissa komponentit ovat vuorovaikutuksessa ja kehittyvät arvaamattomilla tavoilla. selitti [PDF] neuvosto.

Neuvosto ei halua luottaa "ennakkotoimiin", sillä tekoälyjärjestelmän aiheuttamaa riskiä on mahdotonta tietää etukäteen – sen käyttäytyminen johtuu liian monista tekijöistä.

Asiakirjassa ehdotetaan siksi Intialle viittä sääntelytoimea:

  • Suojakaiteiden ja väliseinien asentaminen, jonka pitäisi varmistaa, että tekoälyteknologiat eivät ylitä aiottua tehtäväänsä eivätkä tunkeudu vaarallisiin alueisiin – kuten ydinaseita koskevaan päätöksentekoon. Jos ne jotenkin rikkovat suojakaiteen yhdessä järjestelmässä, väliseinät ovat olemassa varmistamassa, että se ei leviä.
  • Manuaalisten ohitusten ja valtuutuspisteiden varmistaminen jotka pitävät ihmiset hallinnassa ja pitävät heidät turvassa monitekijätodennuksella ja monitasoisella tarkistusprosessilla ihmisten päätöksentekijöille.
  • Avoimuus ja selitettävyys toimenpiteillä, kuten avoin lisensointi ydinalgoritmeille auditointiystävällisen ympäristön edistämiseksi, säännölliset auditoinnit ja arvioinnit sekä standardoitu kehitysdokumentaatio.
  • Erillinen vastuu ennalta määritettyjen vastuuprotokollien, valtuutetun standardoidun tapahtumaraportoinnin ja tutkintamekanismien kautta.
  • Erikoistuneen sääntelyelimen perustaminenjolla on laaja-alainen toimeksianto, se käyttää palautelähtöistä lähestymistapaa, tarkkailee ja seuraa tekoälyjärjestelmän käyttäytymistä, integroi automaattisia hälytysjärjestelmiä ja perustaa kansallisen rekisterin.

Neuvosto suositteli muiden CAS-järjestelmien etsimistä ideoiden toteuttamiseksi – ennen kaikkea rahoitusmarkkinoilta.

"Kaoottisten järjestelmien, kuten rahoitusmarkkinoiden, hallinnasta saadut näkemykset osoittavat toteuttamiskelpoisia sääntelymenetelmiä monimutkaisille teknologioille", asiakirjassa todetaan ja ehdotetaan, että omistautuneita tekoälyn sääntelijöitä voitaisiin mallintaa rahoitusalan sääntelyviranomaisten, kuten Intian SEBI:n tai Yhdysvaltain SEC:n, mukaan.

Aivan kuten nämä elimet määräävät kaupankäynnin keskeytyksiä, kun markkinat ovat vaarassa, sääntelijät voisivat ottaa käyttöön samanlaisia ​​"tukipisteitä", joissa tekoäly saattaisi jyrkästi. Pakollinen talousraportointi on hyvä malli sellaisille tiedoille, joita tekoälyoperaattoreita voidaan vaatia ilmoittamaan.

Kirjoittajien huolenaiheita ruokkii usko, että tekoälyn lisääntyvä yleisyys – yhdistettynä sen toiminnan läpinäkyvyyteen – merkitsee kriittistä infrastruktuuria, puolustusoperaatioita ja monet muut alat vaarassa.

Heidän hahmottelemiinsa vaaroihin kuuluvat "karkaava tekoäly", jossa järjestelmät voivat kehittyä rekursiivisesti itsestään ihmisen hallinnan ulkopuolella ja "johdettua väärin ihmisten hyvinvointiin", ja perhosefekti - skenaario "jossa pienet muutokset voivat johtaa merkittäviin, odottamattomiin seurauksiin".

"Siksi algoritmien, koulutussarjojen ja mallien läpinäkymätön valtionhallintajärjestelmä, jonka tavoitteena on maksimoida intressit, voi johtaa katastrofaalisiin tuloksiin", neuvosto varoitti.

Asiakirjassa todetaan, että sen ehdotetut määräykset voivat tarkoittaa, että jotkut skenaariot on suljettava pois.

"Emme ehkä koskaan salli superyhteyttä Internetiä kaikesta", neuvosto myöntää. Mutta se päättelee, että ihmiskunnalla voi olla enemmän hyötyä vahvoista säännöksistä.

"Tekoälytyökalujen luojia ei anneta helposti oletetuille tahattomille seurauksille - ja siten lisätään etukäteen "Iho peliin". Ihmiset säilyttävät ohitus- ja valtuutusvaltuudet. Säännöllisten valtuutettujen tarkastusten on varmistettava selitettävyys." ®

Aikaleima:

Lisää aiheesta Rekisteri