Tekoälykehitys "Utterly Reckless" väittää US Academic

Tekoälyjärjestelmät muodostavat eksistentiaalisen uhan yhteiskunnalle, ja jatkuva kehitysvauhti on "täysin holtiton", erään yhdysvaltalaisen akateemikon mukaan.

Kommentit osuivat samaan aikaan 23:n vanhemman asiantuntijan laatiman uuden varoittavan raportin julkistamisen kanssa. Tiistaina julkaistu raportti "Managing AI Risks in an Era of Rapid Progress" varoittaa lisääntyvästä epäoikeudenmukaisuudesta, sosiaalisen vakauden rapautumisesta ja todellisuuden ymmärtämisen loppumisesta.

Suuria riskejä

Joukko AI asiantuntijat, mukaan lukien kaksi alan "kummisetä", ovat uuden raportin takana, joka varoittaa tekniikan vaaroista.

Stuart Russell, tietojenkäsittelytieteen professori Kalifornian yliopistosta Berkeleystä, oli yksi asiakirjan kirjoittajista.

"On aika ottaa vakavasti edistyneitä tekoälyjärjestelmiä", Russell sanoi Guardian on tiistai. "Nämä eivät ole leluja. Heidän valmiuksiensa lisääminen ennen kuin ymmärrämme, kuinka ne voidaan tehdä turvallisiksi, on täysin piittaamatonta. Voileipäkauppoja koskevia säännöksiä on enemmän kuin tekoälyyrityksissä."

Muita asiakirjan kirjoittajia ovat Geoffrey Hinton ja Yoshua Bengio, joita pidetään kahtena kolmesta "AI:n kummisetä". Vuonna 2018 he voittivat ACM Turing -palkinnon työstään aiheen parissa.

- raportti on hälyttävää luettavaa, ja siinä viitataan useisiin mahdollisiin sudenkuoppiin, kun tekoäly kehittyy edelleen. Yksi tekijöiden esiin tuoma huolenaihe on teknologian lähes rajattomat mahdollisuudet, jotka voivat jopa kehittyä ymmärryksemme yli.

"Ei ole mitään perustavanlaatuista syytä, miksi tekoälyn edistyminen hidastuisi tai pysähtyisi ihmisen tasolla", raportti sanoi.

Kirjoittajat huomauttavat, että kapeilla aloilla, kuten proteiinien laskostaminen tai strategiapelit, AI on jo ylittänyt ihmisen. Raportissa lisätään, että "meidän on otettava vakavasti mahdollisuus, että yleiset tekoälyjärjestelmät ylittävät ihmisen kyvyt monilla kriittisillä aloilla tämän vuosikymmenen tai seuraavan vuosikymmenen aikana."

AI rakentama AI

Tekoälyjärjestelmillä on tällä hetkellä rajoitettu autonomia, mutta sen muuttamiseksi on meneillään. Jotkut tekoälyjärjestelmät menevät niin pitkälle, että ne rakentavat ja ohjelmoivat itsensä, mikä mahdollistaa tekoälyjen rakentamisen AI.

Nämä järjestelmät voivat saavuttaa tavoitteita, joita ihmiset eivät osaa ennakoida.

Kuten raportissa todetaan: "Kun autonomiset tekoälyjärjestelmät pyrkivät ei-toivottuihin tavoitteisiin, jotka ovat haitallisten toimijoiden upotettuja tai vahingossa, emme ehkä pysty pitämään niitä kurissa."

"Kehittyneet autonomiset tekoälyjärjestelmät aiheuttavat ennennäkemättömiä ohjaushaasteita", lisäsivät kirjoittajat. "Ilman riittävää varovaisuutta voimme peruuttamattomasti menettää autonomisten tekoälyjärjestelmien hallinnan, mikä tekee ihmisen toimista tehotonta."

AI huippukokous

Raportti tulee, kun tekoälyjohtajat valmistautuvat tapaamaan Bletchley Parkissa ensi kuussa.

Ison-Britannian hallituksen tiedottaja sanoi, että neuvottelut oli tarkoitettu "samanhenkisille maille, jotka jakavat tekoälyn tarjoavan merkittäviä mahdollisuuksia, mutta ymmärtävät, että meidän on varmistettava, että oikeat suojakaiteet ovat paikoillaan".

Yhdistyneen kuningaskunnan pääministeri Rishi Sunakin mukaan "Yhdistynyt kuningaskunta on hyvässä asemassa johtamaan ja muokkaamaan keskustelua tästä aiheesta, koska olemme erittäin vahvoja tekoälyn suhteen."

Kriitikot kyseenalaistavat, onko Yhdistyneellä kuningaskunnalla tarvittavaa poliittista pääomaa vaikuttaakseen todelliseen suuriin teknologiayrityksiin ja kansainvälisiin hallituksiin.

Italian pääministeri Giorgia Meloni on ainoa vahvistettu G7-johtaja, joka on hyväksynyt Sunakin kutsun, kun taas Kanadan pääministeri Justine Trudeau, Saksan liittokansleri Olaf Scholz ja Yhdysvaltain presidentti Joe Biden ovat jo esittäneet tekosyynsä.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://metanews.com/ai-development-utterly-reckless-claims-u-s-academic/