OpenAI:s vd dyker upp inför senaten, kräver AI-reglering

OpenAI:s vd dyker upp inför senaten, kräver AI-reglering

Tidsstämpel: 17 maj 2023 3:00
Källnod: 2659898

OpenAI VD Sam Altman dök upp inför kongressen på tisdagen för att vittna om farorna och möjligheterna med AI, och sa att det finns ett "bråttom" behov av reglering.

Den 38-årige verkställande direktören höll i stort sett med medlemmarna i en underkommitté i senaten om behovet av att tämja den allt kraftfullare AI som skapats av hans företag och andra stora teknikföretag som Google och Microsoft.

Läs också: Hur man använder WhatsApps nya "Chat Lock"-funktion

I sitt vittnesmål vädjade Altman till lagstiftare att reglera AI eftersom ledamöter i kommittén visade en spirande förståelse för tekniken.

Utfrågningen underströk också den djupa oro som teknologer och myndigheter känner över dess potentiella skada.

"Vi tror att regleringsingripande från regeringar kommer att vara avgörande för att minska riskerna med allt kraftfullare (AI)-modeller", sa han.

Altmans framträdande kommer efter den virala framgången med ChatGPT, hans företags chatbot-verktyg, som provocerade fram en kapprustning om AI och väckte oro från vissa lagstiftare om riskerna med tekniken.

En lista över teknikföretag från hela världen har implementerat nya AI-verktyg under de senaste månaderna, med potential att förändra hur människor arbetar och interagerar. Samma verktyg har också väckt kritik över deras potential att störa miljontals jobb, sprida desinformation och vidmakthålla fördomar.

AI som ett verktyg för manipulation

OpenAI-chefen sade potentialen för AI att användas för att manipulera väljare och rikta in sig på desinformation är bland "mina områden av största oro", särskilt eftersom "vi kommer att möta ett val nästa år och dessa modeller blir bättre."

Inför förhandlingen pratade Altman också om OpenAI s teknik vid en middag med dussintals ledamöter i parlamentet på måndagskvällen och enligt uppgift träffade flera senatorer privat.

Enligt en New York Times rapport, erbjöd Altman ett löst ramverk för att hantera vad som händer härnäst med de snabbt utvecklande systemen, som vissa tror skulle kunna förändra ekonomin i grunden.

"Jag tror att om tekniken går fel kan det gå ganska fel. Och vi vill vara högljudda om det, säger han. "Vi vill arbeta med regeringen för att förhindra att det händer."

På frågan om AI:s inverkan på musik, sa Altman att innehållsskapare borde ha inflytande över hur deras röster, likhet eller upphovsrättsskyddat innehåll används för att träna AI-modeller.

Han berättade också för kommittén att hans företag arbetar med ett upphovsrättssystem för att kompensera konstnärer vars arbete använts för att skapa något nytt.

"Skapare förtjänar kontroll," sa han och tillade att reglering bör kräva att bilder anges när de har genererats med AI. Vissa lagstiftare frågade dock om OpenAI gjorde tillräckligt och ifrågasatte varför företaget inte kunde implementera det omedelbart.

Släpar efter med reglering

Pratar med reportrar efter utfrågningen sa ordföranden för senatspanelen senator Richard Blumenthal att utfrågningen var den första i en serie som lärde sig mer om de potentiella fördelarna och skadorna med AI, för att så småningom "skriva reglerna." Han tillade att Altman verkade "vara ganska uppriktig", och betonade att "kongressen inte kan vara portvakten" för att reglera AI.

Senator Blumenthal medger att någon annan måste kliva upp och spela den reglerande rollen eftersom "den Federal Trade Commission har inte kapaciteten just nu."

Senatorn erkände också kongressens misslyckande med att hänga med i införandet av ny teknik tidigare.

"Vårt mål är att avmystifiera och hålla ansvariga dessa teknologier för att undvika några misstag från det förflutna. Kongressen kunde inte möta ögonblicket på sociala medier."

Medlemmar i underkommittén föreslog att ett oberoende organ skulle övervaka AI och implementera regler som tvingar företag att avslöja hur deras modeller fungerar och vilka datamängder de använder. Samt antitrustregler för att förhindra företag som Microsoft och Google från att monopolisera marknaden.

Tar ett löv från EU

Den AI-skeptiska professorn Gary Marcus sa att USA och andra hade "agerat för långsamt med reglering av sociala medier" men har val att göra när det gäller AI, och föreslår en ny byrå på regeringsnivå för att reglera sektorn, en idé som Altman också verkade backa.

IBM:s chief privacy and trust officer Christina Montgomery sa att EU:s regler på AI är "reglerande av sammanhang" och gav ett bra ledarskap för USA att följa.

AI-reglering har varit ett ämne av stort intresse sedan sektorns ChatGPT-drivna boom, med en rad nya verktyg som kommer ut på marknaden.

I Europa, lagstiftare kommer att införa regler som reglerar sektorn senare i år medan de är i Kina, landet har kommit med AI-regler som följer dess censurlagar.

Tekniska intressenter som Elon Musk skrev på en brev kräver ett stopp i AI-utvecklingen tills det finns klarhet i regleringen, med hänvisning till dess potentiella skada för mänskligheten.

Senator Blumenthal sa att AI-företag borde leda med en "gör ingen skada"-strategi - men medgav att det inte skulle bli någon paus i AI-utvecklingen förrän tillsynsmyndigheterna kan komma ikapp.

DELA DETTA INLÄGG

Tidsstämpel:

Mer från MetaNews