OpenAIs administrerende direktør dukker opp før Senatet, krever AI-regulering

OpenAIs administrerende direktør dukker opp før Senatet, krever AI-regulering

Tidsstempel: 17. mai 2023 3:00
Kilde node: 2659898

OpenAI-sjef Sam Altman dukket opp for kongressen på tirsdag for å vitne om farene og mulighetene ved AI, og sa at det er "presserende" behov for regulering.

Den 38 år gamle lederen var stort sett enig med medlemmene i en underkomité i Senatet om behovet for å temme den stadig kraftigere kunstig intelligensen skapt av selskapet hans og andre store teknologifirmaer som Google og Microsoft.

Les også: Slik bruker du WhatsApps nye 'Chat Lock'-funksjon

I sitt vitnesbyrd ba Altman lovgivere om å regulere kunstig intelligens da medlemmer av komiteen viste en spirende forståelse av teknologien.

Høringen understreket også den dype uroen som teknologer og myndigheter føler over potensielle skader.

"Vi tror at regulatoriske inngrep fra myndigheter vil være avgjørende for å redusere risikoen ved stadig kraftigere (AI) modeller," sa han.

Altmans opptreden kommer etter den virale suksessen til ChatGPT, selskapets chatbot-verktøy, som provoserte et våpenkappløp om AI og utløste bekymringer fra noen lovgivere om risikoen som teknologien utgjør.

En liste over teknologifirmaer fra hele verden har implementert nye AI-verktøy de siste månedene, med potensial til å endre hvordan folk jobber og samhandler. De samme verktøyene har også utløst kritikk over deres potensial til å forstyrre millioner av arbeidsplasser, spre feilinformasjon og opprettholde skjevheter.

AI som et verktøy for manipulasjon

OpenAI-sjefen sa potensialet for AI som kan brukes til å manipulere velgere og målrette desinformasjon er blant «mine områder av største bekymring», spesielt fordi «vi skal møte et valg neste år og disse modellene blir bedre».

I forkant av høringen snakket også Altman om OpenAI teknologi på en middag med dusinvis av medlemmer av huset mandag kveld, og skal ha møtt flere senatorer privat.

I følge en New York Times rapportererAltman tilbød et løst rammeverk for å styre hva som skjer videre med de raskt utviklende systemene, som noen mener kan endre økonomien fundamentalt.

"Jeg tror at hvis teknologien går galt, kan det gå ganske galt. Og vi ønsker å være vokale om det, sa han. "Vi ønsker å samarbeide med regjeringen for å forhindre at det skjer."

På spørsmål om AIs innvirkning på musikk, sa Altman at innholdsskapere bør ha en mening om hvordan stemmene deres, likheten eller opphavsrettsbeskyttet innhold brukes til å trene AI-modeller.

Han fortalte også komiteen at selskapet hans jobber med et opphavsrettssystem for å kompensere kunstnere hvis arbeid ble brukt til å skape noe nytt.

"Skapere fortjener kontroll," sa han, og la til at regulering bør kreve at bilder oppgis når de har blitt AI-generert. Noen lovgivere spurte imidlertid om OpenAI gjorde nok, og spurte hvorfor selskapet ikke kunne implementere det umiddelbart.

Henger etter på regulering

Snakker med journalister etter høringen sa formann for Senatets panel, senator Richard Blumenthal, at høringen var den første i en serie som lærte mer om potensielle fordeler og skader ved AI, for til slutt å "skrive reglene." Han la til at Altman virket "å være ganske oppriktig," og understreket at "Kongressen ikke kan være portvakten" for å regulere AI.

Senator Blumenthal innrømmer at noen andre må gå opp og spille den regulerende rollen fordi "den Federal Trade Commission har ikke kapasitet akkurat nå."

Senatoren erkjente også kongressens manglende evne til å holde tritt med introduksjonen av ny teknologi tidligere.

"Målet vårt er å avmystifisere og holde disse teknologiene ansvarlige for å unngå noen feil fra fortiden. Kongressen klarte ikke å møte øyeblikket på sosiale medier.»

Medlemmer av underutvalget foreslo at et uavhengig organ overvåker AI og implementerer regler som tvinger selskaper til å avsløre hvordan modellene deres fungerer og datasettene de bruker. Samt antitrustregler for å hindre selskaper som Microsoft og Google fra å monopolisere markedet.

Tar et blad fra EU

AI-skeptisk professor Gary Marcus sa at USA og andre hadde "handlet for sakte med sosiale medier", men at de har valg å ta angående AI, og foreslår et nytt byrå på kabinettnivå for å regulere sektoren, en idé som Altman også så ut til å rygge.

IBMs sjef for personvern og tillitsansvarlig Christina Montgomery sa det EUs regler på AI "regulerer etter kontekst" og ga en god ledelse for USA å følge.

AI-regulering har vært et tema av stor interesse siden sektorens ChatGPT-drevne boom, med en rekke nye verktøy som kommer på markedet.

I Europa, lovgivere er satt til å innføre regler som regulerer sektoren senere i år mens de er i Kina, landet har kommet med AI-forskrifter som overholder sensurlovene.

Tekniske interessenter som Elon Musk signerte en brev ber om en stans i AI-utvikling inntil det er klarhet om regulering, med henvisning til potensiell skade på menneskeheten.

Senator Blumenthal sa at AI-selskaper bør lede med en "gjør ingen skade"-tilnærming – men innrømmet at det ikke ville være noen pause i AI-utviklingen før regulatorer kan ta igjen.

DEL DETTE INNLEGGET

Tidstempel:

Mer fra MetaNews