De CEO van OpenAI verschijnt voor de Senaat en roept op tot AI-regulering

De CEO van OpenAI verschijnt voor de Senaat en roept op tot AI-regulering

Tijdstempel: 17 mei 2023 3:00 uur
Bronknooppunt: 2659898

Sam Altman, CEO van OpenAI, verscheen dinsdag voor het Congres om te getuigen over de gevaren en kansen van AI en zei dat er "dringende" behoefte is aan regulering.

De 38-jarige directeur was het grotendeels eens met de leden van een subcommissie van de Senaat over de noodzaak om de steeds krachtigere AI van zijn bedrijf en andere grote technologiebedrijven zoals Google en Microsoft te temmen.

Lees ook: Hoe de nieuwe 'Chat Lock'-functie van WhatsApp te gebruiken

In zijn getuigenis smeekte Altman wetgevers om AI te reguleren, aangezien leden van de commissie een ontluikend begrip van de technologie toonden.

De hoorzitting onderstreepte ook het diepe onbehagen van technologen en de overheid over de mogelijke schade.

"We denken dat regelgevende interventie door overheden van cruciaal belang zal zijn om de risico's van steeds krachtigere (AI) modellen te verminderen", zei hij.

De verschijning van Altman komt na het virale succes van ChatGPT, de chatbot-tool van zijn bedrijf, die een wapenwedloop over AI veroorzaakte en bij sommige wetgevers zorgen baarde over de risico's van de technologie.

Een lijst van technologiebedrijven van over de hele wereld heeft de afgelopen maanden nieuwe AI-tools ingezet, met het potentieel om de manier waarop mensen werken en met elkaar omgaan te veranderen. Dezelfde tools hebben ook geleid tot kritiek op hun potentieel om miljoenen banen te ontwrichten, verkeerde informatie te verspreiden en vooroordelen in stand te houden.

AI als hulpmiddel voor manipulatie

De OpenAI-baas zei het potentieel voor AI om kiezers te manipuleren en desinformatie aan te pakken, behoort tot "mijn grootste zorg", vooral omdat "we volgend jaar verkiezingen krijgen en deze modellen steeds beter worden."

Voorafgaand aan de hoorzitting sprak Altman er ook over OpenAI's technologie tijdens een diner met tientallen leden van het Huis op maandagavond, en naar verluidt een privé-ontmoeting met verschillende senatoren.

Volgens een New York Times verslag, bood Altman een los raamwerk om te beheren wat er daarna gebeurt met de zich snel ontwikkelende systemen, waarvan sommigen geloven dat ze de economie fundamenteel kunnen veranderen.

“Ik denk dat als de technologie fout gaat, het behoorlijk fout kan gaan. En daar willen we ons over uitspreken', zei hij. "We willen samenwerken met de overheid om dat te voorkomen."

Gevraagd naar de impact van AI op muziek, zei Altman dat makers van inhoud inspraak moeten hebben in hoe hun stemmen, gelijkenis of auteursrechtelijk beschermde inhoud wordt gebruikt om AI-modellen te trainen.

Hij vertelde de commissie ook dat zijn bedrijf werkt aan een auteursrechtsysteem om kunstenaars te compenseren wiens werk werd gebruikt om iets nieuws te creëren.

"Creators verdienen controle", zei hij, eraan toevoegend dat regelgeving zou moeten eisen dat afbeeldingen worden weergegeven wanneer ze door AI zijn gegenereerd. Sommige wetgevers vroegen echter of OpenAI genoeg deed en vroegen zich af waarom het bedrijf dat niet onmiddellijk kon implementeren.

Loopt achter met regelgeving

In gesprek met verslaggevers na de hoorzitting zei voorzitter van het senaatspanel, senator Richard Blumenthal, dat de hoorzitting de eerste in een reeks was om meer te leren over de mogelijke voordelen en nadelen van AI, om uiteindelijk "de regels te schrijven". Hij voegde eraan toe dat Altman "behoorlijk oprecht" leek, en benadrukte dat "het congres niet de poortwachter kan zijn" van het reguleren van AI.

Senator Blumenthal geeft toe dat iemand anders moet optreden en de regelgevende rol moet spelen omdat “de Federal Trade Commission heeft op dit moment niet de capaciteit.”

De senator erkende ook dat het Congres er niet in is geslaagd de introductie van nieuwe technologieën in het verleden bij te houden.

“Ons doel is om die technologieën te demystificeren en verantwoordelijk te houden om fouten uit het verleden te voorkomen. Het congres slaagde er niet in om het moment op sociale media te halen.

Leden van de subcommissie stelden voor dat een onafhankelijke instantie toezicht houdt op AI en regels implementeert die bedrijven dwingen openbaar te maken hoe hun modellen werken en welke datasets ze gebruiken. Evenals antitrustregels om te voorkomen dat bedrijven als Microsoft en Google de markt monopoliseren.

Een blad uit de EU halen

AI-scepticus professor Gary Marcus zei dat de VS en anderen "te traag hebben gehandeld met de regulering van sociale media", maar dat ze keuzes moeten maken met betrekking tot AI, en stellen een nieuw bureau op kabinetsniveau voor om de sector te reguleren, een idee dat Altman ook heeft bleek achteruit te gaan.

Christina Montgomery, chief privacy and trust officer van IBM, zei de EU-regels op AI zijn "regulerend per context" en vormden een goed voorbeeld voor de VS om te volgen.

AI-regulering is een onderwerp van grote belangstelling sinds de ChatGPT-gedreven boom in de sector, met een hele reeks nieuwe tools die op de markt komen.

In Europa, wetgevers zijn van plan om later dit jaar regels in te voeren die de sector reguleren in China, het land heeft AI-regelgeving bedacht die voldoen aan de censuurwetten.

Tech-stakeholders zoals Elon Musk tekenden een letter oproepen tot stopzetting van de ontwikkeling van AI totdat er duidelijkheid is over regulering, daarbij verwijzend naar de mogelijke schade voor de mensheid.

Senator Blumenthal zei dat AI-bedrijven het voortouw moeten nemen met een "doe geen kwaad"-benadering, maar gaf toe dat er geen pauze in de AI-ontwikkeling zou zijn totdat regelgevers de achterstand kunnen inhalen.

DEEL DIT BERICHT

Tijdstempel:

Meer van MetaNieuws