OpenAI roept op tot een wereldwijde instantie om superintelligentie te reguleren

OpenAI roept op tot een wereldwijde instantie om superintelligentie te reguleren

Tijdstempel: 24 mei 2023 1:29 uur
Bronknooppunt: 2674707

Volgens topmanagers van GPT-4-maker OpenAI zou een internationaal bureau de leiding moeten hebben over het inspecteren en auditen van kunstmatige algemene intelligentie om ervoor te zorgen dat de technologie veilig is voor de mensheid.

CEO Sam Altman en mede-oprichters Greg Brockman en Ilya Sutskever zeiden dat het "denkbaar" is dat AI de komende tien jaar buitengewone vermogens zal verwerven die de mens zullen overtreffen.

“In termen van zowel potentiële voordelen als nadelen, zal superintelligentie krachtiger zijn dan andere technologieën waarmee de mensheid in het verleden te maken heeft gehad. We kunnen een dramatisch welvarendere toekomst hebben; maar we moeten risico's beheersen om daar te komen, 'zei het trio schreef op dinsdag.

De kosten van het bouwen van zulke krachtige technologie nemen alleen maar af naarmate meer mensen eraan werken om het te verbeteren, voerden ze aan. Om de voortgang te beheersen, moet de ontwikkeling worden begeleid door een internationale organisatie zoals de International Atomic Energy Agency (IAEA).

Het IAEA werd in 1957 opgericht in een tijd waarin regeringen vreesden dat tijdens de Koude Oorlog kernwapens zouden worden ontwikkeld. Het bureau helpt bij het reguleren van kernenergie en stelt waarborgen in om ervoor te zorgen dat kernenergie niet voor militaire doeleinden wordt gebruikt.

“Waarschijnlijk zullen we uiteindelijk zoiets als een IAEA nodig hebben voor superintelligentie-inspanningen; elke inspanning boven een bepaalde capaciteitsdrempel (of middelen zoals rekenkracht) moet worden onderworpen aan een internationale autoriteit die systemen kan inspecteren, audits kan eisen, kan testen op naleving van veiligheidsnormen, beperkingen kan opleggen aan de mate van implementatie en beveiligingsniveaus, enz. " ze zeiden.

Zo'n groep zou verantwoordelijk zijn voor het bijhouden van computer- en energieverbruik, essentiële middelen die nodig zijn om grote en krachtige modellen te trainen en uit te voeren.

"We zouden het er gezamenlijk over eens kunnen zijn dat het groeitempo van de AI-capaciteit aan de frontier beperkt is tot een bepaald percentage per jaar", suggereerde de hoogste baas van OpenAI. Bedrijven zouden vrijwillig moeten instemmen met inspecties, en het agentschap zou zich moeten concentreren op "het verminderen van existentiële risico's", niet op regelgevingskwesties die worden gedefinieerd en vastgelegd door de individuele wetten van een land.

Vorige week kwam Altman met het idee dat bedrijven een licentie moeten krijgen om modellen te bouwen met geavanceerde mogelijkheden boven een bepaalde drempel in een Senaat gehoor. Zijn suggestie werd later bekritiseerd omdat het een oneerlijke impact zou kunnen hebben op AI-systemen die zijn gebouwd door kleinere bedrijven of de open source-gemeenschap, die waarschijnlijk minder over de middelen beschikken om aan de wettelijke vereisten te voldoen.

"We denken dat het belangrijk is om bedrijven en open source-projecten toe te staan ​​modellen te ontwikkelen onder een aanzienlijke capaciteitsdrempel, zonder het soort regelgeving dat we hier beschrijven (inclusief omslachtige mechanismen zoals licenties of audits)," zeiden ze.

Elon Musk was eind maart een van de 1,000 ondertekenaars van een open brief waarin werd opgeroepen tot een pauze van zes maanden bij het ontwikkelen en trainen van AI die krachtiger is dan GPT4 vanwege de potentiële risico's voor de mensheid, iets dat Altman bevestigd half april was het te doen.

"Krachtige AI-systemen mogen pas worden ontwikkeld als we er zeker van zijn dat hun effecten positief zullen zijn en dat hun risico's beheersbaar zullen zijn", aldus de brief.

Alphabet en Google CEO Sundar Pichai schreef afgelopen weekend een stuk in de Financial Times, gezegde: “Ik geloof nog steeds dat AI te belangrijk is om niet te reguleren, en te belangrijk om niet goed te reguleren”. ®

Tijdstempel:

Meer van Het register