OpenAI demande à une agence mondiale de réglementer la superintelligence

Une agence internationale devrait être chargée d'inspecter et d'auditer l'intelligence artificielle générale pour s'assurer que la technologie est sans danger pour l'humanité, selon les hauts dirigeants du fabricant de GPT-4 OpenAI.

Le PDG Sam Altman et les co-fondateurs Greg Brockman et Ilya Sutskever ont déclaré qu'il était "concevable" que l'IA obtienne des capacités extraordinaires qui dépassent les humains au cours de la prochaine décennie.

"En termes d'avantages et d'inconvénients potentiels, la superintelligence sera plus puissante que les autres technologies auxquelles l'humanité a dû faire face dans le passé. Nous pouvons avoir un avenir considérablement plus prospère; mais nous devons gérer le risque pour y arriver », le trio écrit mardi.

Les coûts de construction d'une technologie aussi puissante ne font que diminuer à mesure que de plus en plus de personnes travaillent à la faire progresser, ont-ils fait valoir. Afin de contrôler les progrès, le développement devrait être supervisé par une organisation internationale comme l'Agence internationale de l'énergie atomique (AIEA).

L'AIEA a été créée en 1957 à une époque où les gouvernements craignaient que des armes nucléaires ne soient développées pendant la guerre froide. L'agence aide à réglementer l'énergie nucléaire et établit des garanties pour s'assurer que l'énergie nucléaire n'est pas utilisée à des fins militaires.

«Nous aurons probablement besoin à terme de quelque chose comme une AIEA pour les efforts de super-espionnage; tout effort dépassant un certain seuil de capacité (ou de ressources comme le calcul) devra être soumis à une autorité internationale qui peut inspecter les systèmes, exiger des audits, tester la conformité aux normes de sécurité, imposer des restrictions sur les degrés de déploiement et les niveaux de sécurité, etc., " ils ont dit.

Un tel groupe serait chargé de suivre l'utilisation du calcul et de l'énergie, des ressources vitales nécessaires pour former et exécuter des modèles volumineux et puissants.

"Nous pourrions convenir collectivement que le taux de croissance de la capacité de l'IA à la frontière est limité à un certain taux par an", a suggéré les hauts gradés d'OpenAI. Les entreprises devraient accepter volontairement les inspections, et l'agence devrait se concentrer sur la «réduction du risque existentiel», et non sur les questions réglementaires définies et fixées par les lois individuelles d'un pays.

La semaine dernière, Altman a avancé l'idée que les entreprises devraient obtenir une licence pour construire des modèles avec des capacités avancées au-dessus d'un seuil spécifique dans un Sénat entendre. Sa suggestion a ensuite été critiquée car elle pourrait avoir un impact injuste sur les systèmes d'IA construits par de petites entreprises ou la communauté open source qui sont moins susceptibles d'avoir les ressources nécessaires pour répondre aux exigences légales.

"Nous pensons qu'il est important de permettre aux entreprises et aux projets open source de développer des modèles en dessous d'un seuil de capacité significatif, sans le type de réglementation que nous décrivons ici (y compris des mécanismes lourds comme les licences ou les audits)", ont-ils déclaré.

Fin mars, Elon Musk était l'un des 1,000 4 signataires d'une lettre ouverte appelant à une pause de six mois dans le développement et la formation d'une IA plus puissante que GPTXNUMX en raison des risques potentiels pour l'humanité, ce qu'Altman confirmé à la mi-avril ça marchait.

"De puissants systèmes d'IA ne devraient être développés qu'une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables", indique la lettre.

Alphabet et PDG de Google, Sundar Pichai, ont écrit un article dans le Financial Times ce week-end, dire: "Je crois toujours que l'IA est trop importante pour ne pas être réglementée, et trop importante pour ne pas être bien réglementée". ®

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoAiStream. Intelligence des données Web3. Connaissance Amplifiée. Accéder ici.
• Frapper l'avenir avec Adryenn Ashley. Accéder ici.
• Achetez et vendez des actions de sociétés PRE-IPO avec PREIPO®. Accéder ici.
• La source: https://go.theregister.com/feed/www.theregister.com/2023/05/24/openai_superintelligence_global_agency/