Le PDG d'OpenAI comparaît devant le Sénat et demande une réglementation de l'IA

Le PDG d'OpenAI comparaît devant le Sénat et demande une réglementation de l'IA

Horodatage: 17 mai 2023 3:00
Nœud source: 2659898

Le PDG d'OpenAI, Sam Altman, a comparu devant le Congrès mardi pour témoigner des dangers et des opportunités de l'IA, affirmant qu'il existe un besoin "urgent" de réglementation.

L'exécutif de 38 ans était largement d'accord avec les membres d'un sous-comité sénatorial sur la nécessité d'apprivoiser l'IA de plus en plus puissante créée par son entreprise et d'autres grandes entreprises technologiques comme Google et Microsoft.

A lire également: Comment utiliser la nouvelle fonctionnalité "Chat Lock" de WhatsApp

Dans son témoignage, Altman a imploré les législateurs de réglementer l'IA alors que les membres du comité affichaient une compréhension naissante de la technologie.

L'audience a également souligné le profond malaise ressenti par les technologues et le gouvernement face à ses dommages potentiels.

"Nous pensons que l'intervention réglementaire des gouvernements sera essentielle pour atténuer les risques de modèles (IA) de plus en plus puissants", a-t-il déclaré.

L'apparition d'Altman intervient après le succès viral de ChatGPT, l'outil de chatbot de son entreprise, qui a provoqué une course aux armements contre l'IA et suscité des inquiétudes chez certains législateurs quant aux risques posés par la technologie.

Une liste d'entreprises technologiques du monde entier ont déployé de nouveaux outils d'IA au cours des derniers mois, avec le potentiel de changer la façon dont les gens travaillent et interagissent. Les mêmes outils ont également suscité des critiques quant à leur potentiel à perturber des millions d'emplois, à répandre la désinformation et à perpétuer les préjugés.

L'IA comme outil de manipulation

Le patron d'OpenAI a affirmé Valérie Plante. le potentiel d'utilisation de l'IA pour manipuler les électeurs et cibler la désinformation fait partie de "mes domaines les plus préoccupants", en particulier parce que "nous allons faire face à une élection l'année prochaine et ces modèles s'améliorent".

Avant l'audience, Altman a également parlé de OpenAI's technologie lors d'un dîner avec des dizaines de membres de la Chambre lundi soir, et aurait rencontré en privé plusieurs sénateurs.

Selon un New York Times rapport, Altman a proposé un cadre lâche pour gérer ce qui se passera ensuite avec les systèmes en développement rapide, qui, selon certains, pourraient changer fondamentalement l'économie.

« Je pense que si la technologie tourne mal, ça peut mal tourner. Et nous voulons nous faire entendre à ce sujet », a-t-il déclaré. "Nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise."

Interrogé sur l'impact de l'IA sur la musique, Altman a déclaré que les créateurs de contenu devraient avoir leur mot à dire sur la manière dont leur voix, leur ressemblance ou leur contenu protégé par le droit d'auteur sont utilisés pour former des modèles d'IA.

Il a également déclaré au comité que son entreprise travaille sur un système de droit d'auteur pour rémunérer les artistes dont le travail a été utilisé pour créer quelque chose de nouveau.

"Les créateurs méritent un contrôle", a-t-il déclaré, ajoutant que la réglementation devrait exiger que les images indiquent quand elles ont été générées par l'IA. Cependant, certains législateurs ont demandé si OpenAI en faisait assez, se demandant pourquoi l'entreprise ne pouvait pas le mettre en œuvre immédiatement.

En retard sur la réglementation

S'adressant aux journalistes après l'audience, le président du comité sénatorial, le sénateur Richard Blumenthal, a déclaré que l'audience était la première d'une série pour en savoir plus sur les avantages et les inconvénients potentiels de l'IA, pour finalement "écrire les règles". Il a ajouté qu'Altman semblait "plutôt sincère", soulignant que "le Congrès ne peut pas être le gardien" de la réglementation de l'IA.

Le sénateur Blumenthal admet que quelqu'un d'autre doit intervenir et jouer le rôle de réglementation parce que « le Federal Trade Commission n'a pas la capacité en ce moment.

Le sénateur a également reconnu l'échec du Congrès à suivre l'introduction de nouvelles technologies dans le passé.

« Notre objectif est de démystifier et de responsabiliser ces technologies afin d'éviter certaines erreurs du passé. Le Congrès n'a pas réussi à rencontrer le moment sur les réseaux sociaux.

Les membres du sous-comité ont suggéré qu'un organisme indépendant supervise l'IA et mette en place des règles obligeant les entreprises à divulguer le fonctionnement de leurs modèles et les ensembles de données qu'elles utilisent. Ainsi que des règles antitrust pour empêcher des entreprises comme Microsoft et Google de monopoliser le marché.

Prendre exemple sur l'UE

Le professeur Gary Marcus, sceptique de l'IA, a déclaré que les États-Unis et d'autres avaient "agi trop lentement avec la réglementation des médias sociaux" mais avaient des choix à faire concernant l'IA, proposant une nouvelle agence au niveau du cabinet pour réglementer le secteur, une idée qu'Altman a également semblait reculer.

La responsable de la confidentialité et de la confiance d'IBM, Christina Montgomery, a déclaré que le Les règles de l'UE sur l'IA sont «réglementées par le contexte» et ont fourni une bonne piste à suivre pour les États-Unis.

La réglementation de l'IA est un sujet de grand intérêt depuis le boom du secteur généré par ChatGPT, avec l'arrivée d'une multitude de nouveaux outils sur le marché.

En Europe, législateurs sont sur le point d'introduire des règles qui réglementent le secteur plus tard cette année tandis qu'en Chine, le pays a mis au point des réglementations sur l'IA qui respectent ses lois sur la censure.

Des acteurs technologiques comme Elon Musk ont ​​signé un lettre appelant à l'arrêt du développement de l'IA jusqu'à ce qu'il y ait une clarté sur la réglementation, citant son préjudice potentiel pour l'humanité.

Le sénateur Blumenthal a déclaré que les entreprises d'IA devraient mener avec une approche «ne pas nuire» – mais a admis qu'il n'y aurait pas de pause dans le développement de l'IA jusqu'à ce que les régulateurs puissent rattraper leur retard.

PARTAGER CETTE PUBLICATION

Horodatage:

Plus de MétaActualités