El CEO de OpenAI comparece ante el Senado y pide la regulación de la IA

El CEO de OpenAI comparece ante el Senado y pide la regulación de la IA

Sello de tiempo: 17 de mayo de 2023 3:00 p.m.
Nodo de origen: 2659898

El CEO de OpenAI, Sam Altman, compareció ante el Congreso el martes para testificar sobre los peligros y oportunidades de la IA y dijo que existe una necesidad "urgente" de regulación.

El ejecutivo de 38 años estuvo de acuerdo en gran medida con los miembros de un subcomité del Senado sobre la necesidad de domar la IA cada vez más poderosa creada por su empresa y otras grandes empresas tecnológicas como Google y Microsoft.

Lea también: Cómo usar la nueva función 'Bloqueo de chat' de WhatsApp

En su testimonio, Altman imploró a los legisladores que regularan la IA mientras los miembros del comité mostraban una comprensión incipiente de la tecnología.

La audiencia también subrayó la profunda inquietud que sienten los tecnólogos y el gobierno por sus posibles daños.

“Creemos que la intervención regulatoria de los gobiernos será fundamental para mitigar los riesgos de los modelos (IA) cada vez más poderosos”, dijo.

La aparición de Altman se produce después del éxito viral de ChatGPT, la herramienta de chatbot de su empresa, que provocó una carrera armamentista sobre la IA y despertó la preocupación de algunos legisladores sobre los riesgos que plantea la tecnología.

Una lista de empresas de tecnología de todo el mundo ha implementado nuevas herramientas de inteligencia artificial en los últimos meses, con el potencial de cambiar la forma en que las personas trabajan e interactúan. Las mismas herramientas también han generado críticas por su potencial para interrumpir millones de empleos, difundir información errónea y perpetuar prejuicios.

La IA como herramienta de manipulación

El jefe de OpenAI dijo el potencial de que la IA se use para manipular a los votantes y atacar la desinformación se encuentran entre "mis áreas de mayor preocupación", especialmente porque "vamos a enfrentar una elección el próximo año y estos modelos están mejorando".

Antes de la audiencia, Altman también habló sobre OpenAI's tecnología en una cena con docenas de miembros de la Cámara el lunes por la noche y, según se informa, se reunió en privado con varios senadores.

De acuerdo con un New York Times reporte, Altman ofreció un marco flexible para gestionar lo que suceda a continuación con los sistemas de rápido desarrollo, que algunos creen que podrían cambiar fundamentalmente la economía.

“Creo que si la tecnología sale mal, puede salir bastante mal. Y queremos expresarnos al respecto”, dijo. “Queremos trabajar con el gobierno para evitar que eso suceda”.

Cuando se le preguntó sobre el impacto de la IA en la música, Altman dijo que los creadores de contenido deberían opinar sobre cómo se usan sus voces, imágenes o contenido protegido por derechos de autor para entrenar modelos de IA.

También le dijo al comité que su empresa está trabajando en un sistema de derechos de autor para compensar a los artistas cuyo trabajo se utilizó para crear algo nuevo.

“Los creadores merecen control”, afirmó, y agregó que la regulación debería exigir que las imágenes indiquen cuándo se generaron con IA. Sin embargo, algunos legisladores preguntaron si OpenAI estaba haciendo lo suficiente y cuestionaron por qué la empresa no pudo implementar eso de inmediato.

Rezagado en la regulación

Hablando con los reporteros después de la audiencia, el presidente del panel del Senado, el senador Richard Blumenthal, dijo que la audiencia era la primera de una serie para aprender más sobre los posibles beneficios y daños de la IA, para eventualmente "escribir las reglas". Agregó que Altman parecía "ser bastante sincero", y enfatizó que "el Congreso no puede ser el guardián" de la regulación de la IA.

El Senador Blumenthal admite que alguien más debe dar un paso al frente y desempeñar el papel regulador porque “el Comisión Federal de Comercio no tiene la capacidad en este momento”.

El senador también reconoció que el Congreso no se mantuvo al día con la introducción de nuevas tecnologías en el pasado.

“Nuestro objetivo es desmitificar y responsabilizar a esas tecnologías para evitar algunos errores del pasado. El Congreso no cumplió con el momento en las redes sociales”.

Los miembros del subcomité sugirieron que un organismo independiente supervise la IA e implemente reglas que obliguen a las empresas a revelar cómo funcionan sus modelos y los conjuntos de datos que utilizan. Así como normas antimonopolio para evitar que empresas como Microsoft y Google monopolicen el mercado.

Tomando una hoja de la UE

El profesor escéptico de IA, Gary Marcus, dijo que EE. UU. y otros habían "actuado con demasiada lentitud con la regulación de las redes sociales", pero que tienen opciones que tomar con respecto a la IA, proponiendo una nueva agencia a nivel de gabinete para regular el sector, una idea que Altman también pareció retroceder.

La directora de confianza y privacidad de IBM, Christina Montgomery, dijo que la reglas de la UE sobre IA están "regulando por contexto" y proporcionaron una buena pista para que los EE. UU. la siguieran.

La regulación de la IA ha sido un tema de gran interés desde el auge impulsado por ChatGPT en el sector, con la llegada al mercado de una gran cantidad de nuevas herramientas.

En Europa, legisladores están listos para introducir reglas que regulan el sector a finales de este año, mientras que en China, el país ha creado regulaciones de IA que cumplen con sus leyes de censura.

Las partes interesadas en tecnología como Elon Musk firmaron un carta pidiendo que se detenga el desarrollo de la IA hasta que haya claridad sobre la regulación, citando su daño potencial para la humanidad.

El senador Blumenthal dijo que las empresas de IA deberían liderar con un enfoque de "no hacer daño", pero admitió que no habría pausa en el desarrollo de IA hasta que los reguladores puedan ponerse al día.

COMPARTIR ESTA PUBLICACION

Sello de tiempo:

Mas de MetaNoticias