CEO da OpenAI comparece ao Senado e pede regulamentação da IA

CEO da OpenAI comparece ao Senado e pede regulamentação da IA

Carimbo de data / hora: 17 de maio de 2023 3h
Nó Fonte: 2659898

O CEO da OpenAI, Sam Altman, compareceu perante o Congresso na terça-feira para testemunhar sobre os perigos e oportunidades da IA, dizendo que há uma necessidade “urgente” de regulamentação.

O executivo de 38 anos concordou em grande parte com os membros de um subcomitê do Senado sobre a necessidade de domar a IA cada vez mais poderosa criada por sua empresa e outras grandes empresas de tecnologia como Google e Microsoft.

Veja também: Como usar o novo recurso 'Bloqueio de bate-papo' do WhatsApp

Em seu depoimento, Altman implorou aos legisladores que regulassem a IA, pois os membros do comitê demonstraram uma compreensão crescente da tecnologia.

A audiência também destacou o profundo desconforto sentido pelos tecnólogos e pelo governo sobre seus possíveis danos.

“Acreditamos que a intervenção regulatória dos governos será fundamental para mitigar os riscos de modelos cada vez mais poderosos (IA)”, disse ele.

A aparição de Altman ocorre após o sucesso viral do ChatGPT, a ferramenta chatbot de sua empresa, que provocou uma corrida armamentista pela IA e despertou preocupações de alguns legisladores sobre os riscos representados pela tecnologia.

Uma lista de empresas de tecnologia de todo o mundo implantou novas ferramentas de IA nos últimos meses, com o potencial de mudar a forma como as pessoas trabalham e interagem. As mesmas ferramentas também geraram críticas sobre seu potencial de interromper milhões de empregos, espalhar desinformação e perpetuar preconceitos.

IA como ferramenta de manipulação

O chefe da OpenAI dito o potencial de uso da IA ​​para manipular os eleitores e direcionar a desinformação está entre “minhas áreas de maior preocupação”, especialmente porque “vamos enfrentar uma eleição no ano que vem e esses modelos estão melhorando”.

Antes da audiência, Altman também falou sobre OpenAI's tecnologia em um jantar com dezenas de membros da Câmara na noite de segunda-feira e, segundo relatos, se reuniu em particular com vários senadores.

De acordo com um New York Times Denunciar, Altman ofereceu uma estrutura flexível para gerenciar o que acontece a seguir com os sistemas de rápido desenvolvimento, que alguns acreditam que podem mudar fundamentalmente a economia.

“Acho que se a tecnologia der errado, pode dar muito errado. E queremos ser sinceros sobre isso ”, disse ele. “Queremos trabalhar com o governo para evitar que isso aconteça.”

Questionado sobre o impacto da IA ​​na música, Altman disse que os criadores de conteúdo devem opinar sobre como suas vozes, imagem ou conteúdo protegido por direitos autorais são usados ​​para treinar modelos de IA.

Ele também disse ao comitê que sua empresa está trabalhando em um sistema de direitos autorais para compensar artistas cujo trabalho foi usado para criar algo novo.

“Os criadores merecem controle”, afirmou, acrescentando que a regulamentação deve exigir o estado das imagens quando foram geradas por IA. No entanto, alguns legisladores perguntaram se a OpenAI estava fazendo o suficiente, questionando por que a empresa não poderia implementar isso imediatamente.

Atrasado na regulamentação

Falando a repórteres após a audiência, o presidente do painel do Senado, senador Richard Blumenthal, disse que a audiência foi a primeira de uma série para aprender mais sobre os potenciais benefícios e danos da IA, para eventualmente “escrever as regras”. Ele acrescentou que Altman parecia “muito sincero”, enfatizando que “o Congresso não pode ser o porteiro” da regulamentação da IA.

O senador Blumenthal admite que outra pessoa precisa intensificar e desempenhar o papel regulador porque “o Federal Trade Commission não tem capacidade agora.”

O senador também reconheceu o fracasso do Congresso em acompanhar a introdução de novas tecnologias no passado.

“Nosso objetivo é desmistificar e responsabilizar essas tecnologias para evitar alguns erros do passado. O Congresso não conseguiu enfrentar o momento nas mídias sociais”.

Os membros do subcomitê sugeriram que um órgão independente supervisionasse a IA e implementasse regras que obrigassem as empresas a divulgar como seus modelos funcionam e os conjuntos de dados que usam. Bem como regras antitruste para impedir que empresas como Microsoft e Google monopolizem o mercado.

Tirando uma folha da UE

O professor cético em IA, Gary Marcus, disse que os EUA e outros “agiram muito lentamente com a regulamentação da mídia social”, mas têm escolhas a fazer em relação à IA, propondo uma nova agência em nível de gabinete para regular o setor, uma ideia que Altman também apareceu para trás.

A diretora de privacidade e confiança da IBM, Christina Montgomery, disse que o regras da UE sobre IA estão “regulando por contexto” e forneceram uma boa pista para os EUA seguirem.

A regulamentação da IA ​​tem sido um tópico de grande interesse desde o boom impulsionado pelo ChatGPT do setor, com uma série de novas ferramentas chegando ao mercado.

Na Europa, legisladores preparam-se para introduzir regras que regulem o setor ainda este ano, enquanto na China, o país criou regulamentos de IA que cumpram com suas leis de censura.

As partes interessadas em tecnologia, como Elon Musk, assinaram um carta pedindo a interrupção do desenvolvimento da IA ​​até que haja clareza na regulamentação, citando seu potencial dano à humanidade.

O senador Blumenthal disse que as empresas de IA devem liderar com uma abordagem “não causar danos” – mas admitiu que não haverá pausa no desenvolvimento da IA ​​até que os reguladores possam alcançá-la.

COMPARTILHE ESTA POSTAGEM

Carimbo de hora:

Mais de MetaNotícias