O co-fundador da OpenAI, Sam Altman, confirma que 'ChatGPT tem deficiências em relação ao viés'

“Sabemos que o ChatGPT tem deficiências em relação ao preconceito e estamos trabalhando para melhorá-lo.”

Ontem escrevemos sobre OpenAI depois que alguns usuários do ChatGPT relataram que a organização cofundada por Elon Musk e Sam Altman transformou o chatbot em uma ferramenta política e agora usando-o para promover o transgenerismo. “O dano causado à credibilidade da IA ​​​​pelos engenheiros do ChatGPT baseados no preconceito político é irreparável”, disse um ChatGPT queixou-se. “A IA diz para apoiar crianças transgêneros”, disse outro usuário do ChatGP.

Poucas horas depois de uma história, o cofundador da OpenAI, Sam Altman, recorreu às redes sociais para abordar os problemas, juntamente com o ódio dirigido aos engenheiros da OpenAI. Em uma postagem no Twitter, Altman admitiu que o ChatGPT atualmente tem algumas falhas de preconceito, o que não é incomum para todas as novas tecnologias. Altman acrescentou que a empresa está trabalhando para melhorar o chatbot. Mas ele não aceitou bem os ataques aos engenheiros da OpenAI, chamando-os de terríveis.

“Sabemos que o ChatGPT tem deficiências em relação ao preconceito e estamos trabalhando para melhorá-lo. mas dirigir o ódio a funcionários individuais da OAI por causa disso é terrível. me bata o quanto quiser, mas atacar outras pessoas aqui não ajuda o campo a avançar, e as pessoas que fazem isso sabem disso.”

sabemos que o ChatGPT tem deficiências em relação ao preconceito e estamos trabalhando para melhorá-lo.

mas dirigir o ódio a funcionários individuais da OAI por causa disso é terrível. me bata o quanto quiser, mas atacar outras pessoas aqui não ajuda o campo a avançar, e as pessoas que fazem isso sabem disso.

- Sam Altman (@sama) 1 de fevereiro de 2023

Altman também acrescentou que a OpenAI está “trabalhando para melhorar as configurações padrão para serem mais neutras e também para capacitar os usuários a fazer com que nossos sistemas se comportem de acordo com suas preferências individuais dentro de limites amplos. isso é mais difícil do que parece e levará algum tempo para acertar.”

todos na equipe openai são excepcionais e se preocupam profundamente. Estou muito grato por todas as suas contribuições.❤️

- Sam Altman (@sama) 1 de fevereiro de 2023

A OpenAI não é a primeira empresa de tecnologia a enfrentar o problema do preconceito da IA. Em 2021, dois engenheiros do Google renunciaram sobre a demissão do pesquisador negro de ética em IA, Timnit Gebru, um cientista da computação nascido na Eritreia que trabalha com viés algorítmico e mineração de dados.

Em 2020, Timnit Gebru escreveu um artigo onde dizia que o Google e outras grandes empresas de tecnologia estão “institucionalmente racista.” Seu artigo se concentrou em questões semelhantes que assolam o ChatGPT sobre como os modelos de linguagem de IA têm um preconceito estrutural contra mulheres e pessoas pertencentes a minorias étnicas.

Abordamos o OpenAI pela primeira vez há cerca de três anos, depois Microsoft investiu US$ 1 bilhão na organização. Como parte do acordo plurianual alcançado, as duas empresas trabalharão juntas para trazer tecnologias de supercomputação e a OpenAI executará seus serviços exclusivamente na nuvem da Microsoft.

Por meio da parceria, as duas empresas acelerarão avanços em IA e potencializarão os esforços da OpenAI para criar inteligência geral artificial (AGI). Os aprimoramentos resultantes na plataforma Azure também ajudarão os desenvolvedores a criar a próxima geração de aplicativos de IA. Com a parceria, a Microsoft e a OpenAI construirão em conjunto novas tecnologias de supercomputação de IA do Azure.

Quando questionado recentemente sobre o ChatGPT e se a Microsoft via a tecnologia ChatGPT como experimental ou estratégica, seu presidente Brad Smith disse à Reuters que a IA progrediu mais rápido do que muitos previam.

“Veremos avanços em 2023 que as pessoas esperariam há dois anos em 2033. Será extremamente importante não apenas para o futuro da Microsoft, mas para o futuro de todos”, disse ele em entrevista esta semana.

A OpenAI foi fundada no final de 2015 por Elon Musk e Sam Altman como uma startup com fins lucrativos que conduz pesquisas em inteligência artificial (IA) com o objetivo de promover e desenvolver IA amigável de forma a beneficiar a humanidade como um todo. A OpenIA disse que pretende “colaborar livremente” com outras instituições e pesquisadores, tornando suas patentes e pesquisas abertas ao público. Ambos os fundadores são motivados em parte por preocupações sobre o risco existencial da inteligência artificial geral.

No geral, acreditamos que Altman lidou muito bem com as críticas sobre o viés do ChatGPT. O fato de ele ter admitido o viés do algoritmo ChatGPT é um passo na direção certa.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• Platoblockchain. Inteligência Metaverso Web3. Conhecimento Ampliado. Acesse aqui.
• Fonte: https://techstartups.com/2023/02/02/openai-co-founder-sam-altman-confirms-chatgpt-has-shortcomings-around-bias/