El cofundador de OpenAI, Sam Altman, confirma que 'ChatGPT tiene deficiencias en torno al sesgo'

El cofundador de OpenAI, Sam Altman, confirma que 'ChatGPT tiene deficiencias en torno al sesgo'

Marca de tiempo: 2 de febrero de 2023 11:26 AM
Nodo de origen: 1935966

"Sabemos que ChatGPT tiene deficiencias relacionadas con el sesgo y estamos trabajando para mejorarlo".

Ayer escribimos sobre OpenAI después de que algunos usuarios de ChatGPT informaran que la organización cofundada por Elon Musk y Sam Altman ha convirtió el chatbot en una herramienta política y ahora usándolo para promover el transgenerismo. “El daño causado a la credibilidad de la IA por parte de los ingenieros de ChatGPT que se basan en prejuicios políticos es irreparable”, dijo un ChatGPT. se quejó. “AI dice afirmar a los niños transgénero”, dijo otro usuario de ChatGP.

Solo unas horas después de una historia, el cofundador de OpenAI, Sam Altman, recurrió a las redes sociales para abordar los problemas junto con el odio dirigido hacia los ingenieros de OpenAI. En una publicación de un hilo de Twitter, Altman admitió que ChatGPT actualmente tiene algunas fallas en torno al sesgo, lo cual no es raro en todas las nuevas tecnologías. Altman agregó que la empresa está trabajando para mejorar el chatbot. Pero no tomó amablemente los ataques a los ingenieros de OpenAI, calificándolos de espantosos.

“Sabemos que ChatGPT tiene deficiencias relacionadas con el sesgo y estamos trabajando para mejorarlo. pero dirigir el odio a empleados individuales de la OAI debido a esto es espantoso. golpéame todo lo que quieras, pero atacar a otras personas aquí no ayuda a que el campo avance, y las personas que lo hacen lo saben”.

Altman también agregó que OpenAI está “trabajando para mejorar la configuración predeterminada para que sea más neutral y también para empoderar a los usuarios para que nuestros sistemas se comporten de acuerdo con sus preferencias individuales dentro de límites amplios. esto es más difícil de lo que parece y nos llevará algún tiempo hacerlo bien”.

OpenAI no es la primera empresa de tecnología que enfrenta el problema del sesgo de la IA. De vuelta en 2021, dos ingenieros de Google renunciaron por el despido de un investigador de ética de IA negro, Timnit Gebru, un científico informático nacido en Eritrea que trabaja en sesgo algorítmico y minería de datos.

En 2020, Timnit Gebru escribió un artículo en el que decía que Google y otras grandes empresas tecnológicas son “institucionalmente racista.Su artículo se centró en problemas similares que afectan a ChatGPT sobre cómo los modelos de lenguaje de IA tienen un sesgo estructural contra las mujeres y las personas pertenecientes a minorías étnicas.

Cubrimos OpenAI por primera vez hace unos tres años después de Microsoft invirtió mil millones de dólares en la organización. Como parte del acuerdo plurianual alcanzado, las dos empresas trabajarán juntas para traer tecnologías de supercomputación y OpenAI ejecutará sus servicios exclusivamente en la nube de Microsoft.

A través de la asociación, las dos compañías acelerarán los avances en IA y potenciarán los esfuerzos de OpenAI para crear inteligencia general artificial (AGI). Las mejoras resultantes de la plataforma Azure también ayudarán a los desarrolladores a crear la próxima generación de aplicaciones de IA. Con la asociación, Microsoft y OpenAI construirán conjuntamente nuevas tecnologías de supercomputación de Azure AI.

Cuando se le preguntó recientemente sobre ChatGPT y si Microsoft veía la tecnología ChatGPT como experimental o estratégica, su presidente Brad Smith dijo a Reuters que la IA ha progresado más rápido de lo que muchos predijeron.

“Vamos a ver avances en 2023 que la gente hace dos años habría esperado en 2033. Va a ser extremadamente importante no solo para el futuro de Microsoft, sino para el futuro de todos”, dijo en una entrevista esta semana.

OpenAI fue fundada a fines de 2015 por Elon Musk y Sam Altman como una empresa emergente con fines de lucro que realiza investigaciones en inteligencia artificial (IA) con el objetivo de promover y desarrollar una IA amigable de tal manera que beneficie a la humanidad en su conjunto. OpenIA dijo que su objetivo es "colaborar libremente" con otras instituciones e investigadores al hacer que sus patentes e investigaciones estén abiertas al público. Ambos fundadores están motivados en parte por las preocupaciones sobre el riesgo existencial de la inteligencia artificial general.

En general, creemos que Altman manejó muy bien las críticas sobre el sesgo de ChatGPT. El hecho de que admitió el sesgo del algoritmo ChatGPT es un paso en la dirección correcta.

Sello de tiempo:

Mas de Startups tecnológicas