Le co-fondateur d'OpenAI, Sam Altman, confirme que "ChatGPT présente des lacunes en matière de biais"

Le co-fondateur d'OpenAI, Sam Altman, confirme que "ChatGPT présente des lacunes en matière de biais"

Horodatage: 2 février 2023 11:26
Nœud source: 1935966

"Nous savons que ChatGPT présente des lacunes en matière de biais et nous travaillons à l'améliorer."

Hier, nous avons écrit sur OpenAI après que certains utilisateurs de ChatGPT ont signalé que l'organisation cofondée par Elon Musk et Sam Altman avait a transformé le chatbot en outil politique et maintenant l'utiliser pour promouvoir le transgenre. "Les dommages causés à la crédibilité de l'IA par les ingénieurs de ChatGPT, qui s'appuient sur des préjugés politiques, sont irréparables", a déclaré un ChatGPT. se plaindre. "AI dit d'affirmer les enfants transgenres", a déclaré un autre utilisateur de ChatGP.

Quelques heures seulement après une histoire, le co-fondateur d'OpenAI, Sam Altman, s'est adressé aux médias sociaux pour résoudre les problèmes ainsi que la haine dirigée contre les ingénieurs d'OpenAI. Dans un article sur le fil Twitter, Altman a admis que ChatGPT présentait actuellement des défauts de biais, ce qui n'est pas rare pour chaque nouvelle technologie. Altman a ajouté que la société travaille à l'amélioration du chatbot. Mais il n'a pas pris gentiment les attaques contre les ingénieurs d'OpenAI, les qualifiant d'épouvantables.

"Nous savons que ChatGPT présente des lacunes en matière de biais et nous travaillons à l'améliorer. mais diriger la haine contre des employés individuels de l'OAI à cause de cela est épouvantable. frappez-moi autant que vous voulez, mais attaquer d'autres personnes ici n'aide pas le terrain à progresser, et ceux qui le font le savent.

Altman a également ajouté qu'OpenAI "travaille pour améliorer les paramètres par défaut afin qu'ils soient plus neutres, et également pour permettre aux utilisateurs de faire en sorte que nos systèmes se comportent conformément à leurs préférences individuelles dans de larges limites. c'est plus difficile qu'il n'y paraît et il nous faudra du temps pour bien faire les choses.

OpenAI n'est pas la première entreprise technologique à faire face au problème de biais de l'IA. De retour en 2021, deux ingénieurs de Google ont démissionné sur le licenciement d'un chercheur en éthique de l'IA noire Timnit Gebru, un informaticien d'origine érythréenne qui travaille sur les biais algorithmiques et l'exploration de données.

En 2020, Timnit Gebru a écrit un article dans lequel elle a déclaré que Google et d'autres grandes entreprises technologiques sont "institutionnellement raciste." Son article s'est concentré sur des problèmes similaires qui affligent ChatGPT sur la façon dont les modèles de langage d'IA ont un biais structurel contre les femmes et les personnes appartenant à des minorités ethniques.

Nous avons couvert OpenAI pour la première fois il y a environ trois ans après Microsoft a investi 1 milliard de dollars dans l'organisation. Dans le cadre de l'accord pluriannuel conclu, les deux sociétés travailleront ensemble pour apporter des technologies de supercalcul et OpenAI exécutera ses services exclusivement dans le cloud de Microsoft.

Grâce à ce partenariat, les deux sociétés accéléreront les percées dans l'IA et propulseront les efforts d'OpenAI pour créer une intelligence générale artificielle (IAG). Les améliorations qui en résultent pour la plate-forme Azure aideront également les développeurs à créer la prochaine génération d'applications d'IA. Avec ce partenariat, Microsoft et OpenAI créeront conjointement de nouvelles technologies de supercalcul Azure AI.

Interrogé récemment sur ChatGPT et si Microsoft considérait la technologie ChatGPT comme expérimentale ou stratégique, son président Brad Smith a déclaré à Reuters que l'IA avait progressé plus rapidement que prévu.

"Nous allons voir des avancées en 2023 auxquelles les gens se seraient attendus il y a deux ans en 2033. Cela va être extrêmement important non seulement pour l'avenir de Microsoft, mais pour l'avenir de tous", a-t-il déclaré dans une interview cette semaine.

OpenAI a été fondée fin 2015 par Elon Musk et Sam Altman en tant que startup à but lucratif menant des recherches sur l'intelligence artificielle (IA) dans le but de promouvoir et de développer une IA conviviale de manière à bénéficier à l'humanité dans son ensemble. OpenIA a déclaré qu'elle visait à "collaborer librement" avec d'autres institutions et chercheurs en rendant ses brevets et ses recherches ouverts au public. Les deux fondateurs sont motivés en partie par des préoccupations concernant le risque existentiel de l'intelligence artificielle générale.

Dans l'ensemble, nous pensons qu'Altman a très bien géré les critiques concernant le biais ChatGPT. Le fait qu'il ait admis le biais de l'algorithme ChatGPT est un pas dans la bonne direction.

Horodatage:

Plus de Startups technologiques