Google Photos AI ne peut toujours pas étiqueter les gorilles

Google Photos AI ne peut toujours pas étiqueter les gorilles

Horodatage: 28 mai 2023 10:30
Nœud source: 2685385

L'IA en bref L'IA progresse peut-être rapidement, mais il semble que Google n'ait toujours pas résolu un problème de huit ans avec son système de reconnaissance d'images : l'identification précise des images de gorilles.

L'entreprise a été critiquée lorsqu'un développeur de logiciels, Jacky Alciné, a découvert que le système de reconnaissance d'images déployé dans son application Photos en 2015 avait étiqueté par erreur une photo de lui et de son ami comme étant des gorilles. Alciné et son ami sont tous deux noirs. Horrifié, Google a rapidement dissimulé l'erreur raciste en bloquant la capacité du logiciel à étiqueter les images de gorilles.

Huit ans plus tard, la faille n’est toujours pas correctement corrigée. Un expérience menée par le a constaté que les utilisateurs pouvaient rechercher leurs photos par différents types d'animaux - comme les chats et les kangourous - mais pas pour les gorilles, les babouins, les chimpanzés, les orangs-outans et les singes. 

L’application Photos évite toujours d’étiqueter les images de primates. Il n'est pas clair si l'entreprise est incapable de résoudre le problème ou si la fonctionnalité est trop controversée ou risquée à déployer. Il est intéressant de noter que l'application Photo d'Apple et l'application de stockage OneDrive de Microsoft présentaient également le même problème, tandis qu'Amazon Photos avait tendance à étiqueter par erreur d'autres types d'animaux comme des gorilles.

Alciné s'est dit déçu que Google n'ait pas résolu le problème. "Je n'aurai jamais confiance en cette IA", a-t-il déclaré.

OpenAI lance un nouveau programme pour financer des idées sur la façon de contrôler démocratiquement AGI

La branche à but non lucratif d'OpenAI s'est engagée à attribuer un total d'un million de dollars à des personnes ayant de bonnes idées sur la manière de mettre en place un processus démocratique permettant aux citoyens de façonner le développement de l'IA.

N'importe qui peut soumettre ses propositions jusqu'au 2 juin. La startup AI sélectionnera les dix meilleures candidatures et accordera 100,000 XNUMX $ chacune afin que les destinataires puissent commencer à travailler pour construire des prototypes de leurs idées. 

"AGI devrait bénéficier à toute l'humanité et être conçu pour être aussi inclusif que possible", OpenAI annoncé dans un article de blog cette semaine. "Nous lançons ce programme de subventions pour faire un premier pas dans cette direction. Nous recherchons des équipes du monde entier pour développer des preuves de concept pour un processus démocratique qui pourrait répondre aux questions sur les règles que les systèmes d'IA devraient suivre."

OpenAI a déclaré que les subventions sont des expériences et qu'il peut ou non appliquer l'une des idées dans la pratique. La startup s'intéresse aux méthodes qui prennent en charge la contribution d'une communauté diversifiée sur des problèmes qui ne peuvent pas nécessairement être résolus en suivant les lois.

"Par exemple : dans quelles conditions les systèmes d'IA devraient-ils condamner ou critiquer des personnalités publiques, étant donné les opinions différentes d'un groupe à l'autre concernant ces personnalités ? Comment les opinions controversées devraient-elles être représentées dans les résultats de l'IA ? L'IA devrait-elle par défaut refléter la personnalité d'un individu médian dans le monde, " Le pays de l'utilisateur, la démographie de l'utilisateur ou quelque chose de complètement différent ? Aucun individu, entreprise ou même pays ne devrait dicter ces décisions", a-t-il demandé.

Anthropic lève 450 millions de dollars en série C

Anthropic, une startup d'IA cofondée par d'anciens employés d'OpenAI, a levé 450 millions de dollars lors de son dernier cycle d'investissement dirigé par Spark Capital alors qu'elle cherche à créer davantage de produits commerciaux.

La série C est soutenue par Google, Salesforce Ventures, Sound Ventures, Zoom Ventures et d'autres. Anthropic s'efforce actuellement d'intégrer davantage de clients à l'aide de son grand modèle linguistique, Claude. Le PDG Dario Amodei a déclaré que l'argent ira à la construction de plus de produits.

« Nous sommes ravis que ces investisseurs et entreprises technologiques de premier plan soutiennent la mission d'Anthropic : la recherche et les produits en matière d'IA qui placent la sécurité à la frontière. Les systèmes que nous construisons sont conçus pour fournir des services d'IA fiables qui peuvent avoir un impact positif sur les entreprises et les consommateurs, aujourd'hui et à l'avenir. l'avenir."

Anthropic a déclaré qu'elle se concentrait sur la création de produits plus sûrs en utilisant des techniques d'alignement de l'IA pour guider son chatbot dans le respect des instructions et la génération de réponses appropriées. L'entreprise a récemment agrandi l'espace de travail de Claude fenêtre contextuelle pour prendre en charge 100,000 XNUMX jetons, ce qui lui permet de traiter des centaines de pages de documents en une seule fois. 

Waymo s'associe à Uber pour étendre son service de robotaxi

L'entreprise de voitures autonomes Waymo s'associe à la meilleure application de taxis Uber pour attirer plus de passagers à Phoenix, en Arizona. Les deux étaient en concurrence féroce l'un contre l'autre à un moment donné, mais lancent maintenant la technologie des voitures autonomes à leur manière et peuvent voir les avantages du partenariat.

Waymo fournira ses véhicules autonomes, tandis qu'Uber fournira son réseau de passagers. Les utilisateurs d'Uber pourront héler les voitures Waymo Driver pour livrer la nourriture commandée via son application Uber Eats, ou être conduits vers leurs destinations cibles via son application Uber.

"Nous sommes ravis d'offrir aux gens une autre façon de profiter des avantages agréables et salvateurs d'une autonomie totale", a déclaré Tekedra Mawakana, co-PDG de Waymo. expliqué dans un communiqué cette semaine. « Uber est depuis longtemps un leader du covoiturage à commande humaine, et l'association de notre technologie pionnière et de notre flotte entièrement électrique avec son réseau de clients offre à Waymo l'opportunité d'atteindre encore plus de personnes. »

Le service de robotaxi devrait être lancé à Phoenix, en Arizona, plus tard cette année. ®

Horodatage:

Plus de Le registre