L'importance de la diversité dans l'IA n'est pas une opinion, c'est une question de mathématiques – IBM Blog

Nous voulons tous voir nos valeurs humaines idéales se refléter dans nos technologies. Nous attendons des technologies telles que l’intelligence artificielle (IA) qu’elles ne nous mentent pas, qu’elles ne fassent pas de discrimination et qu’elles soient sûres pour nous et nos enfants. Pourtant, de nombreux créateurs d’IA sont actuellement confrontés à des réactions négatives en raison des biais, des inexactitudes et des pratiques problématiques en matière de données exposées dans leurs modèles. Ces problèmes nécessitent plus qu’une solution technique, algorithmique ou basée sur l’IA. En réalité, une approche holistique et sociotechnique est nécessaire.

Les mathématiques démontrent une vérité puissante

Tous les modèles prédictifs, y compris l’IA, sont plus précis lorsqu’ils intègrent diverses intelligences et expériences humaines. Ceci n’est pas une opinion ; il a une validité empirique. Prendre en compte théorème de prédiction de la diversité. En termes simples, lorsque la diversité au sein d’un groupe est grande, l’erreur de la foule est faible – ce qui conforte le concept de « la sagesse de la foule ». Dans une étude influente, il a été démontré que divers groupes de personnes capables de résoudre des problèmes à faible capacité peuvent surpasser les groupes de personnes capables de résoudre des problèmes de grande capacité (Hong et Page, 2004).

En langage mathématique : plus votre variance est large, plus votre moyenne est standard. L'équation ressemble à ceci :

A une étude plus approfondie fourni davantage de calculs qui affinent les définitions statistiques d'une foule sage, y compris l'ignorance des prédictions des autres membres et l'inclusion de ceux qui ont au maximum différent (négativement corrélés) prédictions ou jugements. Ce n’est donc pas seulement le volume, mais aussi la diversité qui améliore les prévisions. Comment ces informations pourraient-elles affecter l’évaluation des modèles d’IA ?

(in)précision du modèle

Pour citer un aphorisme courant, tous les modèles sont faux. Cela est vrai dans les domaines des statistiques, de la science et de l’IA. Les modèles créés avec un manque d'expertise dans le domaine peuvent conduire à erroné les sorties.

Aujourd’hui, un petit groupe homogène de personnes détermine quelles données utiliser pour former des modèles d’IA génératifs, qui proviennent de sources surreprésentant largement l’anglais. « Pour la plupart des plus de 6,000 XNUMX langues dans le monde, les données textuelles disponibles ne suffisent pas pour former un modèle de base à grande échelle » (extrait de «Sur les opportunités et les risques des modèles de fondation», Bommasani et al., 2022).

De plus, les modèles eux-mêmes sont créés à partir d'architectures limitées : « Presque tous les modèles NLP de pointe sont désormais adaptés de l'un des rares modèles de base, tels que BERT, RoBERTa, BART, T5, etc. Bien que cette homogénéisation produise effet de levier extrêmement élevé (toute amélioration des modèles de base peut conduire à des bénéfices immédiats dans l’ensemble de la PNL), c’est aussi un handicap ; tous les systèmes d’IA pourraient hériter des mêmes biais problématiques de quelques modèles de base (Bommasani et coll.) "

Pour que l’IA générative reflète mieux les diverses communautés qu’elle dessert, une bien plus grande variété de données humaines doit être représentée dans les modèles.

L’évaluation de la précision du modèle va de pair avec l’évaluation des biais. Nous devons nous demander quelle est l’intention du modèle et pour qui est-il optimisé ? Considérez, par exemple, qui profite le plus des algorithmes de recommandation de contenu et des algorithmes des moteurs de recherche. Les parties prenantes peuvent avoir des intérêts et des objectifs très différents. Les algorithmes et les modèles nécessitent des cibles ou des proxys pour l'erreur de Bayes : l'erreur minimale qu'un modèle doit améliorer. Ce mandataire est souvent une personne, telle qu'un expert en la matière possédant une expertise dans le domaine.

Un défi très humain : évaluer les risques avant l'acquisition ou le développement d'un modèle

Les réglementations et plans d’action émergents en matière d’IA soulignent de plus en plus l’importance des formulaires d’évaluation d’impact algorithmique. L'objectif de ces formulaires est de capturer des informations critiques sur les modèles d'IA afin que les équipes de gouvernance puissent évaluer et gérer leurs risques avant de les déployer. Les questions typiques incluent :

• Quel est le cas d’utilisation de votre modèle ?
• Quels sont les risques d’impacts disparates ?
• Comment évaluez-vous l’équité ?
• Comment rendez-vous votre modèle explicable ?

Bien que conçus avec de bonnes intentions, le problème est que la plupart des propriétaires de modèles d’IA ne comprennent pas comment évaluer les risques liés à leur cas d’utilisation. Un refrain courant pourrait être : « Comment mon modèle pourrait-il être injuste s'il ne collecte pas d'informations personnellement identifiables (PII) ? Par conséquent, les formulaires sont rarement remplis avec le soin nécessaire aux systèmes de gouvernance pour signaler avec précision les facteurs de risque.

Ainsi, le caractère socio-technique de la solution est souligné. Un propriétaire de modèle (un individu) ne peut pas simplement recevoir une liste de cases à cocher pour évaluer si son cas d'utilisation causera un préjudice. Au lieu de cela, il faut que des groupes de personnes ayant des expériences vécues très diverses se réunissent dans des communautés offrant une sécurité psychologique pour avoir des conversations difficiles sur les impacts disparates.

Accueillir des perspectives plus larges pour une IA digne de confiance

IBM® croit en l'adoption d'une approche « client zéro », en mettant en œuvre les recommandations et les systèmes qu'elle formulerait pour ses propres clients à travers des solutions de conseil et de produits. Cette approche s'étend aux pratiques éthiques, c'est pourquoi IBM a créé un centre d'excellence en IA (COE) digne de confiance.

Comme expliqué ci-dessus, la diversité des expériences et des compétences est essentielle pour évaluer correctement les impacts de l’IA. Mais la perspective de participer à un centre d’excellence pourrait être intimidante dans une entreprise regorgeant d’innovateurs, d’experts et d’ingénieurs distingués en IA. Il est donc nécessaire de cultiver une communauté de sécurité psychologique. IBM le communique clairement en disant : « Intéressé par l'IA ? Intéressé par l’éthique de l’IA ? Vous avez une place à cette table.

Le COE propose une formation à l’éthique de l’IA aux praticiens de tous niveaux. Des programmes d'apprentissage synchrone (enseignant et étudiants en classe) et asynchrones (autoguidés) sont proposés.

Mais c'est celui du COE appliqué une formation qui donne à nos praticiens les connaissances les plus approfondies, alors qu'ils travaillent avec des équipes mondiales, diversifiées et multidisciplinaires sur des projets réels afin de mieux comprendre les impacts disparates. Ils exploitent également les cadres de réflexion sur la conception qu'IBM Conception pour l'IA Le groupe utilise en interne et avec les clients pour évaluer les effets involontaires des modèles d'IA, en gardant à l'esprit ceux qui sont souvent marginalisés. (Voir l'ouvrage de Sylvia Duckworth Roue du pouvoir et des privilèges pour des exemples de la façon dont les caractéristiques personnelles se croisent pour privilégier ou marginaliser les gens.) IBM a également fait don de nombreux frameworks à la communauté open source. Concevoir de manière éthique.

Vous trouverez ci-dessous quelques-uns des rapports publiés publiquement par IBM sur ces projets :

Des outils automatisés de gouvernance des modèles d’IA sont nécessaires pour obtenir des informations importantes sur les performances de votre modèle d’IA. Mais notez qu’il est optimal de capturer les risques bien avant que votre modèle ne soit développé et mis en production. En créant des communautés de praticiens diversifiés et multidisciplinaires qui offrent un espace sûr où les gens peuvent avoir des conversations difficiles sur des impacts disparates, vous pouvez commencer votre voyage vers la mise en œuvre de vos principes et développer l’IA de manière responsable.

En pratique, lorsque vous recrutez des praticiens de l’IA, considérez que plus de 70 % des efforts de création de modèles consistent à conserver les bonnes données. Vous souhaitez embaucher des personnes qui savent collecter des données représentatives et qui sont également collectées avec consentement. Vous voulez également que des personnes expérimentées travaillent en étroite collaboration avec des experts du domaine pour s'assurer qu'ils ont la bonne approche. Il est essentiel de veiller à ce que ces praticiens disposent de l’intelligence émotionnelle nécessaire pour relever le défi de la gestion responsable de l’IA avec humilité et discernement. Nous devons apprendre intentionnellement à reconnaître comment et quand les systèmes d’IA peuvent exacerber les inégalités tout autant qu’ils peuvent augmenter l’intelligence humaine.

Réinventez le fonctionnement de votre entreprise avec l'IA