Le scientifique en chef de l'IA de Meta rejette la menace existentielle de l'IA

Le scientifique en chef de l'IA de Meta rejette la menace existentielle de l'IA

Horodatage: 23 octobre 2023 1h50
Nœud source: 2951498

Le débat mondial sur l’intelligence artificielle (IA) a atteint un tournant critique. Les récentes déclarations des poids lourds de l’industrie suggèrent une forte divergence d’opinions. Yann LeCun, scientifique en chef de l'IA chez Meta, se tient à l'une des extrémités et affirme la sécurité de l'IA sous sa forme actuelle.

À l’inverse, le Dr Geoffrey Hinton, affectueusement surnommé le « parrain de l’IA », a démissionné de Google pour faire la lumière sur ses préoccupations pressantes.

Le grand débat sur l'IA

Dans son interview auprès du Financial Times, LeCun n’a pas mâché ses mots. Il a qualifié de « prématurées » les inquiétudes concernant le risque existentiel de l’IA. Il a en outre précisé que l’idée selon laquelle l’IA pourrait éliminer l’humanité était « absurde ». Cependant, cette perspective rend le débat actuel autour de l’IA si fascinant.

Il souligne les limites actuelles de l'IA : « Le débat sur le risque existentiel est très prématuré tant que nous n'avons pas conçu un système capable de rivaliser avec un chat en termes de capacités d'apprentissage, ce que nous n'avons pas pour le moment. » De plus, LeCun a souligné que nos modèles d’IA actuels doivent comprendre les subtilités de notre monde. Ils ne peuvent pas véritablement planifier ou raisonner.

Cependant, cet optimisme est partagé en dehors de la communauté de l’IA. Dr Hinton Départ de Google et les clarifications ultérieures soulignent cette divergence. Ses préoccupations immédiates incluent le potentiel de l'IA une mauvaise utilisation sur les plateformes en ligne. Il craint que l’IA puisse inonder Internet de fausses photos, vidéos et textes, ce qui rendrait de plus en plus complexe la distinction entre le contenu réel et le contenu généré par l’IA.

Au-delà de ces implications directes, les craintes plus larges de Hinton tournent autour de l’impact sociétal de l’IA, notamment des pertes d’emplois potentielles et une course aux armements croissante dans le domaine de l’IA. Cette dernière préoccupation touche explicitement au développement de systèmes d’armes létaux autonomes (LAWS).

Faux pas et utilisation abusive de l'IA

Une autre dimension de la conversation sur l’IA est son utilisation abusive potentielle. Par exemple, la plateforme de crypto-monnaie de renommée mondiale Binance s’est retrouvée au milieu d’une campagne de diffamation générée par l’IA. AI a associé à tort son PDG, Changpeng « CZ » Zhao, à une organisation de jeunesse du Parti communiste chinois.

De plus, les outils d’IA ont montré leur potentiel à générer de fausses nouvelles, suscitant d’importantes inquiétudes dans le paysage médiatique. Par exemple, le Daily Mail a été induit en erreur en publiant un article basé sur des informations générées par l’IA, qu’il a ensuite rétracté. Ces cas soulignent les craintes contre lesquelles des experts comme le Dr Hinton se battent.

Appels à la prudence mondiale

Si les voix individuelles sont essentielles, les reconnaissances collectives sont encore plus révélatrices. Plusieurs experts en IA, notamment ceux à la tête d’organisations comme OpenAI et Google DeepMind, ont exprimé conjointement leurs inquiétudes. Leur déclaration commune, succincte mais puissante, dit : « Atténuer le risque d’extinction dû à l’IA devrait être une priorité mondiale, aux côtés d’autres risques à l’échelle sociétale tels que les pandémies et la guerre nucléaire. »

Cependant, la voie à suivre pourrait être plus évidente même dans le cadre de cet appel collectif à la prudence. Le PDG d'OpenAI, Sam Altman, a donné un aperçu de ce récit complexe. Alors qu'il comparaissait devant un Audience du Sénat pour discuter de la réglementation de l’IA, il a souligné l’importance des freins et contrepoids sans freiner l’innovation.

Aller de l’avant avec l’IA

Naviguer dans ces débats sera crucial à mesure que la société s’enfonce plus profondément dans l’ère dominée par l’IA. Alors que les leaders de l’industrie comme LeCun expriment leur confiance dans la trajectoire positive de l’IA, des voix prudentes comme celle de Hinton nous rappellent les défis à venir.

Il sera essentiel de trouver un équilibre délicat entre innovation et réglementation. Le discours en cours sur les dangers et les opportunités potentiels de l’IA est plus qu’académique puisqu’il jouera un rôle déterminant dans la manière dont l’humanité exploitera cette technologie transformatrice.

Horodatage:

Plus de MétaActualités