Les raisons pour lesquelles l’IA pourrait être dangereuse pour l’humanité selon Geoffrey Hinton

L’industrie de la crypto-monnaie a été largement impactée par les progrès de la technologie de l’intelligence artificielle. Plus précisément, la polarité po croissante des chatbots basés sur l’IA comme ChatGPT et Google Bard a engendré une sous-section de crypto-monnaies thématiques autour de ce domaine.

Il existe une myriade de pièces sur le marché qui ont connu une croissance exponentielle en raison de l’intérêt croissant pour l’IA.

Nous avons également exploité ChatGPT sur de nombreux sujets, tels que :

• Ethereum renversera-t-il Bitcoin dans les cinq prochaines années ?
• Quelles sont les 5 crypto-monnaies qui survivront dans 10 ans ?
• Quelles sont les prochaines technologies émergentes pour perturber la crypto ?

Et bien qu’il soit excitant de discuter avec une IA sur des sujets dont vous discuteriez normalement avec vos collègues, il y a aussi un autre aspect, et Geoffrey Hinton en parle haut et fort.

Le parrain de l’intelligence artificielle

Geoffrey Hinton est un psychologue cognitif et informaticien anglo-canadien né en 1947 à Wimbledon, Londres.

Il est surtout connu pour son travail sur les réseaux de neurones artificiels et est un ancien employé de Google. Il a quitté l’entreprise en mai 2023 lors d’une grande sortie publique, exprimant les inquiétudes du public concernant les risques de la technologie de l’intelligence artificielle (IA).

Hinton est le premier lauréat du prix Rumelhart en 2001 et est reconnu internationalement pour son travail sur les réseaux de neurones artificiels, en particulier en ce qui concerne la manière dont ils peuvent être conçus pour apprendre sans avoir besoin d’un enseignant humain. Il a également remporté le prix ACM AM Turing 2018 pour ses percées conceptuelles et techniques dans le domaine.

Il est aussi communément appelé l’un des parrains de l’IA. Et maintenant, il a quelques soucis.

Nous avons découvert le secret de l’immortalité, mais il y a un hic

Dans une interview pour Le gardien, Hinton a clairement indiqué qu’il avait quitté Google en bons termes et qu’il n’avait aucune objection à ce que l’entreprise faisait ou avait fait.

Dans l’article, il compare l’intelligence biologique (cerveau humain) à l’intelligence numérique, soulignant les inefficacités auxquelles les gens sont confrontés. Il dit que notre cerveau fonctionne à faible puissance, mais notre approche est assez inefficace en termes de transfert d’informations. L’intelligence numérique, en revanche, est différente.

Vous payez un coût énorme en termes d’énergie, mais quand l’un d’eux apprend quelque chose, tous le savent, et vous pouvez facilement stocker plus de copies. La bonne nouvelle, c’est que nous avons découvert le secret de l’immortalité. La mauvaise nouvelle, c’est que ce n’est pas pour nous.

Essentiellement, Hinton est arrivé à la conclusion que les humains construisent une intelligence qui a le potentiel de surpasser l’humanité.

Je pensais que ça finirait par arriver, mais nous avions tout le temps : 30 à 50 ans. Je ne pense plus ça. Et je ne connais aucun exemple de choses plus intelligentes contrôlées par des choses moins intelligentes.

Pour rendre la comparaison plus compréhensible, l’informaticien nous a épinglés (les humains) contre les grenouilles tout en ajoutant :

Et elle (l’IA) va apprendre du Web, elle va avoir lu tous les livres qui ont été écrits sur la façon de manipuler les gens, et aussi l’avoir vu en pratique.

Peurs pour l’humanité

Citant un rapport récent de Hinton, les rapports décrivent les dangers potentiels de la soi-disant superintelligence.

Le parrain de l’IA décrit des scénarios dans lesquels une IA peut chercher à prendre le contrôle de nombreux aspects de son propre environnement dans le but de résoudre des problèmes complexes. Ces aspects incluent même la manipulation humaine. Le scientifique pense que l’IA n’aurait même pas besoin d’un objectif explicite de puissance ou de destruction pour tirer parti de sa capacité à imiter le comportement humain.

Ce n’est pas tout pessimiste, cependant. Il pense qu’il existe des moyens d’atténuer les scénarios catastrophiques, mais il est également d’avis que nous avons dépassé le point de non-retour et qu’il est carrément impossible d’arrêter le développement de l’IA, ni qu’il faut l’arrêter.

Je pense que nous devrions continuer à le développer car il pourrait faire des choses merveilleuses. Mais nous devons déployer des efforts égaux pour atténuer ou prévenir les éventuelles conséquences néfastes.

À quel point sommes-nous proches de ces mauvaises conséquences ? Plus proche que vous ne le pensez.

J’ai une énorme incertitude à l’heure actuelle. Il est possible que les grands modèles de langage, ayant consommé tous les documents sur le web, ne puissent pas aller beaucoup plus loin à moins qu’ils n’aient également accès à toutes nos données privées. Je ne veux pas exclure ce genre de choses – je pense que les gens qui ont confiance dans cette situation sont fous.

La bonne façon de penser aux chances d’une catastrophe est plus proche d’un simple tirage au sort que nous ne le souhaiterions.

Réflexions finales

L’intelligence artificielle est susceptible de jouer un rôle croissant dans nos vies. En fait, selon ChatGPT (oh, l’ironie) lui-même, certains des domaines qu’il aura un impact au cours des 7 prochaines années incluent :

• Soins de santé
• Automatisation
• Transport
• Éducation
• Maisons intelligentes
• Service Clients

Depuis qu’il a exprimé ses inquiétudes, Hinton a été critiqué par de nombreuses personnes pour ne pas avoir suivi certains de ses collègues qui ont démissionné plus tôt. Il est facile d’arriver à cette conclusion, mais il est également facile de surveiller la complexité du problème, qui touche à de multiples principes technologiques, philosophiques et éthiques.

Je suppose que tout ce que Hinton essaie de dire, c’est que l’impact de l’IA sur l’humanité, qu’il soit bon ou mauvais, est probablement beaucoup plus proche que la plupart d’entre nous ne semblent le penser.

Image présentée avec l’aimable autorisation de CBC, qui leur a été soumise par Geoffrey Hinton.