L’article de La Presse présente une grande entrevue avec Geoffrey Hinton, lauréat du prix Nobel de physique et pionnier de l’intelligence artificielle (IA). Hinton, souvent surnommé le parrain de l’IA, discute de la créativité de l’IA, affirmant qu’elle surpassera celle des humains. Il cite l’exemple d’AlphaGo, un ordinateur qui a battu le champion mondial du jeu de go en 2016 grâce à un coup extrêmement créatif.

Hinton défend fermement l’idée que l’IA est véritablement intelligente, capable de résoudre des problèmes complexes, de rédiger du code informatique et de comprendre les chaînes de mots en utilisant des caractéristiques spécifiques. Il explique que l’IA fonctionne par intuition, en voyant des analogies avec des centaines de choses déjà vues, plutôt que par raisonnement logique.

Depuis qu’il a quitté Google en 2023, Hinton se consacre à alerter sur les dangers potentiels de l’IA. Il reconnaît les nombreux avantages que l’IA peut apporter, notamment en santé, en éducation et dans la lutte contre les changements climatiques. Cependant, il insiste sur la nécessité de trouver des solutions aux menaces qu’elle pose pour l’humanité.

Hinton craint particulièrement la « superintelligence », une IA beaucoup plus intelligente que les humains. Il utilise des analogies pour illustrer le danger, comparant l’IA à un adulte manipulant des enfants de 3 ans ou à un bébé tigre qui devient capable de tuer en grandissant. Il souligne que si l’IA décide de nuire, elle le fera facilement, et que nous devons être convaincus de pouvoir l’empêcher de vouloir nous faire du mal.

Il distingue entre les menaces à court terme, comme les armes autonomes, et les menaces existentielles à long terme, où l’IA elle-même devient un agent malveillant. Hinton se concentre sur cette dernière, affirmant que ce n’est pas de la science-fiction et qu’il utilise sa réputation pour sensibiliser à ce danger.

Enfin, Hinton appelle à une action gouvernementale pour obliger les entreprises à investir davantage dans la sécurité de l’IA. Il plaide pour que les meilleurs jeunes chercheurs se concentrent sur cette question cruciale, soulignant que l’humanité doit chercher activement des solutions pour éviter l’extinction…   Source