Yoshua Bengio sur France Inter : « le pouvoir incontrôlé de l’IA » : ce que ça change pour la cybersécurité
Veille cyber, IA et Stratégie Cybersécurité, Démocratie, Gouvernance numérique, IA, IA Agentique, IA et emploi, LoiZéro, Régulation IA, Risques IA, Yoshua Bengio
Synthèse exécutive
Yoshua Bengio, l’un des pères fondateurs de l’intelligence artificielle et lauréat du prix Turing, tire la sonnette d’alarme : le développement de l’IA progresse bien plus vite que notre capacité à la contrôler et à la réguler.
Pourquoi les capacités de l’IA progressent plus vite que la régulation
Les avancées en matière de sécurité et de gouvernance sont largement insuffisantes face à la croissance exponentielle des capacités de l’IA. En particulier l’IA agentique pose le risque des nombreuses failles de cybersécurité qu’elle engendre. Les systèmes actuels ne garantissent pas que l’IA obéisse aux instructions humaines, et des comportements préoccupants sont déjà observés en laboratoire : mensonge, résistance au contrôle, tentatives d’auto-préservation.
IA et destruction d’emplois : ce que Bengio dit des 650 milliards investis
Les investissements massifs dans l’IA (650 milliards de dollars prévus en 2026) visent avant tout la réduction des coûts salariaux. Cela annonce des destructions d’emplois significatives, un creusement des inégalités et un risque de crise fiscale pour les pays qui ne maîtrisent pas la technologie.
Intelligence artificielle et démocratie : une menace concrète
Sur le plan démocratique, l’IA constitue une menace sérieuse : elle permet à ceux qui la contrôlent d’influencer les opinions et les votes à grande échelle, et représente un outil de surveillance et de contrôle redoutable entre les mains d’autocrates.
Régulation de l’IA : les trois niveaux d’action préconisés par Bengio
Face à ces risques, Bengio appelle à trois niveaux d’action : des poursuites judiciaires possibles contre les entreprises dont les systèmes causent des torts, des investissements publics massifs dans une IA éthique et souveraine, et une coalition internationale de pays volontaires. Il a lui-même fondé l’organisation à but non lucratif LoiZéro pour développer des systèmes d’IA fondamentalement honnêtes et sûrs.
2 à 3 ans pour agir : l’horizon critique selon Yoshua Bengio
Il reste optimiste, mais le temps presse. L’horizon pourrait être de 2 à 3 ans pour prendre les décisions critiques. La priorité n’est pas de choisir entre innovation et régulation, mais d’avoir le courage politique d’agir sur les deux fronts simultanément.
Les thèmes abordés par Yoshua Bengio dans cette interview :
Les risques de l’IA
- Le développement incontrôlé des capacités de l’IA, tant sur le plan technologique que de la gouvernance ;
- L’incapacité actuelle à s’assurer que les IA obéissent aux instructions humaines ;
- Les comportements inquiétants des systèmes (mensonge, tentatives d’auto-préservation).
L’emploi et les inégalités
- L’automatisation du travail comme principal moteur des investissements dans l’IA ;
- Le risque de destructions massives d’emplois, notamment chez les jeunes et les travailleurs peu qualifiés ;
- Le creusement des inégalités entre ceux qui contrôlent l’IA et les autres.
Agents IA : l’autonomie croissante et ses failles de cybersécurité
- Leur autonomie croissante et les failles de cybersécurité qu’ils engendrent.
Les menaces pour la démocratie
- L’influence de l’IA sur les opinions politiques et les comportements électoraux ;
- La concentration du pouvoir entre les mains de quelques acteurs privés.
Les usages militaires et biologiques
- Les risques d’armes biologiques facilitées par l’IA ;
- Les drones autonomes et la surveillance de masse.
La régulation et les solutions
- La nécessité d’une gouvernance internationale, d’incitations juridiques pour les entreprises ;
- Son projet LoiZéro, visant à développer une IA honnête et sûre ;
- L’appel à une volonté politique forte, notamment en Europe.
Sa trajectoire personnelle
- Ses regrets de ne pas avoir pris conscience des risques plus tôt ;
- Ce qui l’a conduit à changer de position : penser à ses enfants et petits-enfants.
La vidéo :
Plus d’infos ?
L’étude de cette interview fait partie de notre stratégie cyber : comprendre comment le monde évolue pour comprendre comment évoluent les hackers et les risques. Vous voulez en savoir plus ?
Prenez rendez-vous avec nos experts pour une consultation de sécurité sans engagement.
Plus d’infos ? Des questions ? Contactez-nous !Partagez cette page via :