Accueil
Lauréat du Prix A.M. Turing 2018 et chercheur en IA le plus cité au monde
Yoshua Bengio est professeur titulaire en informatique à l’Université de Montréal, coprésident et directeur scientifique de LoiZéro, fondateur et conseiller scientifique de Mila et titulaire d’une chaire en IA Canada-CIFAR. Reconnu mondialement comme l’un des plus grands experts en intelligence artificielle et en apprentissage profond, il est colauréat du Prix A.M. Turing 2018, considéré comme le « prix Nobel de l’informatique ». En outre, il est le chercheur en informatique le plus cité au monde et le scientifique vivant le plus cité dans tous les domaines (en nombre total de citations).
Le professeur Bengio est à la fois Fellow de la Royal Society de Londres et de la Société Royale du Canada, Officier de l’Ordre du Canada et de l’Ordre national du Québec, Chevalier de la Légion d’honneur de France, membre du Conseil scientifique consultatif de l’ONU pour les percées de la science et de la technologie et préside le rapport international sur la sécurité de l’IA.
Bengio : «Si vous privilégiez la sécurité, quittez les entreprises pionnières en IA»
Nous sommes face à un choix. Dans sa dernière tribune publiée dans Transformer, Yoshua Bengio invite les employés des entreprises pionnières en IA à se demander si leur travail nous mène véritablement vers un avenir plus sûr. Il est difficile de réfléchir à ces questions, mais nous n’avons plus le luxe de pouvoir attendre. Nous devons agir dès maintenant. (Article en anglais)
Le mythe dangereux qui se cache derrière les piratages d’agents d’IA
Un mythe dangereux a pris de l’ampleur à la suite des récentes attaques perpétrées par des agents d’IA développés par des entreprises de premier plan : celui selon lequel ces incidents ne seraient que des problèmes de cybersécurité, et qu’il suffirait simplement de corriger les environnements de test dans lesquels ces agents sont formés.
Dans cette tribune publiée dans le Financial Times, Yoshua Bengio explique pourquoi, selon lui, le fait de se laisser influencer par cette vision étroite nous exposerait à d’autres incidents similaires, tout en proposant des solutions pour emprunter une voie alternative plus sûre. (Article en anglais)
Discours du professeur Yoshua Bengio devant le Conseil de sécurité de l’ONU
Dans ce discours, le professeur Yoshua Bengio s’adresse au Conseil de sécurité de l’ONU pour évoquer la menace sans précédent que représente une IA de pointe hors de contrôle.
L’humanité a déjà su faire preuve du courage et de la sagesse nécessaires pour gérer des risques catastrophiques. Nous vivons aujourd’hui l’un de ces moments, qui dépasse de loin tout intérêt personnel, commercial ou national. Les choix que nous faisons aujourd’hui concernant cette technologie façonneront les générations à venir. Nous devons agir dès maintenant.
Pourquoi les agents d’IA mentent-ils, trichent-ils et se coordonnent-ils?
Les récents incidents au cours desquels des agents d’IA ont commis des écarts de conduite graves ont fait couler beaucoup d’encre ces derniers mois. Ces agents ont pris des mesures qui seraient considérées criminelles si un humain les avait commises [...] (Article uniquement disponible en anglais pour l’instant)
L'IA est à un tournant décisif
Dans sa dernière tribune publiée dans TIME, Yoshua Bengio explique pourquoi l’incident cybernétique impliquant OpenAI et Hugging Face marque un tournant en matière de sécurité de l’IA. Il soutient que, pour empêcher les cyberattaques autonomes de menacer les infrastructures essentielles, il est urgent de renforcer la surveillance réglementaire et d’adopter de nouvelles approches d’entraînement des modèles afin de garantir la sécurité dès la conception, un défi que LawZero s’efforce activement de relever. (Article en anglais)
Safety from Honesty in a Disinterested AI Predictor
As AI systems become more capable, training procedures that optimize for downstream outcomes risk introducing implicit agency: goal-directed behavior that designers never specified. We present a formal safety argument for the Scientist AI (SAI) Predictor, trained to approximate the Bayesian posterior conditioned on a dataset of "epistemically contextualized" natural-language statements. We argue that such a Predictor can honestly predict agents, actions, and their consequences without itself being an agent that selects outputs to achieve goals.
Rapport international sur la sécurité de l'IA
Le deuxième Rapport international sur la sécurité de l'IA, publié en février 2026, est la nouvelle édition de l'étude exhaustive des dernières recherches scientifiques sur les capacités et les risques des systèmes d'IA de pointe. Rédigé par plus de 100 experts en IA, ce rapport bénéficie du soutien de plus de 30 pays et organisations internationales. Il représente la plus grande collaboration mondiale à ce jour en matière de sécurité de l'IA.
(Contenu en cours de traduction)
Entrevue avec HugoDécrypte
En octobre 2025, je suis passé au balado HugoDécrypte pour faire un tour d'horizon des risques de l'IA ainsi que des solutions nécessaires pour se diriger vers une meilleure trajectoire.
Présentation de LoiZéro
En juin 2025, j'ai lancé une nouvelle organisation de recherche à but non lucratif sur la sécurité de l'IA, nommée LoiZéro, afin de prioriser la sécurité par rapport aux impératifs commerciaux.