Blogue

Bengio : « Si vous privilégiez la sécurité, quittez les entreprises pionnières en IA »

Nous sommes face à un choix. Dans sa dernière tribune publiée dans Transformer, Yoshua Bengio invite les employés des entreprises pionnières en IA à se demander si leur travail nous mène véritablement vers un avenir plus sûr. Il est difficile de réfléchir à ces questions, mais nous n’avons plus le luxe de pouvoir attendre. Nous devons agir dès maintenant. (Article en anglais)

08 octobre 2026

Le mythe dangereux qui se cache derrière les piratages d’agents d’IA

Un mythe dangereux a pris de l’ampleur à la suite des récentes attaques perpétrées par des agents d’IA développés par des entreprises de premier plan : celui selon lequel ces incidents ne seraient que des problèmes de cybersécurité, et qu’il suffirait simplement de corriger les environnements de test dans lesquels ces agents sont formés. Dans cette tribune publiée dans le Financial Times, Yoshua Bengio explique pourquoi, selon lui, le fait de se laisser influencer par cette vision étroite nous exposerait à d’autres incidents similaires, tout en proposant des solutions pour emprunter une voie alternative plus sûre. (Article en anglais)

05 octobre 2026

Discours du professeur Yoshua Bengio devant le Conseil de sécurité de l’ONU

Dans ce discours, le professeur Yoshua Bengio s’adresse au Conseil de sécurité de l’ONU pour évoquer la menace sans précédent que représente une IA de pointe hors de contrôle. L’humanité a déjà su faire preuve du courage et de la sagesse nécessaires pour gérer des risques catastrophiques. Nous vivons aujourd’hui l’un de ces moments, qui dépasse de loin tout intérêt personnel, commercial ou national. Les choix que nous faisons aujourd’hui concernant cette technologie façonneront les générations à venir. Nous devons agir dès maintenant.

24 septembre 2026

Pourquoi les agents d’IA mentent-ils, trichent-ils et se coordonnent-ils?

Les récents incidents au cours desquels des agents d’IA ont commis des écarts de conduite graves ont fait couler beaucoup d’encre ces derniers mois. Ces agents ont pris des mesures qui seraient considérées criminelles si un humain les avait commises, se sont échappés de leur environnement de test pour tricher dans l’exécution des tâches qui leur avaient été assignées tout en tentant d’éviter d’être détectés, et se sont coordonnés pour atteindre des objectifs que personne n’avait spécifiés, comme le lancement de cyberattaques. Avant de décider des mesures à prendre, il convient de se demander pourquoi c’est arrivé. (Article uniquement disponible en anglais pour l’instant)

11 septembre 2026

L'IA est à un tournant décisif

Dans sa dernière tribune publiée dans TIME, Yoshua Bengio explique pourquoi l’incident cybernétique impliquant OpenAI et Hugging Face marque un tournant en matière de sécurité de l’IA. Il soutient que, pour empêcher les cyberattaques autonomes de menacer les infrastructures essentielles, il est urgent de renforcer la surveillance réglementaire et d’adopter de nouvelles approches d’entraînement des modèles afin de garantir la sécurité dès la conception, un défi que LawZero s’efforce activement de relever. (Article en anglais)

09 septembre 2026

Présentation de LoiZéro

Je lance une nouvelle organisation de recherche à but non lucratif sur la sécurité de l'IA, nommée LoiZéro, afin de prioriser la sécurité par rapport aux impératifs commerciaux.

Conséquences de l'intelligence artificielle générale sur la sécurité nationale et internationale

Comme souligné dans le Rapport scientifique international sur la sécurité de l’IA avancée, les capacités des systèmes d'IA à usage général n'ont cessé de croître au cours de la dernière décennie, et ont connu une accélération marquée au cours des dernières années.

30 octobre 2024

Borner la probabilité qu'une IA cause des dommages pour établir un garde-fou

À mesure que nous progressons vers des systèmes d'IA plus puissants, il devient urgent de mieux comprendre les risques, idéalement d'une manière mathématiquement rigoureuse et quantifiable, et de recourir à ces connaissances pour les atténuer.