Blogue

Présentation de LoiZéro

Je lance une nouvelle organisation de recherche à but non lucratif sur la sécurité de l'IA, nommée LoiZéro, afin de prioriser la sécurité par rapport aux impératifs commerciaux.

Conséquences de l'intelligence artificielle générale sur la sécurité nationale et internationale

Comme souligné dans le Rapport scientifique international sur la sécurité de l’IA avancée, les capacités des systèmes d'IA à usage général n'ont cessé de croître au cours de la dernière décennie, et ont connu une accélération marquée au cours des dernières années.

30 octobre 2024

Borner la probabilité qu'une IA cause des dommages pour établir un garde-fou

À mesure que nous progressons vers des systèmes d'IA plus puissants, il devient urgent de mieux comprendre les risques, idéalement d'une manière mathématiquement rigoureuse et quantifiable, et de recourir à ces connaissances pour les atténuer.

Vers des IA comme chercheurs prudents avec des bornes de sécurité convergentes

Que faut-il absolument éviter avec l'arrivée d'une IA superintelligente? Entre autres, des prédictions erronées exprimées avec assurance quant aux conséquences négatives que certaines actions pourraient entraîner.

27 février 2024

Dimensions personnelles et psychologiques des chercheurs en IA face aux risques catastrophiques de l'IA

Le 31 mai 2023, une page web de la BBC titrait : «Le 'parrain' de l'IA, Yoshua Bengio, se sent 'perdu' face à l'œuvre de sa vie.» C'est une déclaration que je n'ai jamais faite, ni à la BBC ni à aucun autre média.

Questions fréquentes sur les risques catastrophiques liés à l’IA

J’ai entendu, de différentes personnes, de nombreux arguments concernant les risques catastrophiques liés à l’IA.

26 juillet 2023

Comment des IA nocives pourraient apparaître

La montée de puissants systèmes de dialogue d’IA au cours des derniers mois a déclenché des débats sur les risques de tous genres liés à l’IA, ce qui, espérons-le, entraînera une accélération des cadres de gouvernance et de réglementation.

Des IA comme chercheurs idéalisés: sécuritaires et utiles?

Récemment, nous avons vu éclore de nombreuses discussions sur les risques de l’IA, à court terme avec les méthodes existantes et à plus long terme avec les progrès que nous pouvons anticiper.