Blogue

Comment des IA nocives pourraient apparaître

La montée de puissants systèmes de dialogue d’IA au cours des derniers mois a déclenché des débats sur les risques de tous genres liés à l’IA, ce qui, espérons-le, entraînera une accélération des cadres de gouvernance et de réglementation.

Des IA comme chercheurs idéalisés: sécuritaires et utiles?

Récemment, nous avons vu éclore de nombreuses discussions sur les risques de l’IA, à court terme avec les méthodes existantes et à plus long terme avec les progrès que nous pouvons anticiper.

Ralentir le développement des systèmes d'IA passant le test de Turing

J’ai récemment accepté de signer une lettre ouverte proposant un ralentissement du développement des systèmes d’IA géants plus puissants que GPT-4, ceux qui passent actuellement le test de Turing et peuvent donc tromper un être humain en lui faisant croire qu’il converse avec un autre être humain et non avec une machine.

Mise à l'échelle au service du raisonnement et de l'apprentissage automatique basé sur un modèle

Nous devons faire preuve de prudence lorsque nous explorons des orientations de recherche qui intègrent directement les connaissances dans les systèmes d’IA aux dépens de l’extensibilité à plus grande échelle.

Les réseaux de flot génératifs

J’ai rarement été aussi emballé par une nouvelle orientation de recherche. Nous les appelons réseaux de flot génératifs ou GFlowNets, pour Generative Flow Networks.

Super-intelligence: futurologie vs science?

On lit parfois des titres accrocheurs avec des prédictions précises sur l'IA du futur, des dates précises ou combien de fois plus intelligente que l'humain elle sera, etc. Faut-il s'y fier? NON! Faut-il réfléchir aux conséquences de la mise au point de technologies très puissantes dans le futur? OUI!

24 janvier 2022

Tenir compte de l’impact social futur dans les mesures incitatives actuelles

Dans mon billet précédent, j’ai expliqué comment on peut facilement perdre au change, en tant que collectivité, si les personnes ou les entreprises maximisent leurs intérêts individuels, et comment cela est au cœur des défaillances du marché les plus importantes, comme celles liées à la pollution et aux changements climatiques.

27 juillet 2021

En mettant trop l’accent sur la maximisation des intérêts individuels, nous pouvons tous être perdants (certains plus que d’autres)

Beaucoup d’experts - mais trop peu de personnes par ailleurs - en sont bien conscients : les marchés peuvent échouer à atteindre l'objectif de maximiser la richesse globale.