Je lance une nouvelle organisation à but non lucratif dédiée à la mise en œuvre de l’IA-chercheur, une IA non-agentique et digne de confiance, conçue pour être sûre par construction, et pouvant servir de fondation à une IA sûre, en commençant par fournir des prédictions honnêtes du tort qu’une action d’un agent IA (une autre IA) pourrait causer. J’en ai parlé à un niveau général dans ma conférence TED et un article récent du magazine TIME, j’ai donné de nombreuses conférences, notamment celle-ci à l’Institut Simons, et j’ai rédigé avec mes collègues une sorte de livre blanc à ce sujet.
Je suis à la recherche de chercheuses et chercheurs, scientifiques et ingénieurs, qui souhaiteraient se joindre à moi dans cette quête. Merci de m’écrire si vous êtes intéressé·e et motivé·e par les risques existentiels liés à l’IA.
Notez que je ne prends pas de nouveaux étudiants, afin de réduire la taille de mon groupe (qui est très grand) et de me consacrer pleinement à ce projet.