L’AGI Preparedness Institute est un institut indépendant et non partisan basé dans la Genève internationale. Nous sommes actuellement en phase de lancement.
Palais des Nations, Genève internationale — UN Photo / Jean-Marc Ferré
Rapports
Suivez nos derniers travaux.
S’abonner à notre newsletter (en anglais)Nos convictions
La sécurité de l’IAG ne se résume pas à concevoir des modèles d’IA sûrs.
Nombre des effets les plus lourds de conséquences se jouent à l’échelle de la société, là où seuls les gouvernements et les institutions communes peuvent agir. Un passage à l’échelle responsable ne peut être laissé aux seules entreprises : il exige une réponse à plusieurs niveaux, une défense en profondeur, selon le modèle du fromage suisse.
Il faut éviter à la fois la concentration extrême du pouvoir et les usages malveillants catastrophiques.
Même si les progrès de l’IA sont rapides, aucun acteur ne devrait obtenir un avantage stratégique décisif sur tous les autres. L’enjeu est de gérer la diffusion de l’IA avancée entre deux écueils : disperser les capacités suffisamment largement pour empêcher la domination d’un seul acteur, tout en les contenant suffisamment pour se prémunir contre les usages malveillants catastrophiques et la perte de contrôle.
Nos institutions chargées de résoudre les problèmes de coordination ont été conçues pour une autre époque.
Même si nous évitons les risques catastrophiques et l’avènement d’un dictateur mondial de l’IA, de nombreux problèmes de coordination subsisteront. Or le décalage de rythme est bien réel : la technologie évolue désormais plus vite que la gouvernance. Il nous faut des institutions plus adaptatives, capables de percevoir, de décider et de s’ajuster rapidement, y compris en tirant parti de l’IA avancée.
Nos activités
Nous étudions comment les institutions nationales et internationales peuvent s’adapter au développement et à la diffusion de l’IA avancée.
Nous publions et diffusons nos travaux à l’intention du public, des décideurs et de la communauté de la Genève internationale.
Nous concevons et expérimentons de nouveaux dispositifs et mécanismes de gouvernance pour la transition vers l’IA avancée.
Nous accompagnons les démarches de préparation menées par les gouvernements et d’autres institutions publiques.
Nous organisons des événements, des dialogues et des collaborations avec des partenaires du monde académique, des organisations internationales, de la société civile et du secteur privé.
Qui sommes-nous
L’AGI Preparedness Institute a été fondé par des praticiens œuvrant à la croisée de la gouvernance de l’IA et des institutions internationales.
Les profils complets de l’équipe suivront lorsque l’Institut aura dépassé sa phase de fondation.
Nous constituons un vivier de chercheurs en politiques publiques et de professionnels des opérations qui souhaitent contribuer au développement de l’Institut, à titre bénévole ou en vue de futurs postes rémunérés.
