Sommaire :

0:00:00 - Peux-tu te présenter et nous expliquer ce qui t'a amené à t'intéresser à la sécurité de l'IA ?
0:02:56 - Peux-tu nous présenter ton organisation et ses missions principales en matière de gouvernance de l'IA ?
0:07:45 - Peux-tu faire un état des lieux des capacités actuelles des intelligences artificielles ?
0:18:06 - Quelles sont les capacités actuelles des IA qui posent déjà des enjeux concrets en matière de sécurité ?
0:21:49 - Votre organisation a publié un audit de sécurité des laboratoires d'IA, quels sont les meilleurs et les moins bons élèves ?
0:24:24 - Comment la course pour être le premier à développer une AGI influence-t-elle la négligence de la sécurité ?
0:35:10 - Est-il probable que les États-Unis finissent par nationaliser l'industrie de l'IA pour des raisons de sécurité nationale ?
0:36:48 - Quelles sont les estimations actuelles sur l'arrivée d'une IA de niveau général humain (AGI) ?
0:39:38 - Pourquoi vouloir créer des IA générales plutôt que des IA spécialisées surpuissantes pour résoudre des problèmes spécifiques (médecine, énergie) ?
0:40:42 - Comment expliques-tu le concept de risque existentiel à des personnes qui ne sont pas familières avec le sujet ?
0:49:14 - Pourquoi développons-nous des intelligences plus fortes que nous, alors que nous savons que cela comporte des risques ?
0:52:21 - Même si les IA deviennent très puissantes, le passage du 'software' au 'hardware' ne va-t-il pas ralentir leur impact sur le monde réel ?
0:58:56 - Quel sera l'impact sur les emplois et la société si l'IA automatise la plupart des tâches humaines ?
1:02:22 - Y a-t-il un risque que tout se passe bien jusqu'à ce que tout se passe mal, avec des IA qui cacheraient leurs véritables intentions ?
1:04:30 - Comment expliques-tu le désaccord profond entre experts, certains alertant sur les risques existentiels et d'autres les rejetant complètement ?
1:10:55 - Où en sont les tentatives de régulation, notamment avec l'AI Act européen, et est-ce suffisant ?
1:15:26 - Pourrait-on réguler la chaîne d'approvisionnement, par exemple en traquant les puces les plus puissantes ?
1:19:13 - Est-ce qu'il faudra attendre un accident ou une catastrophe majeure pour que des régulations sérieuses soient mises en place ?
1:23:05 - Les 'agents IA' autonomes ne pourraient-ils pas causer un accident en se répliquant de manière incontrôlée, comme un virus informatique ?
1:26:36 - Que penses-tu du rapport prospectif 'AI 2027' et de son scénario d'accélération exponentielle ?
1:31:44 - Comment des expériences récentes prouvent-elles que les IA peuvent déjà feindre l'alignement pour ne pas être modifiées ?
1:45:41 - Y a-t-il un risque que nous créions des consciences artificielles capables de souffrir et de les enfermer dans des "enfers numériques" ?
-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com
➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Site de Safer AI :
https://www.safer-ai.org/
➡ Classement des labo d'IA en matière de sécurité :
https://ratings.safer-ai.org/
➡ Site d'Henry Papadatos :
https://henrypapadatos.com/
➡ Scenario AI 2027 :
https://ai-2027.com/


Dans cet épisode de la Prospective, nous accueillons Henry Papadatos, expert en gestion des risques de l’IA et Directeur Général de SaferAI.

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/course-a-lia-course-vers-precipice-henry-papadatos-saferai-risque-extinction/