ИИ уничтожит мир за 2 дня? Михаил Самин
Description
Сколько человечеству осталось жить перед победой ИИ? Нам всем конец? Правда ли, что на полное уничтожение планеты искусственному интеллекту понадобится всего 40 часов?
Предметно обсуждаем каждый вопрос с экспертом в сфере ИИ Михаилом Саминым. Михаил делал сайты, обходящие блокировки Роскмонадзора, разработал успешное приложение AudD и пожертвовал около 100 000 $ в фонды по безопасности ИИ.
Внутри выпуска — самые свежие прогнозы, аргументы, а также наглядное объяснение всех фактов с помощью графиков и примеров. А в закрепленном комментарии — конкурс, где можно выиграть «Гарри Поттера и Методы Рационального Мышления»!
Coherent Extrapolated Volition: https://arbital.com/p/cev/
Позитивные и негативные прогнозы: https://wiki.aiimpacts.org/lib/exe/fetch.php?media=ai_timelines:predictions_of_human-level_ai_timelines:ai_timeline_surveys:hlmivalue2022final4.png
Подробнее про AI alignment: https://www.lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities
A Mechanistic Interpretability Analysis of Grokking: https://www.lesswrong.com/posts/N6WM6hs7RQMKDhYjB/a-mechanistic-interpretability-analysis-of-grokking
Курс AGI Safety Fundamentals https://www.agisafetyfundamentals.com/ai-alignment-curriculum#:~:text=The%20AGI%20Safety%20Fundamentals%3A%20Alignment,was%20last%20updated%20February%202022
Мой ролик про ИИ: https://youtu.be/8DW3i42irEs
Партия в шахматы с ChatGPT: https://youtu.be/vbwuqFJZl8Y
00:00 — Интро
1:34 — Elevator pitch о вложениях в ИИ
9:30 — Мы не можем заложить цели в ИИ?
20:26 — Почему у ИИ нет целей
22:45 — ИИ сам придумывает себе цели?
29:09 — Прогнозы
34:52 — Аргументы против
43:44 — Основная проблема ИИ
54:30 — Как заниматься ИИ в РФ
Мой телеграм-канал: https://t.me/mustreads
Поддержать проект: https://boosty.to/mustreader
По всем вопросам: mazdrid@gmail.com
#искусственныйинтеллект #нейросети #юдковскиий