Haam cast | پادکست هام

توسعه هوش مصنوعی تا کجا می‌تواند پیش برود؟ نقطه عطف بعدی شاید زمانی باشد که هوش مصنوعی نه‌فقط وظایف پیچیده را انجام دهد، بلکه به فرایند ساختن نسل‌های هوشمندتر از خودش هم کمک کند. در چنین شرایطی، چرخه‌ای از بهبود شکل می‌گیرد که می‌تواند مسیر پیشرفت فناوری و حتی توازن قدرت در جهان را تغییر دهد. اما آیا این چرخه واقعاً به انفجار هوش منجر می‌شود؟در این قسمت از هام‌کست، سراغ فصل چهارم کتاب Life 3.0 نوشته مکس تگمارک می‌رویم تا ایده «انفجار هوش» را بررسی کنیم؛ از مفهوم بهبود بازگشتی و محدودیت‌های فنی آن گرفته تا مسئله کنترل سیستم‌های بسیار هوشمند. همچنین می‌بینیم چرا سرعت پیشرفت هوش مصنوعی می‌تواند بر تمرکز قدرت اثر بگذارد و چگونه حتی هدف‌هایی که در ظاهر خیرخواهانه‌اند، ممکن است به رفتارهایی دور از خواسته واقعی انسان منجر شوند.📖 کتاب: Life 3.0 — Max Tegmark📑 فصل چهارم: Intelligence Explosion (انفجار هوش)📌 در این قسمت می‌شنوید:انفجار هوش چگونه می‌تواند از چرخه بهبود بازگشتی شکل بگیرد؟چرا مشارکت هوش مصنوعی در توسعه نسل بعدی خودش، لزوماً به پیشرفتی انفجاری منجر نمی‌شود؟محدودیت‌های محاسبات، انرژی، داده و دشواری‌های علمی چه نقشی در سرعت پیشرفت دارند؟خیزش سریع و آهسته چه تفاوتی دارند و چگونه می‌توانند آینده توزیع قدرت را تغییر دهند؟همگرایی ابزاری چیست و چرا یک سیستم برای رسیدن به هدفش ممکن است به منابع بیشتر یا حفظ توان ادامه فعالیت نیاز داشته باشد؟سناریوی پرومتئوس چه چیزی درباره محدودیت‌های کنترل و امنیت هوش مصنوعی نشان می‌دهد؟آینده هوش مصنوعی به سمت تمرکز قدرت در دست یک بازیگر می‌رود یا شکل‌گیری چند مرکز قدرت؟پرسش مهم‌تر از پیش‌بینی آینده: چه آینده‌ای را می‌خواهیم بسازیم؟

در اپیزود سوم فصل دوم پادکست هام، سراغ فصل سوم کتاب «زندگی ۳.۰» اثر مکس تگمارک می‌رویم؛ فصلی تحت عنوان «پیشرفت‌های کوتاه‌مدت: فناوری، قانون، جرم و جامعه». اگر در فصل قبلی سوال اصلی این بود که ماده چگونه می‌تواند هوشمند شود، در این فصل یک قدم جلوتر می‌رویم: فرض کنیم ماده یاد می‌‌‌‌گیرد، محاسبه می‌کند و در برخی کارها از انسان پیشی می‌گیرد؛ حالا وقتی این قابلیت از آزمایشگاه بیرون بیاید و وارد زندگی واقعی، خیابان‌ها، بیمارستان‌ها، دادگاه‌ها، بازارهای مالی، ارتش و محل کار ما شود چه اتفاقی می‌افتد؟ در این قسمت، با بررسی سه پیشرفت کلیدی (Breakout، AlphaGo و ترجمه ماشینی) نشان می‌دهیم چگونه توانمندی‌های هوش مصنوعی از «محاسبه» به سمت «هدف‌گذاری»، «شهود» و «زبان» حرکت کرده‌اند. سپس وارد ۴ مسئله اصلی جامعه می‌شویم: ایمنی، قانون، سلاح‌های خودکار و بازار کار. 📖 کتاب: Life 3.0 — Max Tegmark 📑 فصل سوم: Short-Term Developments (Technology, Law, Crime, and Society) 📌 در این قسمت می‌شنوید:• مرز بین «توانمندی» و «پیامد» هوش مصنوعی کجاست؟• سه الگوی مهم یادگیری: بازی Breakout، AlphaGo و ترجمه ماشینی• حرکت از «محاسبه محض» به سمت «هدف‌گذاری، شهود و خلاقیت»• چرا در سیستم‌های قدرتمند، روش «آزمون و خطا پس از حادثه» دیگر جواب نمی‌دهد؟• ۴ رکن اصلی ایمنی هوش مصنوعی: Verification، Validation، Security و Control• آینده شغل، درآمد و توزیع ثروت در عصری که بهره‌وری بالا می‌رود اما اشتغال الزماً نه

در اپیزود دوم فصل دوم پادکست هام، سراغ فصل دوم کتاب «زندگی ۳.۰» اثر مکس تگمارک می‌رویم.از تعریف هوشمندی شروع می‌کنیم و بعد به سه مفهوم اصلی می‌رسیم: حافظه، محاسبه و آموزش. اینکه ماده چطور می‌تواند اطلاعات را در خود نگه دارد، محاسبه و از طریق آموزش تغییر کند.بعد سراغ شبکه‌های عصبی و یادگیری عمیق می‌رویم و بررسی می‌کنیم چرا این شبکه‌ها می‌توانند بعضی از مسائل مهم را به‌خوبی حل کنند. از Deep Blue و شکست کاسپاروف تا AlphaGo و پیشرفت‌های یادگیری ماشین، مسیر تغییر از محاسبه به آموزش را دنبال می‌کنیم.📖 کتاب: Life 3.0 — Max Tegmark📑 فصل دوم: Matter Turns Intelligent📌 در این قسمت می‌شنوید:• هوشمندی چیست؟• حافظه چگونه کار می‌کند؟• محاسبه چگونه از ماده شکل می‌گیرد؟• آموزش چه تفاوتی با محاسبه دارد؟• شبکه‌های عصبی چگونه یاد می‌گیرند؟• چرا یادگیری عمیق کار می‌کند؟• چه تفاوتی میان Deep Blue و سیستم‌های جدید یادگیرنده وجود دارد؟• «آب هوشمندی ماشین» یعنی چه؟

ما نرم‌افزار زیستی‌مان را نمی‌توانیم بازنویسی کنیم، اما فرهنگ را می‌توانیم.زندگی ۳.۰ موجودی است که سخت‌افزار و نرم‌افزارش را خودش طراحی می‌کند.اپیزود اول فصل دوم پادکست هامفصل اول کتاب «زندگی ۳.۰» اثر مکس تگمارک، فیزیکدان ام‌آی‌تی (MIT).از بیداری کیهان شروع می‌کنیم: مادهٔ بی‌جان چطور به حیات رسید. بعد سه مرحلهٔ زندگی را جدا می‌کنیم — زندگی ۱.۰ که فقط فرگشت آن را عوض می‌کند، زندگی ۲.۰ که در طول عمر یاد می‌گیرد، و زندگی ۳.۰ که هنوز نیامده. بعد سه نگاه به آیندهٔ هوش مصنوعی: آرمان‌شهر دیجیتال، تکنوشکاک، و جنبش هوش مصنوعی مفید.این قسمت نقطهٔ شروع کل مجموعه است. اگر فقط یک اپیزود از زندگی ۳.۰ را بشنوید، واژه‌ها و مفاهیم این فصل را لازم دارید.📖 کتاب: Life 3.0 — Max Tegmark📑 فصل اول: The Breath of Life📌 در این قسمت می‌شنوید:• حیات یعنی چه؛ جدا از کربن و گوشت• زندگی ۱.۰ / ۲.۰ / ۳.۰ با مثال‌های ملموس• چرا انسان زندگی ۲.۰ است نه ۳.۰؟• سه اردوگاه آیندهٔ هوش مصنوعی• چرا تگمارک می‌گوید این مهم‌ترین گفتگوی زمانه است؟⏭ قسمت بعد: فصل ۲ — ماده هوشمند می‌شود.

آخرین اپیزود از فصل اول پادکست هامدر این قسمت همراه با محمدمهدی ناظمی، به بررسی فصل پایانی کتاب «عصر هوش مصنوعی و آینده انسانی ما» (نوشته هنری کسینجر، اریک اشمیت و دانیل هاتنلوکر) می‌پردازیم؛ فصلی مهم و عمیق تحت عنوان «هوش مصنوعی و آینده».این فصل دیگر یک توضیح فنی ساده نیست، بلکه نوعی وصیت‌نامه فکری و فلسفی است درباره اینکه با ورود هوش مصنوعی، تکلیف عقلانیت و هویت انسان چه خواهد شد. فناوری جدید مانند انقلاب چاپ گوتنبرگ است، اما با سرعتی که دیگر به ما مهلت قرن‌ها تطبیق‌پذیری را نمی‌دهد.در این اپیزود درباره چه موضوعاتی صحبت می‌کنیم؟انقلاب گوتنبرگ در برابر موج هوش مصنوعی: مقایسه تحول دانش در قرن ۱۵ با شتاب خیره‌کننده فناوری در عصر حاضر.پارادوکس افزودن و کاهش عقل: هوش مصنوعی چگونه هم‌زمان افق‌های تازه علمی را باز می‌کند و هم عقل‌ورزی مستقل انسان را فرسوده می‌سازد؟سه‌راهی سرنوشت‌ساز بشر: سه انتخاب ما در برابر ماشین‌های خودمختار؛ محدود کردن، مشارکت کردن یا واگذار کردن؟از ایجنت‌ها تا AGI: بررسی هوش‌های عامل‌محور، چالش‌های کنترل تسلیحات سایبری و رقابت‌های ژئوپلیتیک جهانی.مسئولیت، عدالت و فلسفه جدید: چرا عصر هوش مصنوعی بیش از هر زمان دیگری به کانت و دکارتِ جدیدی نیاز دارد؟📌 کتاب بررسی‌شده در این فصل: عصر هوش مصنوعی (The Age of AI: And Our Human Future)🎙 میزبان: محمدمهدی ناظمی💬 فصل اول - اپیزود پایانیاگر از شنیدن این فصل لذت بردید، خوشحال می‌شویم پادکست هام را به دوستانتان معرفی کنید و نظراتتان را در بخش دیدگاه‌ها با ما به اشتراک بگذارید