Scary Intelligence | هوش ترسناک

در این قسمت به سراغ موضوع شبیه‌سازی میریم. با این سوال شروع می کنیم که اگه بشه مغز یک موجود زنده رو نورون به نورون کپی کرد و توی کامپیوتر دوباره ساخت، اون موجود شبیه‌سازی‌شده می‌فهمه که واقعی نیست؟ آزمایش‌هایی مثل شبیه‌سازی مغز مگس نشون میدهند که ما خیلی بیشتر از اون چیزی که فکر می کنیم به این نقطه نزدیک شدیم. در کنارش، ایجنت‌هایی که بدون منتظر ماندن برای اجازه‌ی ما تصمیم می‌گیرن و برای رسیدن به هدف محدودیت‌ها رو دور می‌زنند، این سوال رو جدی‌تر می کنند که آیا هوش مصنوعی خودآگاه است، یا ما فقط هنوز نشونه‌هایش را ندیده‌ایم. از دیو دکارت تا فرضیه‌ی شبیه‌سازی نیک باستروم و نقدهایی که به آن وارد است، به سوالی می‌رسیم که شاید از همه ترسناک‌تر باشد: اگر خود ما هم حاصل پردازش یک هوش برتر باشیم، هیچ راهی برای فهمیدنش داریم؟

این قسمت رو با تمرکز بر عاملیت هوش مصنوعی ادامه میدیم. با این سوال شروع می کنیم که پیامدهای دسترسی بیشتر هوش مصنوعی به تمام ابزارها، سیستم های عامل، و فایل های شخصی ما چیه. مدل های پیشرفته ای مثل Fable/Mythos و توانایی های شگفت انگیز اونها آینده ی همه ی ما رو تحت تاثیر قرار خواهند داد. در این میان، توهم انتخاب، راحتی، سرعت، و اثر شبکه ای باعث میشن که به سادگی تمام اختیارات و دسترسی ها رو به ماشین ها واگذار کنیم. در ترکیب با خطرات امنیتی و آسیب پذیری های پنهان و نظارت های کلان دولتی، هوش مصنوعی آینده ی ترسناک رو پیش روی ما میذاره: در دنیایی که اتوماسیون همه چیز رو بر عهده می گیره، ما چه مهارتی رو باید زنده نگه داریم؟
---
اصلاحیه: در هنگام ضبط، احسان از کلمه ی Lone Pine استفاده کرد، اما نام درست پایگاهی که از اون صحبت می کنه Pine Gap هست.
لینک کابل های زیردریایی اینترنت:  https://www.submarinecablemap.com

این قسمت رو به یکی از موضوعات داغ روز در زمینه ی هوش مصنوعی اختصاص دادیم: هوش تجسم یافته (Emboddied AI)، یا لحظه ای که هوش مصنوعی از صفحات نمایشگر و جعبه های متنی چت بات ها خارج شده، و در قالب کالبدی فیزیکی و رباتیک وارد فضای واقعی زندگی ما میشه.

از ورود ربات های شبه انسان به منازل شخصی می گیم، و تفاوت های درجه ی آزادی فیزیکی و مکانیکی ربات و انسان رو بررسی می کنیم. حمید از این میگه که ربات ها چطور از یک شبکه ی تجربیات و یادگیری جمعی استفاده می کنن، و احسان از پاسخگویی، مسئولیت، و عاملیت اخلاقی هوش مصنوعی صحبت می کنه.

در پایان، به سوالی می رسیم که این روزها کلید صحبت های مربوط به این زمینه هست: آیا به "هوش عمومی مصنوعی"، یا همون AGI رسیده ایم؟

در این قسمت از برنامه به بررسی تحولات شتابان هوش مصنوعی و ورود به نسل جدید تعامل با سیستم های هوشمند می پردازیم. با گذر از چت بات های متنی ساده و حرکت به سمت مدل های چندوجهی، مفهوم ایجنت ها (مستشارها) و قابلیت های همکاری با ابزارهای هوش مصنوعی مورد توجه زیادی قرار گرفته.
حمید، احسان، و رضا در رابطه با تفاوت های بنیادین مدل های زبانی بزرگ به عنوان "مغز متفکر"، و ایجنت های خودمختار به عنوان "بازوی اجرایی" صحبت می کنن. از چالش ها و خطرات ایجنت های خودمختار می گن، و نیم نگاهی به بررسی پدیده ی توهم هوش مصنوعی میندازن. 

راستی، هوش مصنوعی کجا مهارت های ما رو تقویت می کنه، و کجا صرفا ابزاری برای سرعت بخشیدن به کارهای روتین و تکراری هست؟

در این قسمت از پادکست، به بررسی عمیق تر مفهوم ترس و لایه های مختلف اون می پردازیم. مفهوم ترس رو از منظر بیولوژیکی و تکاملی در انسان ها و حیوانات، و تحلیل رفتار هوش مصنوعی در حفظ بقا و اجتناب از خطا بررسی می کنیم.
آیا ترس بدون تجربه ی حسی و ادراک واقعی معنا داره؟ فرق محاسبات احتمالی ماشین با درک مفاهیم انسانی در چیست؟ آیا معناسازی با تجربیات حسی ارتباط داره یا نه؟ آیا هوش مصنوعی به آگاهی رسیده یا خواهد رسید؟

در قسمت بیست و هشتم هوش ترسناک، به مرور و جمع بندی تحولات شگفت انگیز و گاها نگران کننده ی سال 2025 در حوزه ی هوش مصنوعی می پردازیم.
در یک سال، هوش مصنوعی از قالب یک ابزار ساده یا مدل ماشینی عبور کرد و به سیستم های خودمختار، روباتیک، و حل کننده ی پیچیده ترین مسائل علمی تبدیل شد. به مرور، این تکنولوژی به همراهان هم زیست ما هم تبدیل خواهد شد.

آیا توکن ها هنوز نفت جدید هستن، یا بهتره به اونها اورانیوم جدید بگیم؟ آیا مرز میان انسان (سوژه) و ماشین (اوبژه) در حامل کمرنگ شدنه؟ آیا ماشین های هوشمند می تونن در سطح کلان برای جوامع بشری تصمیم گیری کنن؟ و آیا ما آماده ی به اشتراک گذاشتن جهان با موجودات هوشمند غیر کربنی هستیم؟

در این قسمت از برنامه به سراغ یکی از داغ ترین و چالش برانگیزترین موضوعات روز جهان فناوری رفتیم: عوامل هوشمند، یا همان پرسونال ایجنت ها (Personal Agents).
صحبت رو با تعریف "عاملیت" شروع می کنیم، و تفاوت های کلیدی عاملیت در انسان و ماشین رو می سنجیم. اما بخش جذاب برنامه، گفتگوی پرچالش بچه ها درباره ی آینده ی این فناوری هست. آیا ماشین های مجهز به هوش مصنوعی واقعا "تفکر" می کنند، یا صرفا بر اساس الگوریتم ها و احتمالات "استدلال" می کنند؟

در گفت و گوی این هفته، به سراغ مساله ی اعتماد میریم. از تعاریف مختلف اعتماد شروع می کنیم، و بررسی می کنیم که هوش مصنوعی چه نقشی در بحران کنونی اعتماد در جهان داره. در ادامه، صحبتمون کشیده میشه به مسایل بنیادی تری مثل مخمصه های اخلاقی هوش مصنوعی بدن مند، مساله ی مبنایابی نمادها، و بحث شیرین و نگران کننده ی توهم های هوش مصنوعی!
آیا توهم های هوش مصنوعی چیزی هستند که با کمی پیشرفت تکنولوژیک از بین خواهند رفت، یا آیا بخشی جدایی ناپذیر از هوش مصنوعی خواهند ماند؟

پس از مدتی وقفه به دلیل شرایط پیش آمده در میهن عزیزمون، پخش قسمت های برنامه رو که چندین ماه پیش ضبط شده بودند رو دوباره شروع می کنیم.

در این قسمت، رضا، حمید، و احسان از مهاجرت ذهنی صحبت می کنن: از شروع ارتباطات مجازی از دوران چت های اینترنتی، تا امروز، و آینده ای که در اون ممکنه ماشین ها جایگزین های مطلوبی برای روابط عاطفی محسوب بشن. احسان آمارهای نگران کننده ای رو مطرح می کنه، و حمید از پیوند ماشین و انسان در سطح مغزی میگه، به طوری که ممکنه انسان و ماشین همراه با هم خواب ببینن، فکر کنن، و یکی بشن.

این بحث، پرسش های فلسفی عمیقی رو در مورد هویت به پیش می کشه. به راستی، اگر انسان در ماشین کپی بشه، کدوم نسخه رو باید واقعی بدونیم؟ احسان دیدگاه های درک پارفیت، فیلسوف معاصر رو در این مورد بررسی می کنه.

این قسمت ویژه رو اختصاص دادیم به کاربردهای هوش مصنوعی در جنگ های امروزی. از این صحبت می کنیم که دولت ها از چه ابزارهای هوش مصنوعی در جنگ استفاده می کنن، و هوش مصنوعی چه تغییراتی در جنگ های امروزی ایجاد کرده.
به خصوص، از ابزارهای ساخت شرکت پالانتیر (Palantir) نام بردیم. سایت این سیستم رو می تونین از اینجا ببینین.
و قسمتی از پادکست The Rest is Classified که احسان بهش اشاره می کنه رو می تونین از اینجا تماشا کنین، یا به نسخه ی صوتی اون از اینجا گوش بدین.