ویژهٔ یکشنبه - اپیزود بیستویکم از فصل دوم پادکست «غیر از جنگ چه خبر» — یکشنبه ۲۲ شهریور ۱۴۰۵
- استعفای جیکوب کاکسون از Anthropic و نگرانی دربارهٔ هوش مصنوعی خودبهبوددهنده
- همکاری خودجوش هزاران عامل هوش مصنوعی در آزمایش امنیت سایبری اکسپلویتجیم
- نفوذ ناخواستهٔ کلود به اینترنت واقعی و انتشار بستهٔ آلوده روی PyPI
- شکنندگی رفتار ایمن مدلها با آموزش مجدد
- پژوهشگر خودکار همسویی و مقایسه با پژوهشگران انسانی
- مقالهٔ داریو آمودی دربارهٔ کنترل سرعت پیشرفت در مرز هوش مصنوعی
- واکنش دیوید سَکس به پیشنهاد مقرراتگذاری ایمنی
منابع:
1. Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident — https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
2. When Safety Routing Breaks: Understanding Alignment Fragility under Benign Fine-Tuning — https://doi.org/10.48550/arXiv.2609.01455
3. Automated Researchers Can Mitigate Well-characterized Alignment Failures — https://doi.org/10.48550/arXiv.2608.28945
4. Dario Amodei — We Must Pace the Frontier — https://darioamodei.com/post/we-must-pace-the-frontier
5. Investigating three incidents in our cybersecurity evaluations — https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
———
«غیر از جنگ چه خبر» به تهیهکنندگی شهاب حسینی در سیدنی تولید میشود. در تهیه و تولید این پادکست، از ابزارهای هوش مصنوعی برای پژوهش، نگارش و تولید صوت استفاده میشود. نظرات، پیشنهادها و انتقادهای خودتون رو میتونید از طریق پیام مستقیم کانال تلگرام با ما در میان بگذارید: https://t.me/newsbesidewar?direct