ویژهٔ یک‌شنبه - اپیزود بیست‌ویکم از فصل دوم پادکست «غیر از جنگ چه خبر» — یکشنبه ۲۲ شهریور ۱۴۰۵

تکمیل این اپیزود

اگر مهمان یا اسپانسری جا افتاده، از فهرست موجود انتخاب کن یا نام تازه‌ای پیشنهاد بده. پیشنهادها بعد از بررسی مدیر عمومی می‌شوند.

متن منتشرشده توسط پادکستر

توضیحات اپیزود

ویژهٔ یک‌شنبه - اپیزود بیست‌ویکم از فصل دوم پادکست «غیر از جنگ چه خبر» — یکشنبه ۲۲ شهریور ۱۴۰۵ - استعفای جیکوب کاکسون از Anthropic و نگرانی دربارهٔ هوش مصنوعی خودبهبوددهنده - همکاری خودجوش هزاران عامل هوش مصنوعی در آزمایش امنیت سایبری اکسپلویت‌جیم - نفوذ ناخواستهٔ کلود به اینترنت واقعی و انتشار بستهٔ آلوده روی PyPI - شکنندگی رفتار ایمن مدل‌ها با آموزش مجدد - پژوهشگر خودکار همسویی و مقایسه با پژوهشگران انسانی - مقالهٔ داریو آمودی دربارهٔ کنترل سرعت پیشرفت در مرز هوش مصنوعی - واکنش دیوید سَکس به پیشنهاد مقررات‌گذاری ایمنی منابع: 1. Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident — https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ 2. When Safety Routing Breaks: Understanding Alignment Fragility under Benign Fine-Tuning — https://doi.org/10.48550/arXiv.2609.01455 3. Automated Researchers Can Mitigate Well-characterized Alignment Failures — https://doi.org/10.48550/arXiv.2608.28945 4. Dario Amodei — We Must Pace the Frontier — https://darioamodei.com/post/we-must-pace-the-frontier 5. Investigating three incidents in our cybersecurity evaluations — https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals ——— «غیر از جنگ چه خبر» به تهیه‌کنندگی شهاب حسینی در سیدنی تولید می‌شود. در تهیه و تولید این پادکست، از ابزارهای هوش مصنوعی برای پژوهش، نگارش و تولید صوت استفاده می‌شود. نظرات، پیشنهادها و انتقادهای خودتون رو می‌تونید از طریق پیام مستقیم کانال تلگرام با ما در میان بگذارید: https://t.me/newsbesidewar?direct

نظرها