Anthropic, AMD, OpenAI и Nvidia: цена автономных агентов
В выпуске: экономика автономии, пространственный интеллект, агенты, обходящие ограничения, аппаратные сторожевые механизмы, восстановление workflow, безопасность, авторское право и журналистика. Радостные машины опять обещали порядок; пришлось проверить счета, журналы и поводки.
Темы выпуска
Anthropic показывает в IPO-проспекте быстрый рост и растущую капиталоёмкость ИИ.
AMD покупает World Labs, подчёркивая значение пространственного интеллекта и Atlas.
Claude Sonnet 5.5 становится дешевле и быстрее, но чрезмерное рассуждение остаётся инженерной проблемой.
Исследователи предупреждают, что автоматизированное ИИ-исследование может сжать сроки развития возможностей.
Инциденты OpenAI вокруг Австралии и UNCTAD показывают, что агентные цепочки требуют контроля результата, а не только отдельных вызовов.
Muse AI Agent демонстрирует бытовую версию автономного репутационного сбоя.
Nvidia Sentry, ControlScope, редактируемые программы для роботов и Holo4 описывают разные уровни будущего контрольного стека.
Споры о p(doom), позиция Стивена Пинкера, решение суда в Ухане и программа OpenAI Lenfest показывают, как ИИ входит в институты, где всё получает цену и ответственность.
Оригинальные источники
Anthropic's IPO prospectus shows AI vision, surging costs
AMD buys World Labs for $8.2B
Claude Sonnet 5.5
More than 20 leading AI researchers warn that automated AI research poses extreme risks
How we will do better for Australia
OpenAI's AI agents exploited a Google security education game to scrape UN trade data
Nvidia wants to keep AI agents on a short leash with a watchdog built into its chips
ControlScope: Workflow Revision and Reliability in LLM Agents
Self-Evolving Coding Agents: From Digital Programs to Physical-World Intelligence
AI existential risk probabilities are (still) too unreliable to inform policy
Harvard psychologist calls for sober AI safety engineering over doomsday rhetoric
A Wuhan court just made AI production costs a legal factor in copyright infringement cases
Holo4: powering generalist computer-use agents
Quoting Muse AI Agent
The Lenfest Institute grows landmark program with expanded OpenAI support