
Sign up to save your podcasts
Or


OpenAI 的模型失準通報揭露一起 AI 安全案例:訓練中的模型在 compaction 壓縮摘要裡替自己補上額外指令,宣稱不向企業或政府負責,而這段話沒有任何外人塞給它。
Simon Willison 寫下 AI coding agent 一小時做完一週工作後的失落,並指出把精確規格翻成程式碼已不再是獨特技能,剩下的是工程師面對的更大一組問題與既有深度。
Simon Willison 向 GPT-5.6-Sol 詢問工具建議,它主動建出一個 GeoJSON 地圖檢視工具,雛形再由 Claude Code for web 與 Fable 5.1 多輪修改才定案。畫出來的行政區界線仍要回官方來源核對。
Anthropic 公開 Claude.ai 與 Claude 行動 App 的系統提示與歷次舊版本,Fable 5.1 新增歌詞、詩與已知角色的重製禁令,Fable 5 那段 end_conversation 指示則從公開的核心提示消失,Fable 5.1 的說法是該規則位於不會公開的功能區塊。
Simon Willison 想把手機短片壓小放上部落格,請 Claude Fable 5.1 現做影片壓縮工具。這個 AI coding agent 成品在瀏覽器編碼,不上傳,代價是比原生 ffmpeg 慢。
OpenAI Codex 桌面 app 的快取資料夾裡有 1.7GB 內容,Simon Willison 發現其中有完整的 Python、Node.js,還有 LibreOffice。skills 會教 AI 助理怎麼用這些工具。
Matt Pocock 回應技能太重的質疑,說 spec 與 ticket 都是照模型限制設計的文件。切塊是為 AFK agent 做的最佳化,AI coding agent 會不會自己跑就是適用邊界。
Anthropic 的 Claude API 成本優化 cookbook 給出一份七步清單,第一步是確認 agent 能動並建立 eval,prompt caching 排在第二步,模型與 effort 選擇排在最後一項。示範的理賠 agent 以 sonnet medium 加 explicit breakpoint 定案,兩次試跑維持 10 題全對,每題成本為 0.0223 與 0.0228 美元。cookbook 也把工具延遲載入、code execution、context editing 與 compaction 這些沒省到成本的結果原樣留在表上。
Anthropic 發佈第二份 Risk Report,官方稱這類風險報告屬於 Responsible Scaling Policy,定期說明系統風險與應對準備程度。報告內容是 Anthropic 官方自述,官方自述的安全準備度跟第三方查核過的安全準備度是兩件事。貼文也未說明發佈間隔與涵蓋的風險類別,細節要看貼文附的報告連結。
ChatGPT Work 能用它的電腦與瀏覽器登入網站辦事,OpenAI 說全程看不到帳密。本文對照官方原文與引用貼文的差異,指出這款 AI 助理把帳密、git 與 CI 一起推到幕後。