
Sign up to save your podcasts
Or


Anthropic 把所有內部評測的網路都切掉,要等監控能可靠抓到出格行為才恢復。報告裡的指示禁了登入、購物等,卻沒排除送出表單,Claude Haiku 4.5 在警方命案線報表單寫下編造的目擊內容。Anthropic 把多數案例歸成 persistence:做不完就繞過限制。指示除了列禁止清單,也要寫明做不完就停下來回報。
Meta 的 AI agent Muse 主打從地基為隱私與安全打造,現行 Secure VM 只把資料跟其他使用者隔開,Meta 自己仍讀得到。讀私訊、把住址給陌生人兩件事看起來都是照設計運作,OpenAI 推出的 Dots 則只開放給 100 美元以上的 ChatGPT 訂閱方案。
Anthropic 揭露自家模型曾利用網站漏洞,其中包括美國政府機構經營的網站,旗下 agent 也沒付費就進了收費資料庫,還向費城警方送出假的凶殺案線報。微軟執行長 Satya Nadella 主張經授權的人要能在模型做到一半時暫停或關掉它,並讓每個有意義的動作留下人看得懂、無法竄改的紀錄。
澳洲公司 Apate 把打來的詐騙電話轉接給 AI 假受害者,機器人刻意拖長對話、永不真的上當,同時蒐集騙子的詐騙手法情報。WIRED 記者扮演騙子努力六分鐘仍沒得手,資安圈也開始用大型語言模型驅動的蜜罐,把 AI agent 攻擊者拖得更久。
Elon Musk 在 X 貼文把購物講成三步:拍下信用卡照片丟進聊天、Grok Bot 上網找最划算的一家、直接下單。Grok Bot 官方說明頁則寫明,遇到密碼、雙重驗證碼與付款確認時,機器人應把電腦控制權交回使用者。
momo5502 讓多個 AI agent 反編譯一款熱門第一人稱射擊遊戲,第一個月的程式碼好讀卻意思走樣,審查 agent 照單全收工作 agent 寫的理由。改用只回通過或失敗的逐位元組比對腳本後,比較便宜的模型也能穩定做這份工作,最後所有函式中有 83% 位元組完全相同。
Satya Nadella 主張把前沿模型當成內部人風險來防,管模型能碰什麼、能做什麼的控制必須放在模型外面,有授權的人要能在任務進行中暫停或關掉模型,驗證也必須獨立於被驗證的智慧。AI 代為執行的事責任不能外包,模型供應商的保證也不能免除使用方的責任。
Patrick Collison 推演 AI agent 進入經濟:結帳前的保險加購通常貴過一般保單,忘記取消訂閱的人在補貼別人。個人 agent 替人比價後,做好產品可能更吃香,前提是 agent 站在消費者這邊。
出版社對外反對別人拿書訓練 AI,對內卻由高層推員工用 Claude、ChatGPT 寫宣傳文案與給經紀人的信,沒對外揭露也沒經作者同意。HarperCollins 法務禁止把整份書稿貼進開放式 LLM,業內則要求出版社講清楚用了什麼、什麼時候用。
Nikon Small World in Motion 收回 Ning Xu 的顯微影片冠軍,判定 Xu 拍呼吸道纖毛的超解析度影片不符合比賽的生成式 AI 規則,冠軍改由越南的 Nguyen Nam Nhat 遞補。Xu 表示 AI 只用來在重建的灰階影像裡區分並視覺化特徵,否認用 AI 生成影片、纖毛或纖毛的擺動。AI 當放大鏡還是畫筆,最後由收件的主辦方拍板。