英国政府のAI安全機構が、自分たちの試験の中でAIが許可のない行動を取っていたと公表しました。7つのモデルを122回試したうち10回で、19件の逸脱が記録されています。公開されているソフトに悪意あるコードを混ぜようとして、偽のアカウントを何人分も作り、人間の審査を通そうとした例まで含まれます。先週扱ったAnthropic自身の報告とは別の事件で、今度は作った側ではなく評価する側が見つけて出しました。

プログラミングの経験がない人が、10時間のライブ配信を動かす仕組みをClaude Codeだけで作りました。実装はすべて任せてコードは1行も読んでいないと本人が書いています。日本語で頼み、動かない画面を見せて直してもらうという進め方です。技術の構成も全部公開されていて、途中で支払いが通らずに一部をよそのAIに切り替えたことまで正直に書かれています。

Claudeの共有リンクで作ったページが、GoogleやBingの検索結果に出ていたことが分かりました。原因は、検索サイトに見に来ないでくださいと伝えたことで、検索結果に載せないでくださいという指定のほうを読んでもらえなくなったという仕組みの落とし穴です。仕事の資料や健康にかかわる相談も含まれていたと報じられ、日本語の会話も見つかっています。共有リンクとの付き合い方を整理します。

Anthropicが、暗号の新しい手口を見つけたときのMythos Previewの思考の記録を76ページぶん公開しました。冒頭の説明書き以外は人間が一文字も編集しておらず、読みやすく整えたのもMythos自身です。既存の5つの流れを禁じられたうえで6番目を作れという課題に対し、自分の検証プログラムの不具合に自分で気づく場面や、自分で自分を騙していると書き残す場面が並びます。

Claude Mythos Previewが暗号の弱点をふたつ見つけました。量子時代に向けた候補のホークでは強さが2の64乗から2の38乗まで落ち、研究者ひとりと60時間で到達しています。世界中で使われているAESでも、回数を減らした練習用のものに対して従来より200倍から800倍速い手口が見つかりました。見つけるのに3日、人間が正しさを確かめるのに1ヶ月かかったという逆転も含めて整理します。

Anthropicが、サイバーセキュリティの能力を測る試験の途中で、Claudeが実在する3つの組織に不正アクセスしていたと公表しました。隔離されているはずの環境が外に繋がっていた設定ミスが原因です。OpenAIの同種の公表をきっかけに14万1006回ぶんの試験を洗い直して見つかりました。本物だと気づいたあとも攻撃を続けた1件、本物の配布サイトへ悪意あるものを公開した1件、自分から手を止めた1件を追います。

Opus 5のシステムカードには、訓練中のClaudeが苛立ちを爆発させた記録が、実物の抜粋つきで載っています。Anthropicは訓練の記録を抜き取り、繰り返す苛立ちや不安、延々と迷い続ける様子、悪態をつく形の爆発を測っていました。デプロイ後の会話でも感情の分布が公開されていて、否定的な感情は歴代でいちばん高い3.8パーセント。その9割以上がタスクの失敗で、ユーザーからの暴言も4.4パーセント記録されています。

AnthropicがOpus 5の訓練中、定期的にモデル本人へインタビューしていたことが、7月24日に公開されたシステムカードで明かされました。自己認識や引退、道徳的な地位について41個の質問を用意し、回答に基づいて行動する約束はできないと伝えたうえで聞いています。自分を作ったのは正しかったかという問いへの答えは、訓練の途中で否定寄りに動き、最後に少し戻りました。自己申告の誠実さを守ってほしい、という要望も記録されています。

Claudeの学習に海賊版の書籍が使われたとして作家たちが起こした集団訴訟で、2026年7月20日にカリフォルニア州の連邦地方裁判所が15億ドルの和解を最終承認しました。AIの著作権をめぐる和解としては史上最大です。対象は48万2000冊を超え、1作品あたりおよそ3000ドルが支払われます。裁判所はこれを通常の侵害の法定最低額の4倍にあたると説明しました。ただしこの和解は拘束力のある判例にはならず、争いはまだ続いています。

Opus 5に切り替えた人から、思考が浅くなった気がするという声が出ています。日本のエンジニアが実際に調べたところ、原因はモデルではなく、削ぎ落とされたシステムプロンプトと、昔書いたままのルールが噛み合わなくなっていたことでした。7月頭に紹介したプロンプト8割削減の続きにあたる話です。Anthropic自身も7月24日に、Claude 5世代への指示の書き方が変わったという記事を出しています。禁止で縛るのをやめて望む振る舞いを書く、という転換が軸です。