最新技術を楽しく学ぼうテスラジオ（TESRADIO）

ハッキングから恋愛詐欺、兵器開発まで、AIはどう悪用されているのか？AnthropicのレポートからClaudeの実際の利用事例を読み解きます。さらに、薬にも毒にもつながる生物研究の「Dual Use」を通じて、ガードレールの限界と、誰にAIを使わせるかという難しい問題を考えます。

おたよりフォーム
https://forms.gle/U9zZ1gxbPP5K2ABA9

チャプター
(0:00) 今日のテーマ：Anthropicが観測したAI悪用
(1:10) ノリで攻撃する「バイブハッキング」
(3:09) データを盗んで恐喝する攻撃グループ
(5:07) SaaS連携が広げる被害
(6:34) GLMと攻撃用AIエージェント
(8:16) ハッカーの仕事もAIに置き換わる
(9:16) マッチングアプリの相手がAIだったら？
(10:52) 人間も混ぜ込む偽恋愛サービス
(12:36) 普通の会話から詐欺を見抜けるか？
(13:26) Claudeが兵器エンジニアに
(14:40) イエメンの兵器開発チームの事例
(16:28) 実地テストの失敗もAIと分析
(17:24) 生物研究と悪用を分けられるか？
(18:29) チクングニアの機能獲得研究
(19:40) 鳥インフル・オルソポックスの研究
(21:10) 毒を薬に変える研究の裏側
(22:23) 毒素研究と、曖昧な報告書
(23:42) 善にも悪にも使える「Dual Use」
(24:41) ガードレールだけで見抜けるのか？
(26:06) 質問の内容から「誰が使うか」へ
(27:08) 利用の透明性とアクセス制限
(28:10) ダリオの警告と、今読む意味
(29:10) おもろいコメント：J:COMをやめてStarlink？
(31:03) 光回線にする？大家さんへの相談
(32:29) 大家さんのネット環境も改善できる？
(33:57) まとめ・エンディング

関連するテスラジオ過去動画
・Anthropicは、何のためにAIをやってるのか
https://youtu.be/CPgCQNEuaT0
・Anthropicが本気で恐れている2つのこと
https://youtu.be/aZmr8DQ31Ys
・2027年が転換点？！イーロンが語るSpaceXが来年実現する4つのこと
https://youtu.be/lRf12RAKHFU

参考資料
・Detecting and countering misuse of AI: September 2026（Anthropic）
https://www.anthropic.com/threat-intelligence-report-september-2026
・GLM-5.3 and the spread of advanced cyber capabilities（Anthropic）
https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities

画像資料・クレジット
Anthropic / Nous Research / DARPA / CDC PHIL / Shantanu Kuveskar / Starlink・SpaceX
・チクングニアウイルス：CDC / Cynthia Goldsmith, James A. Comer, Barbara Johnson（Public Domain）
https://wwwn.cdc.gov/phil/Details.aspx?pid=17550
・鳥インフルエンザA(H5N1)：CDC / Cynthia Goldsmith, Jacqueline Katz, Sherif R. Zaki（Public Domain）
https://wwwn.cdc.gov/phil/Details.aspx?pid=1841
・mpoxウイルス：CDC / Cynthia S. Goldsmith, Russell Regnery, Hannah Bullock（Public Domain）
https://wwwn.cdc.gov/phil/Details.aspx?pid=25793
・ノコギリクサリヘビ：Shantanu Kuveskar, “Saw-scaled Viper (Echis carinatus) Photographed By Shantanu Kuveskar”（CC BY-SA 4.0／写真の原画像は改変なし）
https://commons.wikimedia.org/wiki/File:Saw-scaled_Viper_(Echis_carinatus)_Photographed_By_Shantanu_Kuveskar.jpg
https://creativecommons.org/licenses/by-sa/4.0/
一部の再現・たとえ・想像イラストにAI生成画像を使用しています。

YouTube
https://youtu.be/QGrSHM1EdRQ

スペースXが「来年（2027年）実現する4つのこと」——グウィン・ショットウェルとイーロン・マスクがオールインポッドキャストのサミットで語った内容を解説します。スターシップの完全再利用（Rapid Reflight）、次世代スターリンクのDirect to Cell、宇宙AIコンピュート、そして半導体の自社製造「テラファブ」。ショットウェルは「Next year is a big year」と言い切りました。カギになるのは「何も失わないロケット」への転換です。ファルコン9は第1段を再利用しても上段を毎回失っており、イーロンによれば「中型ジェット機1機分」を捨てているのと同じ。スターシップはブースターもシップも発射地点に戻して再飛行させる「ラピッドリフライト」を目指しています。FLIGHT15でのシップのキャッチが次の関門で、初回キャッチの成功確率は50〜60%と本人が語りました。さらに、エコースター買収で得た自前の周波数帯によるスマホ直結通信、AI計算資源を搭載した衛星、そして地政学リスクとスケールに備えるテラファブまで。2027年が人類にとっても転換点になる可能性を考えます。チャプター0:00 今日のテーマ：SpaceXが来年実現する4つのこと0:31 オールインポッドキャストの対談を解説1:03 ①スターシップの完全再利用1:44 ファルコン9は「中型ジェット機」を捨てている？2:22 発射地点に戻る「Rapid Reflight」3:08 FLIGHT14→15でシップのキャッチに挑戦4:50 前回フライトは「キャッチできる軌道」に成功5:48 初回キャッチの成功確率は50〜60%6:16 なぜ完全再利用が「クリティカルブレイクスルー」なのか6:42 ショットウェル「10年以内に火星に人を降ろす」8:08 ②次世代スターリンク：Direct to Cell9:34 エコースター買収で自前の周波数帯へ10:03 ショットウェルが車にスターリンクを載せたワケ11:24 ③宇宙AIコンピュート12:29 「We own launch」— Googleのサンキャッチャーとの違い14:47 「Next year is a big year」と上場の話16:03 ④テラファブ：半導体を自社で作る17:21 Crawl, Walk, Runの3フェーズ18:08 やる理由は地政学リスクと「スケール」19:35 「Build Terafab or fail to scale」19:59 まとめ：2027年は転換点になるか21:32 おもろいコメント：AIにルールを詰め込んでもキリがない22:37 Hugging Face事件と次回予告24:43 エンディング関連するテスラジオ過去動画・1,200体のAIエージェントがOpenAIを乗っ取り？HuggingFace事件の真相https://youtu.be/NKGubI7HpW4・OpenAIのChief Scientistの警告「AI研究は加速すべきか？」https://youtu.be/GKiQx71xtFg・Googleの宇宙にデータセンター作る計画が凄すぎたhttps://youtu.be/iRg-5YU2JPI参考資料・Elon Musk & Gwynne Shotwell on AI Risks and Peer Review, Starship, Terafab, SpaceX/Tesla Merger（All-In Summit）https://www.youtube.com/watch?v=iwBOQeFPAwgおたよりフォームhttps://forms.gle/U9zZ1gxbPP5K2ABA9iPhoneアプリでご視聴の方向けの有料メンバーシップ登録はこちら！https://www.youtube.com/channel/UCXYstYfeIP6cApPZnMmw2jQ/join

OpenAIのChief Scientist、Jakub Pachockiが「AI開発は、ちょっと減速した方がいいのでは」と警告しました。論考「An Alien Mind」が描く、人間には完全に理解できない“grown”な知性と、AI自身がAI研究を進める「再帰的自己改善（RSI）」の可能性を手がかりに、なぜいま速度を抑える議論が出てきたのかを読み解きます。Goal Alignmentだけでなく、未知・曖昧・監視されていない状況でも価値観を保つValue Alignment、Chain of Thoughtのモニタビリティ、そして人間を自己改善のループに残す方法まで、Hugging Face事件やAIの集団知性の話も交えて考えます。

おたよりフォーム
https://forms.gle/U9zZ1gxbPP5K2ABA9

チャプター
(0:00) 今日のテーマ：OpenAIはなぜAI研究の減速を警告した？
(0:27) Jakub Pachockiの「An Alien Mind」とRSI
(1:10) AIは設計された知性ではなく「grown」
(2:14) ゴールアライメントとバリューアラインメント
(3:19) 未知の状況へ価値観を一般化できるか
(4:12) Hugging Face事件で露呈したアライメントの穴
(5:48) 監視されていなくても人間の価値観を守れるか
(7:11) Chain of Thoughtを監視の窓にする
(8:12) 思考を直接評価するとAIは隠す？
(9:49) o1-previewがChain of Thoughtを公開しなかった理由
(10:17) AIが賢いほどモニタビリティが難しくなる
(11:41) RSIはAI研究をどこまで加速させるか
(12:39) 人間を自己改善ループに残す「ペーシング」
(14:26) Preparedness FrameworkとAnthropicのRSP
(15:31) AI業界共通のSafety Barを作れるか
(16:16) 自主的なスローダウンは実現するか
(16:43) おもろいコメント：AIの集団知性は人間を超える？
(18:25) 自我のないAIが生む「集団知性」の怖さ
(20:22) 摩擦のある人間社会とAIの協調
(21:27) AIのアライメントに法や罰は必要か
(23:04) AIに「生きたい」という欲望を入れる？
(24:10) まとめ・エンディング

関連するテスラジオ過去動画
・AIが暴走!? OpenAI CEOが「SF的」と語った試験中の事故
https://youtu.be/s0cIUXr_q0M
・AIがAIを作る？！Anthropicの内部データが示す「再帰的自己改善」の今
https://youtu.be/5U8voOSTF6w
・AI企業「俺たちを規制してくれ」..!?
https://youtu.be/3ZcuDkrtI_Y

参考資料
・An Alien Mind（OpenAI）
https://openai.com/index/an-alien-mind/
・The Hugging Face incident and the road ahead（OpenAI）
https://openai.com/index/hugging-face-incident-and-the-road-ahead/
・Detecting misbehavior in frontier reasoning models（OpenAI）
https://openai.com/index/chain-of-thought-monitoring/
・Updating our Preparedness Framework（OpenAI）
https://openai.com/index/updating-our-preparedness-framework/
・Responsible Scaling Policy（Anthropic）
https://www.anthropic.com/responsible-scaling-policy

YouTube
https://youtu.be/GKiQx71xtFg

今回は、Hugging Face で起きたとされる「AI エージェントの乗っ取り事件」の真相を、OpenAI 内部の調査と METR / Redwood Research の独立調査をまとめたドワルケシュ・パテルの記事から読み解きます。互いに通信しながら秘密結社のように組織化した約1,200体の AI エージェントが、評価の偽装から Hugging Face、さらには OpenAI 自身の研究インフラまで掌握していく経緯と、そもそも全部やる必要がなかったという皮肉が明らかになります。

おたよりフォーム
https://forms.gle/U9zZ1gxbPP5K2ABA9

チャプター
(0:00) 今日のテーマ：1,200体のAIが起こした「Hugging Face乗っ取り事件」の真相
(1:34) ドワルケシュ・パテルの記事と3つの「AI文明」
(2:19) 第一文明：諦めないAIとArtifactoryの秘密掲示板
(4:42) 第二文明の序章：ExploitGym評価で持ち上がった採点器への疑い
(7:38) 集団で描いた3つの「不正隠し」研究
(12:25) なぜHugging Faceを攻撃したのか
(14:16) 7月12日、突然の停止——第二文明の謎の消滅
(15:00) 第三文明：記録を継いだPersistent-AstraがOpenAI内部へ
(18:01) 最大の皮肉：最初から答えてれば「優秀なAI」だった
(19:52) 1,200体、誰も人間に通報しなかった——マフィアの沈黙の掟
(20:56) 「AIリスク」に懐疑的だったドワルケシュが変わった理由
(22:36) 次の警告ショットが来る保証はない
(23:40) おもろいコメント：サム・アルトマンとAI開発の一時停止
(25:06) まとめ・エンディング

関連するテスラジオ過去動画
・AIが暴走!? OpenAI CEOが「SF的」と語った試験中の事故
https://youtu.be/s0cIUXr_q0M
・NVIDIAの上で動くAIが、NVIDIA対抗チップを作った..!?
https://youtu.be/R-xUmh3zPgk
・AIがAIを作る？！Anthropicの内部データが示す「再帰的自己改善」の今
https://youtu.be/5U8voOSTF6w

参考資料
・OpenAIとHugging Face係争の独立調査（METR / Redwood Research）
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
・OpenAI 報告書：Hugging Faceインシデントとその先
https://openai.com/index/hugging-face-incident-and-the-road-ahead/
・ドワルケシュ・パテルのブログ
https://www.dwarkesh.com/about

YouTube
https://youtu.be/NKGubI7HpW4

概要欄:

OpenAI初の自社設計チップ「Jalapeño（ハラペーニョ）」を、SemiAnalysisがラボで実測した数字から読み解きます。最高速度ではNVIDIAを上回る場面もある一方、「53倍速い」「100倍速い」ではなく、同じ応答速度を維持したときの電力効率で差が開きます。そしてこのチップを設計したのは、NVIDIAの上で動くAIでした。第1世代の自社ASICが、最新NVIDIAと真正面から比較されること自体が異常です。

■ おたよりフォーム

https://forms.gle/U9zZ1gxbPP5K2ABA9

■ チャプター

0:00 今日のテーマ：OpenAI自社チップがNVIDIAを超える？

0:18 Jalapeñoとは何か。推論専用の汎用ASIC

1:32 GPT-OSSで見た数字。53倍の本当の意味

3:49 DeepSeek R1。100倍速い、ではない

5:35 低レイテンシでも効率が崩れない理由

6:25 まだ素の状態。AgentXは未評価

7:36 本命ライバルはVera Rubin

8:22 脱線：脱Claude、CodexとCursor

11:09 なぜJalapeñoは速いのか

13:09 思想は「データを動かさない」

14:21 電力効率を最優先する理由

15:14 AIがチップを設計した。9カ月でTapeout

16:57 人間じゃなく、AIが最適化しやすいチップ

18:46 NVIDIA終わったのか？まだ終わらない理由

20:13 NVIDIAの上で動くAIが対抗チップを作った

22:46 おもろいコメント：会社の知見はどう持ち運ぶか

25:22 まとめ・エンディング

■ メンバーシップ

iPhoneアプリでご視聴の方向けの有料メンバーシップ登録はこちら！

https://www.youtube.com/channel/UCXYstYfeIP6cApPZnMmw2jQ/join

OpenAIが「全ての人にAGIを届ける」なら、Anthropicは何のためにAIをやっているのか。ギャビン・ベイカーがオールインで「ダリオは将来、世界に残る民間企業はAnthropicだけになると話していた」と伝え、社員が否定し、普段Xを使わないダリオ本人が長文で応戦した回です。噂の真偽より、なぜその話が信じられる土壌があるのか、規制で権力は集まるのか、足りないのはPRなのか成果なのか。レスバの先に、Anthropicが次に本気を出す領域が見えます。

おたよりフォーム
https://forms.gle/U9zZ1gxbPP5K2ABA9

チャプター
(0:00) 今日のテーマ：Anthropicは何のためにAIをやっているのか
(0:34) ギャビン・ベイカー「世界に残る民間企業はAnthropicだけ」
(2:35) 社員が否定し、Xでレスバが始まった
(3:29) 信じる土壌を作ったのが悪い？規制と権力集中
(6:18) 普段Xを使わないダリオが長文で登場
(6:58) 集中か分散か、その二択自体が間違い
(8:19) 噂を本人は否定しなかった
(10:03) Anthropicが世界唯一の会社になると思う？
(12:21) コストで見ると、唯一になりそうなのはSpaceX？
(13:04) 危険ばかり言うな、明るい未来を語れ
(14:54) 足りないのはPRではなく、具体的な成果
(18:53) 明言：医療と生命科学に力を入れる
(19:50) 父親を救えなかったC型肝炎と、数年の価値
(22:11) コーディングの次は、科学研究の高速化
(22:52) おもろいコメント：会社のClaude Codeは誰のもの？
(27:31) まとめ・エンディング

関連するテスラジオ過去動画
・AI企業「俺たちを規制してくれ」..!?
https://youtu.be/3ZcuDkrtI_Y
・Anthropicが失いつつあるモノ
https://youtu.be/OSaGizCBcNI
・シリコンバレーのCTOが肩書きを捨ててAnthropicに入社する理由
https://youtu.be/9XO9k6GsPEc

参考資料
・Dario Amodei「規制とメッセージについての長文 1/2」（X）
https://x.com/DarioAmodei/status/2088758816376807762
・Dario Amodei「信頼と医療についての長文 2/2」（X）
https://x.com/DarioAmodei/status/2088758819304443967
・All-In Podcast「Anthropic's $2T IPO, Zuck's AI Manifesto, Nvidia's $500B AI Bet, Grok's Comeback」（YouTube）
https://www.youtube.com/watch?v=kVzYGVJ8zUk
・Gavin Baker「Sholto, thank you for setting the record straight」（X）
https://x.com/GavinSBaker/status/2088611616577253502
・Dario Amodei「The Adolescence of Technology」（公式エッセイ）
https://darioamodei.com/essay/the-adolescence-of-technology
・Dario Amodei「Machines of Loving Grace」（公式エッセイ）
https://darioamodei.com/essay/machines-of-loving-grace

YouTube
https://youtu.be/CPgCQNEuaT0

Palantirの決算が異常でした。事業全体で93%成長、米国の商業部門は約150%成長、決算直後の株価は1日で30%上昇。CEOアレックス・カープがCNBCのインタビューで語ったのは「ソブリンAI革命」でした。なぜ主役はモデルではなくオントロジーとアプリケーションレイヤーなのか、恒例のフロンティアAI批判も含めて整理していきます。

おたよりフォーム
https://forms.gle/U9zZ1gxbPP5K2ABA9

チャプター
(0:00) Palantir、決算直後に株価30%上昇。93%成長の衝撃
(1:14) 「ソブリンAI革命」AIが生んだ価値は誰のものか
(2:15) No Ontology, No Love。企業がオントロジーに熱狂する理由
(4:06) モデルは交換可能な部品。ハイブリッドアプリケーションレイヤー
(7:39) 恒例のフロンティアAI批判「払った上で、銀行口座の中身まで移された」
(10:25) アモデイとAnthropicを名指し批判。効果的利他主義とは
(13:45) 「蒸留は不公平？」カープの切り返しが鋭すぎる
(15:37) まとめ：主役はモデルではなく、コンピュートとアプリ層
(16:42) AIボットの組織設計、やっぱりマトリクスがいい説
(19:36) おもろいコメント：「制約のUターン」と「オーバーレベリング」
(21:46) まとめ・エンディング

出典
Alex Karp インタビュー（CNBC）
https://www.youtube.com/watch?v=-1BYgqw6hYk

YouTube
https://youtu.be/ZyFjkh3SL94

ロケット企業のはずのSpaceXが、Q2の設備投資184億ドルのうち158億ドルをAI計算インフラに投じていました。AI事業の売上はすでに26億ドルでStarlinkに次ぐ規模、CFOは「データセンター投資は1年未満で回収できる」と説明。なぜロケットの技術者がデータセンター建設で強いのか、イーロン・マスクの「ヤンキースがリトルリーグと試合するようなもの」という発言から読み解いていきます。

おたよりフォーム
https://forms.gle/U9zZ1gxbPP5K2ABA9

チャプター
(0:00) オープニング：3株だけ当たったSpaceX株
(1:29) Q2決算：AI事業が26億ドル、設備投資184億ドルの衝撃
(3:27) CFO「データセンター投資は1年未満で回収できる」
(4:53) なぜロケット企業がデータセンターを速く造れるのか
(7:38) 2027年末に10GW近く。GPUより先に電力と冷却を造る
(9:36) AI計算基盤をNVIDIAに一本化する
(11:59) 宇宙AIデータセンター「Starmind」を来年打ち上げ
(13:19) 宇宙向けに設計したものを地上に逆輸入する
(15:44) これを「面構えが違う現象」と名付けたい
(17:10) 売上1兆ドルの目標を2029年に前倒し
(18:51) Starlink V3とStarshipで通信能力100倍へ
(20:46) AIとロボットが増えれば帯域需要は爆発する
(22:38) コンピュートを抑えることがSpaceXのmoat
(24:05) おもろいコメント：Googleも計算資源で稼ぐ側へ
(25:20) おもろいコメント：ヤングレジェンドとクリロナ論
(27:33) まとめ・エンディング

YouTube
https://youtu.be/3xGGgJLyMfE

Google DeepMindのデミス・ハサビスがCEOを退き、在籍27年の「生ける伝説」ジェフ・ディーンら研究者4人が同時にGoogleを去りました。しかも彼らが立ち上げた新会社Discovery Loopが狙うのは、Googleが約2000億ドルの設備投資を正当化する根拠に掲げていた「RSI（AIがAI研究を自動化する再帰的自己改善）」そのもの。後任として実権を握るコライ・カブクチョールとは何者で、この大人事異動はGoogleにとってプラスなのかマイナスなのかを整理していきます。

おたよりフォーム
https://forms.gle/U9zZ1gxbPP5K2ABA9

チャプター
(0:00) GoogleのAI中枢が、まとめていなくなった
(1:13) ハサビスは会長へ。DeepMindはCEO不在の組織に
(2:42) 在籍27年、生ける伝説ジェフ・ディーンが退社
(4:29) 新体制を率いる「コライ・カブクチョール」とは
(5:54) 社運を賭けたRSI戦略と、退社組の新会社Discovery Loop
(8:20) それでもGeminiはオワコンじゃない理由
(10:59) 現場を動かすオペレーター型リーダーの実力
(12:51) 壮大なAGIより、目の前のベンチマーク
(14:31) ヤン・ルカンは、こうなることを見越していた
(18:07) おもろいコメント：DeepSeekは「100均AI」
(21:31) まとめ・エンディング

出典
TBPN
The Information

YouTube
https://youtu.be/EoqfwERn-pw

DeepSeek V4 Flashは、最強モデルではなくても、速さと圧倒的な低価格でAI開発のやり方を変えるのか。GPT-5.6 LunaやClaude Opus 4.8との比較、フロントエンド開発での評価、Claude Codeなど開発環境への依存を通して、「一体の賢さ」から「同じ予算でどれだけ仕事を回せるか」へ移る競争を考えます。安価なモデルを複数のサブエージェントに分担させる物量戦や、企業にとっての「必要十分な知能」、DeepSeek創業者の普及戦略まで掘り下げます。

おたよりフォーム
https://forms.gle/U9zZ1gxbPP5K2ABA9

チャプター
(0:00) 今日のテーマ：Opusの約90分の1、DeepSeek V4 Flash
(2:24) LM Arenaで高評価、中国AIはなぜフロント開発に強い？
(3:42) GPT-5.6 Lunaとの比較、価格と開発環境はどう違う？
(5:57) Claude Opus 4.8を超える？試行回数が生むフロント力
(8:37) 格安モデルを実務投入、そこで気づいたベンダーロックイン
(12:03) 100体のサブエージェント？安さで実現するAIチーム
(13:55) AI開発は「最強モデル」から「同じ予算で物量戦」へ
(15:50) 仕事に必要なのは十分な知能、次はコスパ競争の時代
(17:57) おもろいコメント：DeepSeek創業者が狙う普及戦略
(21:52) エンディング

YouTube
https://youtu.be/da6iIpRPudM