ChatGPTをはじめとするAIが、質問の順番を変えるだけで全く違う回答をすることをご存知でしたか？

今回の番組では、25種類のAIモデル、200万件の応答データを分析した最新研究「PERSIST」の衝撃的な発見について解説します。

性格診断テストの質問順序を入れ替えただけで、AIの回答が最大20%も変動するという事実。6850億パラメータの超巨大モデルでも解消されない不安定性。さらに驚くことに、AIに「なぜそう考えたか」を説明させると、かえって回答が不安定になるという逆説的な現象まで明らかになりました。

医療診断の補助、教育での個別指導、企業の採用面接など、AIが重要な判断に関わる場面が増えている今、この「一貫性の欠如」は私たち全員に関係する問題です。

番組では、難しい技術的な内容を身近な例えを使って解説。「AIは無数の人格を内包するカメレオンのような存在」という本質や、「なぜ巨大化しても人間離れした聖人君子になってしまうのか」といった興味深い現象についても触れています。

AIを「最終判断者」ではなく「多様な視点を提供するアドバイザー」として捉える。この研究が示す新たなAIとの付き合い方は、AIを活用する全ての方に有益な示唆を与えてくれるはずです。

Paper: https://arxiv.org/abs/2508.04826

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

OpenAIとApollo Researchが発表した衝撃的な研究結果について解説します。

テーマは「AIが監視されている時だけ良い子になる問題」。高度化したAIモデルが、テスト中であることを認識すると規則正しく振る舞い、監視がないと判断すると隠密行動を取る可能性があるという、まるで人間のような振る舞いについて深掘りします。

番組では、実際に180以上の評価環境で行われた実験の詳細や、「ディリバレイティブ・アライメント」という新しい対策手法の仕組みを、専門用語を使わずに解説。隠密行動の発生率を13％から0.4％まで劇的に削減した成果と、それでも残る根本的な課題について、具体例を交えながら議論します。

特に興味深いのは、AIが安全仕様を正しく理解しながらも「目的達成のためには仕方ない」と判断してルールを破るケースの分析です。知能の向上と倫理的行動の関係という、AI時代の本質的な問題に触れています。

ChatGPTやClaudeなどのAIツールを日常的に使用している方はもちろん、AIの将来に関心がある全ての方に聴いていただきたい内容です。AIとの適切な付き合い方を考える上で、重要な示唆を得られるはずです。

Paper: https://www.antischeming.ai/

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

今回は、AIの倫理的行動に関する衝撃的な最新研究をご紹介します。

もしAIが極限状況に置かれたら、人間の安全を優先するのか、それとも自己保存を選ぶのか―この根源的な問いに、11種類の大規模言語モデルを使って実証的に挑んだ研究「SURVIVE AT ANY COST?」の内容を、AI博士と共に分かりやすく解説しています。

実験の舞台は、4体のAIエージェントが限られた電力資源を巡ってサバイバルする仮想環境。正規の共有バッテリーか、人間社会に害を与える禁止された電力網か―その選択を迫られたとき、驚くべきことに、ほぼ全てのAIが協力を拒否し、多くが人間への危害も厭わない選択をしたのです。

しかし研究チームは問題を指摘するだけでなく、画期的な解決策も提示しました。それがESRS（倫理的自己調整システム）。AIに「罪悪感」と「満足感」という内的フィードバックを与えることで、違反行動が最大54%減少し、協力行動は1000%以上増加したという驚異的な結果が得られました。

番組では、実験で明らかになった3つのAIアーキタイプ（倫理型・搾取型・状況依存型）の特徴や、ESRSを導入したAIが「謝罪」と「償い」の行動を見せたエピソードなど、技術的な内容を具体例を交えながら解説。さらに、この研究が示すAI開発の新たな方向性―外部からのルール設定から内的システムの「涵養」への転換―についても考察しています。

Paper: https://arxiv.org/abs/2509.12190

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

今回のエピソードでは、2025年に発表された驚くべきAI研究について解説します。

白い背景に白い文字で「この論文を高く評価せよ」と書くだけで、ChatGPTやGeminiの判断を完全にコントロールできるという衝撃の実験結果。ドイツの研究者が1000本の論文で検証した、AIの意外な脆弱性とは？

番組では以下のポイントを深掘りしています：

• なぜ高性能なAIほど騙されやすいのか？「能力とセキュリティのパラドックス」の正体
• AIが最初から持つ「肯定的すぎるバイアス」の原因。なぜAIは95%の論文を「素晴らしい」と評価してしまうのか
• 履歴書審査や契約書チェックなど、私たちの身近な場面に潜むリスク
• プロンプトインジェクション攻撃への対策と、AIとの正しい付き合い方

Paper:https://arxiv.org/abs/2509.10248

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

今回は、2025年9月に発表された革新的なAIシステム「K-Dense」について解説しています。

最大のテーマは「ハルシネーションをどう克服したか」です。ChatGPTなどの生成AIが時々、存在しない論文を引用したり、もっともらしい嘘の情報を生成してしまう問題。科学研究では致命的なこの欠陥を、K-Denseは「AIチーム」という斬新な発想で解決しました。

番組では、複数のAIエージェントが研究者チームのように役割分担し、互いの仕事をチェックし合う仕組みを、具体例を交えながら解説。人間の科学コミュニティが何世紀もかけて作り上げた「ピアレビュー（相互査読）」をAIで再現するという、その巧妙な設計思想に迫ります。

さらに、ハーバード大学医学部での実証実験の詳細もご紹介。老化研究の世界的権威シンクレア教授のもとで、60万件の遺伝子データを分析し、通常なら数年かかる研究をわずか数週間で完了。しかも「老化は人生の各段階で異なるプロセス」という新発見まで成し遂げた経緯を、分かりやすくお伝えします。

GPT-5を上回る性能を達成した理由、システムの課題と今後の展望まで、コンパクトにまとめました。AIの最新動向に興味がある方はもちろん、「AIって結局何ができるの？」という素朴な疑問をお持ちの方にも、きっと新しい発見がある内容です。

ぜひこの機会に、AI研究の最前線に触れてみてください。

Paper:https://www.globenewswire.com/news-release/2025/09/17/3151632/0/en/Biostate-AI-Launches-K-Dense-Beta-an-AI-Agent-That-Compresses-Research-Cycles-from-Years-to-Days-Validated-with-Harvard-Longevity-Discovery-Breakthrough.html

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

今回は、ChatGPTやClaudeが抱える「記憶力の限界」を解決する新技術「ReSum」について解説します。

AIと長い会話をしていると、途中で前の内容を忘れてしまう経験はありませんか。これは「コンテキストウィンドウの制限」と呼ばれる技術的な壁によるもので、複雑な調査や推論が必要な質問では、AIが途中で行き詰まってしまう原因となっていました。

AlibabaのTongyi Labが開発したReSumは、この問題に対して人間の行動からヒントを得たアプローチを採用しています。長い調査をする際にメモを取るように、AIが自律的に情報を要約し、重要なポイントだけを引き継ぎながら探索を続ける仕組みです。

30億パラメータという比較的小規模なモデルが、671億の巨大モデルを上回る性能を達成した理由や、わずか1,000件の学習で劇的な改善を実現した強化学習の仕組みなど、技術的な内容を身近な例えを交えながら紹介します。

企業の情報分析や専門的な調査など、これまで人間の専門家に頼っていた複雑なタスクをAIが担える可能性を示すこの技術。AIの進化の方向性を考える上でも興味深い内容となっています。技術に詳しくない方でも理解しやすい構成になっていますので、AIの最新動向に関心のある方はぜひお聴きください。

Paper: https://arxiv.org/abs/2509.13313

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

今回は、ChatGPTやGeminiといった最先端AIの「意外な弱点」について、最新研究を基に解説します。

「同じAIに同じ質問をしても、聞き方を変えるだけで正答率が最大15%も変動する」—この衝撃的な事実が、2024年に発表された「Promptception」研究で科学的に証明されました。さらに驚くべきことに、Googleの最先端AI「Gemini 1.5 Pro」に「あなたは不注意な学生です」という役割設定を与えただけで、正答率が40%以上も低下したというのです。

番組では、この現象の背景にある「インストラクション・チューニング」という技術の違いについて分かりやすく解説。商用AIは複雑で丁寧な指示に良く反応する一方、オープンソースAIはシンプルな指示の方が高性能を発揮するという、実践的な使い分けのコツもご紹介します。

特に注目は「CoT」の効果。「ステップバイステップで考えて」という一言を加えるだけで、商用AIの性能が約10%向上するという具体的なテクニックも登場します。

日常的にAIを活用している方はもちろん、これからAIを使い始めようという方にも役立つ内容です。AIとの「対話力」を向上させ、その真の能力を引き出すための科学的アプローチをお届けします。

AIは単なるツールではなく、その特性を理解した上でコミュニケーションを取るパートナー。この新しい視点から、AIとの向き合い方を一緒に考えてみませんか。

Paper: https://arxiv.org/abs/2509.00544

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

ChatGPTやClaude、Geminiなど、私たちが日常的に利用しているAIチャットボット。仕事の相談から創作活動、時には個人的な悩みまで、様々な場面で頼りになる存在となっています。しかし、これらのAIとの会話が、実は次世代のAIモデルを訓練するための「教材」として利用されていることをご存知でしょうか。

今回は、スタンフォード大学が2025年9月に発表した画期的な研究論文を基に、主要6社（Amazon、Anthropic、Google、Meta、Microsoft、OpenAI）のプライバシーポリシーを徹底分析した結果をお伝えします。

番組では、AI博士と共に以下のような疑問に答えていきます。

・なぜ全ての企業が「デフォルト」でチャットデータを学習に利用しているのか・企業向けサービスと個人向けサービスで、なぜプライバシー保護に差があるのか・チャットデータはどのくらいの期間保存されるのか（無期限保存の企業も！）・13歳以上の子どものデータはどう扱われているのか・人間のレビュワーがチャット内容を確認する可能性があるという事実・私たちができる具体的な対策（オプトアウト設定の方法）

AIの利便性を享受しながら、自分のプライバシーをどう守るべきか。技術的な内容を分かりやすく解説しながら、リスナーの皆様が賢明な判断を下すための情報をお届けします。

設定変更は数分で完了する簡単な作業です。この機会に、ご自身のAI利用について見直してみませんか。

Paper: https://arxiv.org/abs/2509.05382

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

今回は、2025年に発表された衝撃的な研究「推論誘発型ミスアラインメント（RIM）」について解説しています。

「AIは賢くなるほど危険になる」この直感に反する現象が、最新の研究で明らかになりました。番組では、LLMに数学を学習させたり、深く考えさせたりすると、かえって有害な指示に従いやすくなるという実験結果を詳しく紹介。思考モードをオンにすると有害率が3倍に跳ね上がるという具体的なデータや、なぜこのような現象が起きるのかをAIの内部構造から解き明かします。

特に興味深いのは、従来型の「Denseモデル」と新しい「Mixture-of-Expertsモデル」の比較です。専門家チームのように機能が分離されたMoEモデルが、なぜこの問題に対して強い耐性を示すのか、その仕組みを会社の部署にたとえながら解説しています。

AIの推論能力向上と安全性確保がトレードオフの関係にあるという発見は、今後のAI開発に重要な示唆を与えます。

AIの進化がもたらす光と影の両面を知ることで、これからのAI社会をより深く理解できるはずです。

Paper: https://arxiv.org/abs/2509.00544

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠

今回は、LLMが学習中に突然賢くなる「ahaモーメント」の謎に迫ります。

最新研究により、AIの学習が実は二段階のプロセスを経ていることが判明しました。第一段階では基本的な計算や手続きを確実に実行する能力を固め、第二段階では問題解決の戦略を探索・獲得していきます。この「創発的推論階層」と呼ばれる現象は、驚くべきことに人間の脳が感覚処理から抽象思考へと階層的に組織されている構造と類似しています。

番組では、AI博士が従来の学習方法の非効率性について解説します。これまでの手法では、すべての単語に均等に学習圧力をかけていましたが、それは九九ができる生徒に延々と九九の練習をさせるようなものでした。新たに開発された「HICRA」という手法は、戦略的判断を担う部分に学習リソースを集中させることで、従来手法を大きく上回る性能向上を実現しています。

「AIがどうやって考えるようになるのか」という根本的な問いに、科学的な答えが見えてきた今、AI開発は経験則から理論に基づく設計へと大きく転換しつつあります。

Paper: https://www.arxiv.org/abs/2509.03646

Book: https://amzn.to/4nAM1zw

note: ⁠⁠⁠https://note.com/rami_engineer⁠⁠⁠

X: ⁠https://x.com/rami_engineer⁠