arxiv生成AI論文解説 by ずんだもん

LLMは説明に書かない計算をしているのか。見えない推論、適応的な推論予算、医療文書の矛盾検出、教育AI、多言語評価まで、最新10本を数値と限界を含めて解説します。

▼ 今日の論文ラインナップ

・思考の連鎖に現れないLLMの「見えない推論」（arXiv:2607.22925）

・難しい質問だけ深く考えるAutoThinkSQL（arXiv:2607.22622）

・厳格な採点表がLLM査読を悪化させる（arXiv:2607.22553）

・物語を忘れさせても崩壊させないLENS評価（arXiv:2607.22657）

・ベンガル語の複雑な文章題を集めたPatiGonit22K（arXiv:2607.22859）

・電子カルテ3000件から矛盾候補を検出する二段階LLM（arXiv:2607.22954）

・答えを教えず問い返すソクラテス型教育LLM（arXiv:2607.22996）

・翻訳しない多言語推論評価ADAGE（arXiv:2607.23058）

・アテンションで層を選ぶ対照デコーディング（arXiv:2607.23067）

・LoRAと活性化ステアリングで包摂的な文章を作る（arXiv:2607.23083）

▼ 参考論文（arXiv）

https://arxiv.org/abs/2607.22925 — 見えない推論

https://arxiv.org/abs/2607.22622 — AutoThinkSQL

https://arxiv.org/abs/2607.22553 — LLM自動査読

https://arxiv.org/abs/2607.22657 — 物語忘却のLENS評価

https://arxiv.org/abs/2607.22859 — PatiGonit22K

https://arxiv.org/abs/2607.22954 — 電子カルテ矛盾検出

https://arxiv.org/abs/2607.22996 — ソクラテス型教育LLM

https://arxiv.org/abs/2607.23058 — ADAGE

https://arxiv.org/abs/2607.23067 — アテンション誘導型対照デコーディング

https://arxiv.org/abs/2607.23083 — 包摂的生成の活性化ステアリング

#生成AI #ChatGPT #Claude #LLM #AI #人工知能 #arxiv #論文解説 #ゆっくり解説 #ずんだもん #機械学習 #ディープラーニング

今日は、画像の「見せ方」だけでVLMの安全機構を突破するAdversarial Style Optimization、AIエージェントが著作権保護コンテンツを選んでしまうかを検証するCopyright-Bench、文書をLoRAアダプタへ焼き込んでクローズドブックQAの精度を大きく引き上げる研究から、文書からのポッドキャスト生成の忠実性、エージェント記憶の長期評価で起きる順位逆転、MoEモデル向けのMoE型LoRA、言語化せずに考えを引き継ぐJ-CoTまで、生成AI論文10本をずんだもんと四国めたんが解説します。

▼ 今日のトピック

・VLMのジェイルブレイクを画風の最適化で強化するAdversarial Style Optimization

・モデル同士の相互採点でLLMの応答品質を測る合意ベース評価フレームワーク

・執筆過程そのものを証拠化する人間とAIの共同ライティング環境「Humanly」

・LLMエージェントは著作権法を守れるか——Copyright-Benchによる検証

・容量よりデータ品質——文書をLoRAアダプタに焼き込むクローズドブックQA

・検索拡張生成で歴史文書の欠損文字と固有名詞を復元する

・文書からのポッドキャスト生成における忠実性の劣化とその修復

・エージェント記憶の長期評価と「在職期間交差」現象

・MoEモデルにMoE型LoRAを組み合わせるMoE²-LoRA

・言語化しない思考の連鎖——J空間で推論するJ-CoT

▼ 参考論文（arXiv）

https://arxiv.org/abs/2607.21619 — Adversarial Style Optimization: Enhancing VLM Jailbreaks by GRPO-based Stylistic Triggers Optimization

https://arxiv.org/abs/2607.21632 — A Consensus-Based Framework for Relative Preference Evaluation of Large Language Models

https://arxiv.org/abs/2607.21758 — Humanly: A Configurable and Traceable Environment for Human-AI Collaborative Writing

https://arxiv.org/abs/2607.21799 — Copyright-Bench: Agentic Evaluation of Copyright Law Compliance

https://arxiv.org/abs/2607.21861 — Data Quality over Capacity: Internalizing Documents into LoRA Adapters for Closed-Book QA

https://arxiv.org/abs/2607.21936 — Leveraging External Knowledge for Historical Document Restoration via Retrieval-Augmented Large Language Models

https://arxiv.org/abs/2607.21961 — On Improving Faithfulness of Podcasts from Documents

https://arxiv.org/abs/2607.21962 — Ground Truth First: A Longitudinal Evaluation Instrument for Agent Memory, and the Tenure Crossover in Memory-Architecture Rankings

https://arxiv.org/abs/2607.21978 — MoE$^2$-LoRA: When MoE Models Meet MoE-style Low-Rank Adaptation

https://arxiv.org/abs/2607.21981 — J-CoT: Chain-of-Thought in J-Space

#生成AI #ChatGPT #Claude #LLM #AI #人工知能 #arxiv #論文解説 #ゆっくり解説 #ずんだもん #OpenAI #Anthropic #機械学習 #ディープラーニング

今日は、Claude CodeやCodexのような推論ハーネスそのものを強化学習で鍛える基盤、自然言語だけで物理的にもっともらしい4Dワールドを作るマルチエージェント手法、百万トークン級の長文脈で投機的デコーディングを高速化する仕組みから、LLMがなぜ「言い直し」を多用してしまうのかという言語スタイルの分析、心理言語学の定説「サプライザル理論」への根本的批判まで、生成AI論文10本をずんだもんと四国めたんが解説します。

▼ 今日のトピック

・ハーネス常駐型AIエージェントをあらゆる環境で訓練する『OpenForgeRL』

・生成シミュレーションで4D物理世界を作る『GS-Agent』

・LLMが臨床症例をゲーム化する医学教育フレームワーク『MedGame』

・クラウドを使わないエージェント型コーディング：縦断データ整形をオープンウェイトLLMで評価する

・百万トークン文脈での投機的デコーディングを高速化する『Windowed-MTP』

・ランダム化設計でKVキャッシュ破棄の誤差を証明可能にする

・思考トークン予算の飽和と、推論が収束しない兆候の機構的早期検出

・What・Where・Howで解剖する、コード生成モデルの内部表現

・人工的なエパノルソシス：LLMはなぜ「言い直し」を多用するのか

・サプライザル理論はトートロジーである、合理的根拠なしには

▼ 参考論文（arXiv）

https://arxiv.org/abs/2607.21557 — OpenForgeRL: Train Harness-native Agents in Any Environment

https://arxiv.org/abs/2607.21522 — GS-Agent: Creating 4D Physical Worlds With Generative Simulation

https://arxiv.org/abs/2607.21570 — MedGame: Storytelling Gamification Empowered by Large Language Models for Medical Education

https://arxiv.org/abs/2607.21482 — Agentic coding without the cloud: evaluating open-weight large language models on longitudinal data preparation tasks

https://arxiv.org/abs/2607.21535 — Windowed-MTP: Removing the Full-Context Draft-KV Tax at Million-Token Context

https://arxiv.org/abs/2607.21475 — Error Certificates for KV-Cache Eviction via Randomized Design

https://arxiv.org/abs/2607.21433 — Token Budget Saturation and Mechanistic Early Detection of Reasoning Non-Convergence in Chain-of-Thought Models

https://arxiv.org/abs/2607.21491 — What, Where, and How: Disentangling the Roles of Task, Language, and Model in Code Model Representations

https://arxiv.org/abs/2607.21498 — Artificial Epanorthosis: Why large language models overuse a classical rhetorical figure, and how to mitigate it

https://arxiv.org/abs/2607.21574 — Surprisal Theory is Tautological (without Rational Grounding)

#生成AI #ChatGPT #Claude #LLM #AI #人工知能 #arxiv #論文解説 #ゆっくり解説 #ずんだもん #OpenAI #Anthropic #機械学習 #ディープラーニング

今日は、LLMを実運用で動かし続けるための工学的な工夫と、動かし続けた結果現れる制御しにくい振る舞いという2つの軸を追う回。欧州発のオープンウェイト推論モデル、長文脈を安く読ませるアテンション設計、LLMエージェントの記憶保持、知識蒸留への対抗策、検索拡張生成(RAG)へのグラフ理論的防御から、確信を持って人を欺くLLM、ニュース文脈由来の情報バイアス、フロンティアモデルの応答ドリフト、物語パターンの継承まで、生成AI論文10本をずんだもんと四国めたんが解説します。

▼ 今日のトピック

・Domyn-Small——欧州発オープンウェイト100億パラメータ推論言語モデル

・THOR——脳のシータ・ガンマ振動に着想を得た多段階質問応答の推論フレームワーク

・アンカーを外す——Pulsar Attentionによる分散LLM推論の文脈要約

・CAMeR——LLMエージェントのためのキーワードゲート型ハイブリッド記憶保持

・Answer-then-Edit——蒸留を防ぐ推論骨格編集手法SGRE

・TopoGuard——グラフ理論でRAGへの分割知識攻撃を防ぐ

・自信満々に欺く——LLMの欺瞞リスクを増幅する確信度

・LLMの世界モデルにおける信念伝播——予測市場で測る戦略的情報バイアス

・フロンティア大規模言語モデル群に見られる応答ドリフト

・モデルの中の語り部——物語パターンの継承・エスカレーション動態・アラインメントガバナンス

▼ 参考論文（arXiv）

https://arxiv.org/abs/2607.20448 — Domyn-Small: A European 10B Reasoning Language Model

https://arxiv.org/abs/2607.20459 — THOR: A Theta-Gamma Hierarchical Oscillatory Reasoning Framework for Multi-hop QA

https://arxiv.org/abs/2607.20457 — Dropping the Anchor: Statistical Context Summarization for Distributed Systems via Pulsar Attention

https://arxiv.org/abs/2607.20458 — CAMeR: Keyword-Gated Hybrid Activation for Adaptive Memory Retention in LLM Agents

https://arxiv.org/abs/2607.20440 — Answer-then-Edit: Reasoning Skeleton Editing for Anti-Distillation with Preserved Utility

https://arxiv.org/abs/2607.20437 — TopoGuard: Graph Theory Based Defenses Against Split-Knowledge Attacks on RAG

https://arxiv.org/abs/2607.20444 — Confidently Deceptive: How Confidence Amplifies the Risk of LLM Deception

https://arxiv.org/abs/2607.20441 — Belief Propagation in LLM World Models: Measuring Strategic Information Bias with Prediction Markets

https://arxiv.org/abs/2607.20454 — Response drift across frontier large language models

https://arxiv.org/abs/2607.20449 — The Storyteller in the Model: Narrative Pattern Inheritance, Escalation Dynamics, and Alignment Governance in LLMs

#推論言語モデル #長文脈アテンション #LLMエージェント記憶 #知識蒸留対策 #RAGセキュリティ #LLMの欺瞞 #応答ドリフト #arxiv #論文解説 #生成AI #ゆっくり解説 #ずんだもん #四国めたん

今日は、モデルの内部構造を情報理論やスペクトル分解の言葉で読み解く回。混合専門家モデル(MoE)のルーティングをハフマン符号として捉える研究、選好チューニングの更新をスペクトルの頭部・尾部に分解する研究から、分野を越えて壊れない知識編集、モデルマージを生き延びる電子透かし、評価と実運用のずれを監査する手法、材料科学文献を読むエージェントまで、生成AI論文10本をずんだもんと四国めたんが解説します。

▼ 今日のトピック

・混合専門家モデルにおける専門家対応コントラスト復号による幻覚緩和(EAACD)

・MoEのルーティングはハフマン符号なのか——思考連鎖に潜む頻度と多様性の法則

・多いほど良いわけではない——LLMの意見多様性を決める要因

・スキル契約型エージェントによる材料科学文献のエビデンス重視分析(AlphaAgent)

・自然言語は形式言語を完全には代替すべきではない

・モデル自身に語らせる、分野横断に頑健な知識編集手法Moir

・圧縮のボトルネックを破る——低ランク分解と量子化の非直交性(DAM)

・オープンソースLLMの電子透かしをモデルマージに耐えさせる

・ルーティング部分空間——微調整済みモデルの評価と実運用の乖離を監査する

・選好チューニングをスペクトル更新の再編として捉える

▼ 参考論文（arXiv）

https://arxiv.org/abs/2607.20426 — 混合専門家モデルにおける専門家対応コントラスト復号による幻覚緩和

https://arxiv.org/abs/2607.20427 — MoEのルーティングはハフマン符号なのか

https://arxiv.org/abs/2607.20429 — 多いほど良いわけではない：LLMの意見多様性を決める要因

https://arxiv.org/abs/2607.20431 — スキル契約型エージェントによる材料科学文献のエビデンス重視分析

https://arxiv.org/abs/2607.20432 — 自然言語は形式言語を完全には代替すべきではない

https://arxiv.org/abs/2607.20433 — Moir：モデル自身に語らせる分野横断知識編集

https://arxiv.org/abs/2607.20434 — 圧縮のボトルネックを破る：低ランク分解と量子化の非直交性

https://arxiv.org/abs/2607.20435 — オープンソースLLM電子透かしをモデルマージに耐えさせる

https://arxiv.org/abs/2607.20436 — ルーティング部分空間：評価と実運用の乖離を監査する

https://arxiv.org/abs/2607.20438 — 選好チューニングをスペクトル更新の再編として捉える

#MoE #ハフマン符号 #知識編集 #電子透かし #選好チューニング #モデル圧縮 #AIエージェント #arxiv #論文解説 #生成AI #ゆっくり解説 #ずんだもん #四国めたん

今日は性能そのものより、モデルの振る舞いをいつ・どこまで信じるかという制御と計測に焦点が寄った1日。会話全体でリスクが積み上がるガードレール、脆弱な文脈での譲歩、推論過程の監査から、計算量理論の壁、知識注入のスケーリング則、少ステップ拡散、金融の多エージェント委員会まで、生成AI論文10本をずんだもんと四国めたんが解説します。

▼ 今日のトピック

・対話全体でリスクを積算する多段階ガードレール(CRA)

・推論モードがLLMの一手を狭める多様性崩壊

・構造的般化の計算量的な限界(NC1とTC0)

・ハイパーネットワークによる知識注入のスケーリング則

・タスク遂行力と指示追従は別物と示す小型モデル評価

・脆弱な文脈でLLMが譲歩してしまう構造的失敗様式(適応的な譲歩)

・参照なしで推論過程を監査するハイパーグラフ評価

・少ステップ生成のためのマルチマスク拡散言語モデル

・代理方策で潜在推論をスケールするSLPO

・粒度別委員会でコストを抑える金融センチメント分析エージェント(TriAgent)

▼ 参考記事・ソース

・Stateful Guardrails for Multi-Turn LLM Systems: A Conversational Risk Accumulation Framework: https://arxiv.org/abs/2607.19361

・When Reasoning Narrows the Move: Diversity Collapse in LLM Game Play: https://arxiv.org/abs/2607.19523

・On the Computational Complexity of Structural Generalization: https://arxiv.org/abs/2607.19573

・Scaling Laws for Hypernetwork-Based Knowledge Injection in Large Language Models: https://arxiv.org/abs/2607.19604

・Task Competence Is Not Instruction Following: Evaluating Instruction-Conflicting Behavior in Small Language Models: https://arxiv.org/abs/2607.19608

・Adaptive Capitulation: A Structural Failure Mode of LLM Responses in Vulnerability Contexts: https://arxiv.org/abs/2607.19629

・Reference-Free Evaluation of Reasoning in Open-Ended Question Answering: https://arxiv.org/abs/2607.19678

・Multi-Mask Diffusion Language Models for Few-Step Generation: https://arxiv.org/abs/2607.19686

・SLPO: Scaling Latent Reasoning via a Surrogate Policy: https://arxiv.org/abs/2607.19691

・TriAgent: Divergence-Aware Multi-Agent Committees for Cost-Efficient Financial Sentiment Analysis: https://arxiv.org/abs/2607.19794

#LLMガードレール #強化学習 #拡散モデル #ハイパーネットワーク #計算量理論 #金融AI #マルチエージェント #arxiv #論文解説 #生成AI #ゆっくり解説 #ずんだもん #四国めたん

EEG、文書分類、多言語評価、病理生成、知識グラフ探索を扱う新着論文10本を、要旨の範囲で整理します。

#arXiv #生成AI #LLM #論文解説

MoE、RAG、LLMエージェント、投機的復号、科学生成を扱うarXiv新着10本を、要旨の範囲で整理します。

#arXiv #生成AI #LLM #AIエージェント #論文解説

医療データを文章化するLLM、KVキャッシュ圧縮、疫学レポート生成、エージェント用スキル、強化学習、拡散言語モデル、短い推論、仮説発見を扱うarXiv新着論文8本を解説します。要旨に書かれた手法・結果・限界を区別します。

▼ 論文テーマ

・医療マルチモーダルLLM

・長文LLMのKVキャッシュ圧縮

・エージェントのスキルと強化学習

・拡散型言語モデル

・科学的仮説発見

#arXiv #生成AI #LLM #AIエージェント #強化学習 #論文解説

言語モデルの統計的自己整合性、長い履歴を使うロボット、科学図表の編集、事前学習データ汚染、検索エージェント協調を、最新arXiv論文5本から解説します。

▼ 今日の論文

・部分集団と全体回答の自己整合性

・八千時点のロボット文脈

・論文改訂から学ぶ科学図表編集

・公開討論欄と学習データの安全

・検索エージェントの失敗反復防止

▼ 参考論文

・https://arxiv.org/abs/2607.15277

・https://arxiv.org/abs/2607.15275

・https://arxiv.org/abs/2607.15272

・https://arxiv.org/abs/2607.15267

・https://arxiv.org/abs/2607.15257

#生成AI #LLM #ロボットAI #AI安全 #arXiv #ずんだもん