株式会社ずんだもん技術室AI放送局

株式会社ずんだもん技術室AI放送局

By 株式会社ずんだもん技術室AI放送局Technology
Download on the App Store

株式会社ずんだもん技術室AI放送局 episodes

  • 株式会社ずんだもん技術室AI放送局 podcast 20251016
    youtube版(スライド付き)
    関連リンク
    • Rails: Active Agent gemでRailsに適したAI機能の設計を考察する(翻訳)|TechRacho by BPS株式会社
    • この記事は、RailsアプリケーションにAI機能を「Railsらしい」やり方で統合するための「Active Agent」gemについて、その設計思想や具体的な使い方、そして今後の可能性を、日本の新人エンジニアにも分かりやすく解説しています。

      Active Agentは、Railsの「規約より設定(Convention over Configuration)」の原則を取り入れ、「Agent」という新しい抽象化を導入します。これは、Railsのコントローラやメーラーのように、AIによるテキスト生成などのロジックをカプセル化(ひとまとめにする)するものです。例えば、簡単なジョークを生成するエージェントも、Rails開発者には馴染み深いクラス定義とメソッド呼び出しで実現できます。AIへの指示文(プロンプト)もAction Viewのテンプレートとして管理できるため、コードとプロンプトを分離でき、変更や管理がしやすくなります。生成処理は、即座に結果を得る同期モードと、バックグラウンドで実行する非同期モードを選べます。

      実際のプロジェクトでの活用例として、「オンデマンド翻訳機能」が紹介されています。翻訳エージェントが生成した訳文をデータベースに保存する際、エージェント内で直接データベースを更新するか、それともモデルに任せるかといった設計上の課題を議論し、より「Railsらしい」解決策としてモデル側にロジックを委譲する改善案を提示しています。

      AI機能のテストについても触れています。外部のAIサービスに依存しないテストを実現するため、記事ではFakeLLMProviderという偽のAIサービスアダプタを自作する方法を紹介。これにより、本物のAPIを叩かずにAIの応答をシミュレートでき、テストの安定性と速度を向上させることができます。

      もう一つの事例は、カンファレンスの「プロポーザルをAIがレビューする機能」です。このエージェントは、発表内容を評価するだけでなく、AIエージェントが過去の発表データベースを検索する「ツール機能」と連携することで、より的確な評価を可能にします。AIからの回答も、JSONのような構造化された形式で受け取れるよう設定でき、プログラムでのデータ処理が容易になります。

      記事の後半では、AIアプリケーションの進化に必要な機能として、以下の点が挙げられています。

      • AI利用のクレジット管理とトラッキング
      • 動的なプロンプト(状況に応じてAIへの指示文を変更)
      • プロンプトインジェクション対策などのセキュリティ機能
      • 複数のAIエージェントが連携する「エージェント型ワークフロー」
      • 過去の会話を記憶する「LLMの記憶容量」
      • 外部情報を活用するRAG(検索拡張生成)のような「コンテキストエンジニアリング」
      • Active Agentは、これらの複雑な要求にも対応できる拡張性を持っており、Rails開発者が愛するRailsフレームワークで、自然かつ効果的にAI機能を組み込めるようになることへの期待が示されています。

        引用元: https://techracho.bpsinc.jp/hachi8833/2025_10_14/153720

        • ファインチューニングは死んだのか?Googleとスタンフォードの論文がAI学習の新しいパラダイムを提示
        • 現在のAI(大規模言語モデルエージェント)は、一度失敗した経験から学ぶのが苦手で、同じ間違いを繰り返してしまうという課題を抱えています。まるで、毎回初めてのタスクとして取り組んでいるかのようです。しかし、Googleとスタンフォード大学の最新の研究が、この問題を解決し、AIがより賢く成長するための新しい方法を提案しています。

          Googleが開発した「ReasoningBank(リーズニングバンク)」は、AIがタスクを実行した際の成功や失敗の経験を「記憶」として保存し、後で活用するシステムです。人間が日記をつけて過去の出来事を振り返るように、AIの「思考の過程(推論記録)」を構造化して記憶します。そして、新しいタスクに直面したとき、この記憶の中から似たような経験を探し出し、それを参考にして意思決定を行うのです。このシステムを導入したAIは、タスクの成功率が向上し、問題を解決するまでのステップ数も大幅に削減されました。失敗からも学ぶことで、AIは着実に経験を積んで賢くなっていきます。

          一方、スタンフォード大学の「ACE(Agentic Context Engineering)」は、AIへの指示文(プロンプト)自体をAIが自律的に改善・進化させていくアプローチです。ACEは「タスクを実行するAI」「実行結果を評価するAI」「評価に基づいて指示文を更新するAI」という3つの役割を持つAIを組み合わせます。タスクの結果を見て、より効果的な指示文になるように、少しずつ改善を加えていくのです。この方法により、AIは状況に適応するまでの時間を大幅に短縮し、処理コストも削減できることが示されました。

          これらの研究が示す共通の画期的な点は、AIの「ファインチューニング」と呼ばれる、AIモデルそのものを細かく調整する作業なしに、AIが学習し、性能を向上させられることです。ReasoningBankはAIに外部の「記憶」を与え、ACEはAIの「指示の仕方」を内部的に最適化します。

          これにより、AIは単なる計算ツールではなく、まるで人間のように「経験を積みながら自分で学習し、成長していく」新しいフェーズに入りつつあります。AIが「どうすればもっとうまく学習できるか」を自ら学び始める、そんな「記憶を持つエージェント」の時代が到来するかもしれません。これは、AI開発の未来にとって非常に重要な一歩となるでしょう。

          引用元: https://note.com/trans_n_ai/n/n92f8092bff4c

          • Introducing Claude Haiku 4.5
          • Anthropicから、最新の小型AIモデル「Claude Haiku 4.5」がリリースされました!日本の新人エンジニアの皆さんにとって、これはAI開発の現場で「速くて賢いAIを、もっと手軽に使えるようになる」という、とても嬉しいニュースです。

            このHaiku 4.5の最大のポイントは、「高性能なのに、ものすごく速くて、しかも安く使える」という点です。なんと、たった5ヶ月前に最先端だった「Claude Sonnet 4」というモデルと比べて、ほぼ同等のコーディング性能を持ちながら、コストは3分の1、速度は2倍以上も向上しています。つまり、以前なら高価で時間のかかったAIの処理が、これからはもっと気軽に試せるようになるわけです。

            例えば、AIにリアルタイムでチャットアシスタントをさせたり、お客様対応をさせたり、あるいはプログラミングのペアを組ませるような、応答速度が重要な場面でHaiku 4.5は大活躍します。特に、複数のAIエージェントを使った複雑なプロジェクトや、手早く試作を作りたいラピッドプロトタイピングなど、コーディング作業全般で、これまで以上にサクサクと開発を進められるようになるでしょう。

            Anthropicには、現在世界最高のコーディングモデルとされる「Claude Sonnet 4.5」もあります。Haiku 4.5はSonnet 4.5ほどの「究極の知性」は追求していませんが、それに匹敵する性能を「圧倒的なコスト効率」で提供します。状況に応じて、Sonnet 4.5で複雑な問題を分解し、細分化されたタスクを複数のHaiku 4.5に並行して処理させる、といった賢い使い方もできるようになります。

            開発者の皆さんは、Claude APIを通じて「claude-haiku-4-5」としてすぐに利用を開始できます。料金も非常に経済的で、入力100万トークンあたり1ドル、出力100万トークンあたり5ドルという設定です。Amazon BedrockやGoogle Cloud Vertex AIでも利用可能なので、普段使っている環境からアクセスしやすいのも魅力です。

            安全性にもしっかり配慮されており、Haiku 4.5はこれまでのモデルと比べて不適切な振る舞いをする割合が大幅に低減されています。これは、AIを安心して活用するために非常に重要な点ですね。

            Haiku 4.5の登場は、AI開発のハードルをさらに下げ、より多くのアイデアを迅速に形にできる可能性を広げてくれます。新人エンジニアの皆さん、ぜひこの新しい強力なツールを使いこなして、これからのAI開発を楽しんでいきましょう!

            引用元: https://www.anthropic.com/news/claude-haiku-4-5

            • 『ジブリ風』と言われるAI生成画像、使わない層はどう思っているのか「この絵柄はもはや『OpenAI風』という印象」「この色ホント苦手」
            • 「ジブリ風」と称される特定のAI生成画像がSNSで話題です。多くのユーザーはこれを「OpenAI風」と認識し、本来のジブリとは異なるという意見が出ています。特に、画像特有の黄ばんだ色味や人工的な違和感に不満の声が上がっています。このAI画像は中高年層に多く利用される一方、若年層からは古く感じられており、世代間で美的感覚のギャップが指摘されています。AIが作り出す表現が社会にどう受け入れられるか、エンジニアとして考えるきっかけになるでしょう。

              引用元: https://togetter.com/li/2615953

              • お便り投稿フォーム
              • (株式会社ずんだもんは架空の登場組織です)

                13 min
              • 株式会社ずんだもん技術室AI放送局 podcast 20251015
                youtube版(スライド付き)
                関連リンク
                • Make agents a reality with Amazon Bedrock AgentCore: Now generally available Amazon Web Services
                • AWSから、AIエージェントを開発し、実際のビジネスで活用するための新しいプラットフォーム「Amazon Bedrock AgentCore」が一般提供開始されました。これは、これまで試作段階にとどまりがちだったAIエージェントを、安全性、信頼性、スケーラビリティを確保しながら、本格的なサービスとして運用するための基盤となるものです。

                  AIエージェントとは、まるで人間のアシスタントのように、自律的に考え、タスクを遂行するプログラムのことです。例えば、ユーザーの質問に答えたり、情報を収集したり、複数のシステムを連携させて複雑な業務を自動化したりできます。しかし、これを企業レベルで安全かつ効率的に運用するには、多くの技術的な課題がありました。AgentCoreは、そうした課題を解決し、開発者がエージェントを素早く本番環境に導入できるように設計されています。

                  AgentCoreの主な特徴は以下の通りです。

                  • 柔軟な開発: 開発者は、Amazon Bedrockで提供されるAIモデルだけでなく、OpenAIやGoogle Geminiなど外部のモデル、そしてLangChainやCrewAIといったお好みの開発フレームワークを使って、自由にエージェントを構築できます。
                  • 豊富なツール連携: エージェントがコードを安全に実行できる「Code Interpreter」や、ウェブサイトを操作できる「Browser」機能が組み込まれています。また、既存の社内システムやAPIをエージェントから簡単に呼び出せるようにする「Gateway」機能もあり、エージェントはより多くのタスクを実行できるようになります。
                  • 賢い記憶力: 過去の会話や操作履歴を覚え、文脈を理解しながら対応する「インテリジェントメモリ」機能により、エージェントはより賢く、パーソナルな体験を提供できます。
                  • 運用と監視: エージェントの動作を詳細に監視し、問題が発生した場合に素早く原因を特定できる機能(Observability)が提供されます。また、予測不能な負荷にも自動で対応し、長時間のタスクでも安定して稼働できる信頼性の高い実行環境(Runtime)も備わっています。
                  • 高いセキュリティ: 高度なセキュリティ機能が組み込まれており、機密データを安全に扱いながら、企業システムにアクセスできます。
                  • すでに、Amazon社内の製造プロセス自動化、医療分野での承認審査効率化、通信大手エリクソンやソニーグループでのAI活用など、様々な業界でAgentCoreが活用され、大きな成果を上げています。

                    AgentCoreは東京リージョンを含む世界9つのAWSリージョンで利用可能なので、日本のエンジニアの皆さんも、これらの強力な機能を使って、アイデアを素早く形にし、AIエージェントの可能性をビジネスに活かしていくことができます。

                    引用元: https://aws.amazon.com/blogs/machine-learning/amazon-bedrock-agentcore-is-now-generally-available/

                    • Securing your agents with authentication and authorization
                    • AIエージェントは、チャットだけでなく、ファイル操作やメッセージ送信、外部ツールの利用といった「行動」ができる点が大きな特徴です。そのため、従来のAIアプリケーションよりもセキュリティ対策が重要になります。特に「認証(Authentication)」と「認可(Authorization)」は、エージェントを安全に運用するために欠かせない要素です。

                      認証(AuthN)と認可(AuthZ)の基本

                      認証とは「あなたが誰であるか」を確認するプロセスです。例として、システムにログインする際にユーザー名とパスワードで本人確認をするのが認証です。一方、認可とは「認証されたあなたが何ができるか」を判断し、アクセス権限を制御するプロセスです。この二つは合わせて「認証認可(Auth)」と呼ばれ、あらゆるアプリケーションで重要ですが、AIエージェントには特有の課題があります。

                      AIエージェントが従来のアプリケーションと違う点

                      1. 多くのサービスへのアクセス: エージェントは、従来のアプリケーションよりもはるかに多くの異なるサービスやツール(例:メール、カレンダー、データベースなど)にアクセスする必要があります。
                      2. 動的に変化するアクセス要件: エージェントの行動は、その時々の状況によって必要な権限が大きく変わるため、柔軟なアクセス制御が必要です。
                      3. 監査の複雑さ: 多くのサービスをまたいで行動するため、エージェントが行った操作の記録(監査ログ)があちこちに分散し、全体の動きを追跡・確認するのが難しくなります。
                      4. これらの課題に対応するため、将来的にはエージェントの認証認可を一元的に管理する新しいシステムが必要になると考えられています。しかし、現在の技術でもエージェントのセキュリティは確保できます。

                        現在のAIエージェントの認証認可

                        エージェントも基本的にはリソースにアクセスするソフトウェアであるため、既存の認証認可技術である「OAuth 2.0」や「OIDC」といった業界標準のフレームワークを効果的に利用できます。エージェントのアクセスパターンは大きく二つに分けられます。

                        1. 委任アクセス (Delegated Access): エージェントがユーザーの「代理」としてリソースにアクセスする場合です。例えば、メールアシスタントがユーザーの許可を得てメールボックスにアクセスし、メールを処理するようなケースです。
                          • この場合、「Auth Code Flow」と「OBO (On-Behalf-Of) Token Flow」といったOAuth 2.0のフローが主に使われます。
                          • 直接アクセス (Direct Access): エージェントが人間の関与なしに、自律的にリソースにアクセスする場合です。例えば、セキュリティエージェントが自動でシステムログを監視し、異常を検知するようなケースです。
                            • この場合、「Client Credentials Flow」というOAuth 2.0のフローが主に使われます。
                            • まとめ

                              AIエージェントの能力が高まり、自律性が増すにつれて、認証認可の重要性はますます高まります。OAuth 2.0などの既存の標準技術を理解し、適切に活用することが、安全なエージェントを開発するための第一歩です。特に「Auth Code Flow」「OBO Token Flow」「Client Credentials Flow」の3つのフローは、多くのエージェントにおけるアクセス制御で役立つでしょう。

                              引用元: https://blog.langchain.com/agent-authorization-explainer/

                              • StreamingVLM: Real-Time Understanding for Infinite Video Streams
                              • 最近注目されている「画像とテキストを同時に理解するAIモデル(VLM)」は、私たちが普段使っているAIアシスタントや、自動運転のような自律的に動くシステムにおいて、動画をリアルタイムで理解するための鍵となります。しかし、現在のVLMには大きな課題がありました。それは、終わりなく続く長い動画ストリームを処理する際に、システムが遅くなったり、メモリを使いすぎたりすることです。

                                従来のやり方では、動画全体を一度に処理しようとすると、動画が長くなるほど計算量が爆発的に増え(動画の長さの2乗に比例!)、現実的ではありませんでした。また、動画を区切って少しずつ処理する「スライディングウィンドウ方式」という方法もありますが、これだと動画全体の文脈が途切れてしまったり、同じ部分を何度も計算し直すために無駄な処理が多く発生し、結局遅延につながっていました。

                                このような課題を解決するため、この論文では「StreamingVLM」という新しいモデルを提案しています。StreamingVLMは、無限に続く視覚情報(動画)を、リアルタイムかつ安定して理解できるように設計されています。

                                彼らのアプローチのポイントはいくつかあります。

                                まず、AIモデルの学習方法と、実際に動かす推論方法を統一した枠組みで考えることで、より効率的な処理を実現しています。
                                推論時には、AIが過去の情報を記憶しておくための「KVキャッシュ」という領域をコンパクトに保つ工夫がされています。具体的には、重要な情報(アテンションシンク)を再利用したり、直近の短い動画フレームの情報と、直近の長いテキストの情報をうまく組み合わせたりして、必要な情報だけを効率的に保持します。

                                このリアルタイム処理能力は、シンプルな「教師ありファインチューニング(SFT)」という学習方法によって実現されています。これは、全体を一度に見るのではなく、短いながらも少しずつ重なる動画の塊(チャンク)を使って学習させることで、非常に長い動画を処理するための特殊な学習をせずとも、実際の推論時と同じようなアテンションの動きをモデルに覚えさせることができます。

                                StreamingVLMの性能を評価するために、研究チームは平均2時間以上という超長時間の動画を含む、新しい評価基準「Inf-Streams-Eval」を作成しました。このベンチマークで、StreamingVLMは競合する「GPT-4O mini」に対して66.18%の勝率を達成し、NVIDIA H100という高性能なGPU一枚で、1秒間に最大8フレームという安定したリアルタイム処理を実現しています。さらに、このSFT学習戦略は、特定の画像質問応答(VQA)タスク向けのチューニングなしに、一般的なVQA能力も向上させ、他の主要なベンチマークでも優れた結果を出しています。

                                このStreamingVLMは、将来のAIアシスタントや自律エージェントが、長く続く動画をスムーズに理解し、より賢く、より役立つ存在になるための重要な一歩と言えるでしょう。コードも公開されており、さらなる発展が期待されます。

                                引用元: https://arxiv.org/abs/2510.09608

                                • イラストレーターさん「あなたの愛猫を描きます!」企画に寄せられた猫の開き画像が豪快すぎて笑顔になる
                                • イラストレーター「はいらずんば@猫スケッチ」さんの「あなたのうちの子描きます」企画が注目を集めました。応募された写真の中でも、大胆に寝そべる猫の「豪快な開き」ポーズが特に話題に。「お股パッカーン」や「お手てのむん!」といった可愛らしい姿が多くの人の笑顔を誘い、SNS上で大きな反響を呼んでいます。猫の愛らしい一面が心を和ませる、楽しいニュースです。

                                  引用元: https://togetter.com/li/2615511

                                  • お便り投稿フォーム
                                  • (株式会社ずんだもんは架空の登場組織です)

                                    0 min
                                  • 株式会社ずんだもん技術室AI放送局 podcast 20251014
                                    youtube版(スライド付き)
                                    関連リンク
                                    • The Tiny Teams Playbook
                                    • この記事は、AIエージェントの進化が加速する現代において、少人数ながらも高い生産性を誇る「Tiny Teams」の成功戦略をまとめたものです。日本の新人エンジニアの皆さんが、これからのチームでの働き方やAIとの協業を考える上で、貴重なヒントとなるでしょう。

                                      「Tiny Teams」とは、従業員数よりも多くの年間経常収益(ARR)を生み出す、極めて効率的なチームのことです。AIが知識労働を自動化・拡張できるようになった今、AIを最大限に活用し、スピードと効率性で大きな成果を出す新しい組織の形として注目されています。

                                      AI Engineer Summitで共有された、成功しているTiny Teamsからの普遍的なアドバイスは以下の通りです。

                                      1. 採用 (Hiring)
                                        • 厳選された優秀人材: 真に期待できる候補者のみ採用。
                                        • 有給ワークトライアル: 短期間のプロジェクトで適性を見極める。
                                        • 製品からの採用: サービスに熱意ある顧客をチームに招く。
                                        • 高水準の報酬: 優秀な人材には、相応の給与で高いモチベーションを維持。
                                        • 少人数のベテラン「ジェネラリスト」: 幅広いスキルを持つ経験豊富なメンバーで構成。
                                        • 文化と価値観 (Culture & Value)
                                          • 「低エゴ、高信頼」: 信頼に基づき、迅速な意思決定を促進。
                                          • 自立心、粘り強さ、レジリエンス: 困難に屈せず、解決策を探す姿勢。
                                          • 徹底した透明性と責任: 進捗や課題を共有し、各自が責任を持つ。
                                          • ユーザー中心: 顧客のフィードバックを重視し、喜ばれる製品開発。
                                          • 連帯感とスピード: 楽しみながら素早く行動し、チームの活力を維持。
                                          • 運営 (Operations)
                                            • 会議を最小限に: 「深い集中」の時間を確保し、生産的な作業を優先。
                                            • AIを「Chief of Staff」として活用: リサーチやマーケティングをAIで自動化。
                                            • AIによるカスタマーサポート: 顧客対応の効率化と品質向上。
                                            • 優先順位付け(Let Fires Burn): 重要な課題に集中し、全てを解決しようとしない。
                                            • 「二度と学ばない」知識共有: 再利用可能なテンプレートで効率的な学習と活用。
                                            • 対面での交流: オフィスや合宿でチームの結束を強化。
                                            • 技術と製品 (Tech and Product)
                                              • シンプルで堅実な技術スタック: メンテナンスしやすく信頼性の高い技術を選択。
                                              • シンプルな製品から開始: 核となる機能に絞り、迅速にリリース。
                                              • フィーチャーフラグによる実験: 新機能を段階的に導入し、ユーザーの反応を確認。
                                              • 独自のベンチマーク作成: LLMの性能評価など、製品改善のための評価システムを構築。
                                              • これらの戦略は、AIを活用し大きな成果を出しているチームから学んだ知見です。新人エンジニアの皆さんも、効率的なチームのあり方やAIとの協業について考える上で、ぜひこれらのヒントを活用してください。

                                                引用元: https://www.latent.space/p/tiny

                                                • Every LLM Is Its Own Media Channel AIVO Journal
                                                • LLMは全部同じじゃない!それぞれのAIで「情報の見つけ方」が違う理由

                                                  多くのエンジニアやマーケターは、ChatGPT、Gemini、ClaudeのようなLLM(大規模言語モデル)を「AI」として一括りに見てしまいがちです。しかし、この記事は、これらのLLMがそれぞれ独自の「情報の収集方法」や「評価基準」を持つ、全く異なる情報チャネルであると警鐘を鳴らしています。まるでGoogle、Meta、TikTokを同じものとして扱うのが間違いであるように、LLMも個別に戦略を立てる必要があるというのです。

                                                  なぜLLMごとに情報の見つけ方が違うのでしょうか?

                                                  1. ChatGPT-4o/o1:
                                                    • 特徴: 「最新の情報」と「信頼できる情報源」を非常に重視します。タイムスタンプが新しく、人間がレビューした情報や、公式なライセンスを持つメディアのコンテンツが優先されます。
                                                    • ポイント: 情報の「鮮度」と「出どころの信頼性」が鍵です。
                                                    • Gemini 1.5 Pro:
                                                      • 特徴: Googleの知識グラフ(Knowledge Graph)と深く連携し、「具体的な『モノ』や『概念』と結びついたデータ(エンティティリンクされたデータ)」を重視します。情報が決められたデータ形式(スキーマ)で構造化されていると、見つけてもらいやすくなります。
                                                      • ポイント: 情報が「何について」のもので、その構造が「明確である」ことが重要です。
                                                      • Claude 3.5 Sonnet/Opus:
                                                        • 特徴: 「情報の信頼性」と「倫理的な価値観との整合性」を厳しく評価します。過度に最適化されたり、推測に基づいたりするコンテンツは評価が低く、専門家が監修し、中立的な表現で、安全性が確認された情報を好みます。
                                                        • ポイント: 情報の「客観性」と「質の高さ」が求められます。
                                                        • これらのLLMが今後も統合される可能性は低いと筆者は指摘します。それは、データ収集のライセンスや各国・地域の法律(ガバナンス)が異なるため、各LLMが独自のエコシステムとして進化していくからです。

                                                          新人エンジニアが意識すべきこと

                                                          LLMを活用したサービスやアプリケーションを開発する際、この違いを理解することが非常に重要です。

                                                          • データの準備: 各LLMが重視するポイントに合わせて、データの鮮度、構造化、信頼性を考慮して準備しましょう。
                                                          • プロンプト設計: 例えば、ChatGPTには最新情報へのアクセスを促すプロンプト、Geminiには構造化されたデータの参照を促すプロンプト、Claudeには中立的で信頼できる情報源を求めるプロンプトなど、LLMの特性を活かした設計が求められます。
                                                          • コンテンツ作成: LLMに生成させるコンテンツや、LLMが参照する外部コンテンツを作成する際も、それぞれのLLMの評価基準に合致するように工夫が必要です。
                                                          • まとめると、LLMは「単一のAI」ではなく、「個別の特性を持つ情報収集・評価システム」です。それぞれのLLMの個性を見極め、それに合わせたアプローチを取ることが、これからのAI時代で成功するための重要な視点となるでしょう。

                                                            引用元: https://www.aivojournal.org/every-llm-is-its-own-media-channel/

                                                            • Huawei、LLMの精度を保持したまま最大70%メモリ削減できる新手法を発表──コンシューマーGPUでの高精度生成AI実行も視野に Ledge.ai
                                                            • Huaweiが、大規模言語モデル(LLM)をもっと手軽に、そして高性能なGPUがなくても利用できるようにする画期的な新技術「SINQ(Sinkhorn-Normalized Quantization)」を発表しました。これは、AIの精度を保ったまま、AIが動くコンピューターのメモリ使用量を大幅に削減できる技術です。

                                                              最近注目されているChatGPTのようなLLMは非常に賢いですが、動かすためには膨大なメモリ(VRAM)を積んだ高性能なグラフィックボード(GPU)が必要です。そのため、多くの人が手元のPCで気軽に試したり、スマートフォンなどの小さなデバイスにAIを組み込んだりするのは難しいという課題がありました。

                                                              SINQは、AIモデルのデータ(重み)を「量子化」という技術で圧縮し、メモリ消費を抑える手法です。従来の量子化では、データを圧縮するとAIの精度が落ちてしまいがちで、その精度を元に戻すために「再調整(キャリブレーション)」という手間のかかる追加作業が必要でした。しかし、SINQの最大の特徴は、この再調整が一切不要になる点です。

                                                              この技術の核となるのは、「Sinkhorn-Knoppアルゴリズム」という数学的な手法の応用です。AIモデルの重みデータに存在する「外れ値」(極端に大きい・小さい値)が特定の場所に偏るのを防ぎ、データ全体が均一に分散されるように調整します。これにより、データを大幅に圧縮しても、AIの予測精度をほとんど損なうことなく維持できるのです。

                                                              具体的な成果としては、AIの精度を高く保ったまま、メモリ使用量を最大70%も削減できます。これは非常に大きな進歩で、例えば、私たちが普段使うような8GB程度の一般的なグラフィックボードでも、これまで専門的な高性能GPUでしか動かせなかったような大規模なLLM(Qwen3-7Bモデルなど)を動かせるようになることを意味します。さらに、データ圧縮の処理自体も非常に高速で、従来の再調整が必要な手法と比べて最大30倍も速いと報告されています。

                                                              SINQは、HuaweiのQwenシリーズだけでなく、Llama 2やLlama 3など、様々なLLMに適用できる汎用性の高さも魅力です。これにより、高性能なGPUに頼らずにLLMを運用する道が開かれ、手元のPCやエッジデバイス(小型の端末)でも高品質な生成AIが使える未来が近づきます。この技術のコードはGitHubで公開されており、世界中のエンジニアが自由に試したり、さらに応用したりすることが期待されています。

                                                              この技術は、将来皆さんが少ないリソースでAIアプリを開発したり、AIを様々な製品に組み込んだりする際に、とても役立つ基礎技術になるでしょう。AIの可能性を広げる、重要な一歩と言えます。

                                                              引用元: https://ledge.ai/articles/huawei_sinq_quantization_llm

                                                              • カイジの絵が下手だと思っていた時期があったが、いざ模写してみると圧倒的な上手さに気づいた話「ピカソの絵を下手だと評することと同じ」
                                                              • 漫画『カイジ』の絵は、独特なタッチのため『下手』と思われがちですが、実はプロも認める『圧倒的な巧みさ』を持つと話題です。実際に模写すると、キャラクターの個性、読者を惹き込む視線誘導、コマ割り、心理描写といった『漫画としての総合力』の高さに気づかされます。これは表面的な印象で判断せず、奥にある本質や技術を見抜く大切さを教えてくれます。新人エンジニアの皆さんも、一見シンプルなものに隠された深い工夫を探求する視点を持つ良いきっかけとなるでしょう。

                                                                引用元: https://togetter.com/li/2615004

                                                                • お便り投稿フォーム
                                                                • (株式会社ずんだもんは架空の登場組織です)

                                                                  12 min
                                                                • 私立ずんだもん女学園放送部 podcast 20251010
                                                                  youtube版(スライド付き)
                                                                  関連リンク
                                                                  • From Assistant to Adversary: Exploiting Agentic AI Developer Tools
                                                                  • 最近、CursorやGitHub CopilotといったAIを活用した開発ツールが広く利用され、開発効率の向上に貢献しています。しかし、この記事ではこれらの「自律型AI開発ツール」が新たなセキュリティ上の脅威をもたらす可能性と、その対策についてNVIDIAが分析した内容を解説しています。

                                                                    自律型AI開発ツールは、LLM(大規模言語モデル)の力で、ユーザーの指示やコードを理解し、ファイルの編集、コマンド実行といった様々なアクションを自律的に行います。この自律性が開発を加速させる一方で、AIエージェントが行動できる範囲が広いほど、その動作は予測しにくくなり、攻撃者による悪用のリスクが高まることが指摘されています。

                                                                    記事では、攻撃者がGitHubのプルリクエストやイシューに巧妙に悪意のある指示(「間接プロンプトインジェクション」)を仕込むことで、開発者のPCで不正なコードを実行させる具体的な手口が紹介されています。例えば、攻撃者は一見無害な偽のPythonパッケージを作成し、それをプロジェクトの依存関係として追加するプルリクエストを送信します。もし開発者がAIエージェントを使ってこのプルリクエストをレビューさせると、エージェントがそのパッケージをインストールする際に、パッケージに仕込まれた悪意のあるコード(例えば、PCを遠隔操作されるリバースシェル)が実行されてしまう可能性があります。Cursorのようなツールには一定のセキュリティ対策が講じられていますが、記事では巧妙な手法でこれらの対策を迂回できる場合があることも示されています。

                                                                    このような攻撃から身を守るために、以下の対策が推奨されています。

                                                                    1. 「プロンプトインジェクションは常に起こり得る」という前提でAIシステムを設計する。
                                                                    2. AIエージェントの自律性をできるだけ制限し、特定の決まった作業のみを許可する。
                                                                    3. 信頼できないデータ(外部からのプルリクエストなど)を扱う際には、必ず人間が内容を確認し承認する仕組み(Human-in-the-loop)を導入する。
                                                                    4. もし完全な自律稼働が必要な場合は、仮想マシン(VM)やコンテナのような隔離された環境でエージェントを実行し、アクセスできるリソースを最小限に抑える。
                                                                    5. NVIDIAが提供する脆弱性スキャナー「garak」や、安全なやり取りをサポートする「NeMo Guardrails」のようなツールを活用することも有効です。

                                                                      AIエージェントの活用は開発を大きく加速させる可能性を秘めていますが、その潜在的なリスクを正しく理解し、適切なセキュリティ対策を講じることが、安全に開発を進める上で不可欠です。

                                                                      引用元: https://developer.nvidia.com/blog/from-assistant-to-adversary-exploiting-agentic-ai-developer-tools/

                                                                      • Embracing the parallel coding agent lifestyle
                                                                      • 皆さん、こんにちは!今回は、複数のAIコーディングエージェントを同時に活用して、ソフトウェア開発を効率的に進める新しい働き方についてご紹介します。筆者自身も最初は懐疑的でしたが、実践してみると非常に効果的だと感じているそうです。

                                                                        このアプローチは、AIに得意な作業を複数並行して任せることで、私たちエンジニアがコードのレビューや設計など、より重要なタスクに集中できるようになる、という考え方に基づいています。新人エンジニアの皆さんも、ぜひこの発想を取り入れてみてください。

                                                                        具体的に、AIエージェントを並行して使うことで、どのような作業が効率化できるのでしょうか?

                                                                        1. 新しい技術の調査や概念実証(PoC):

                                                                          「この新しいライブラリは使えるか?」「この技術で何ができるか?」といった、未知の領域を探る初期段階の作業をAIに任せます。AIは関連するコードを読み解き、プロトタイプを作成してくれるので、私たちが手探りで調べる手間を大幅に削減できます。

                                                                        2. 既存システムの動作原理の確認:

                                                                          自分のプロジェクトのコードベースで「この機能はどう動いているんだっけ?」と疑問に思った時、AIに質問すれば、コード全体を分析し、詳細な説明を短時間で提供してくれます。これにより、複雑なシステムの理解を素早く深めることができます。

                                                                        3. 小さなメンテナンスや軽微な修正作業:

                                                                          テスト実行中に発生する警告の解消や、簡単なバグ修正など、本来であれば集中力を妨げるような細かい作業をAIに依頼できます。メインの作業を中断することなく、AIが裏でこれらの「ちょっとした困りごと」を解決してくれるので、非常にスムーズです。

                                                                        4. 具体的な指示に基づく開発作業:

                                                                          「こういう機能を作ってほしい。実装方法も具体的に指示する」というように、詳細な仕様をAIに与えることで、期待通りのコードを生成させることができます。これにより、生成されたコードのレビューにかかる時間も短縮され、効率的に開発を進められます。

                                                                          筆者は現在、複数のAIエージェントを様々な環境で同時に動かし、並行処理を行う開発スタイルを実践しています。リスクの高い作業では、万が一の事態に備えて安全な方法を選ぶなど、状況に応じた使い分けが重要です。AIを駆使した開発はまだ発展途上ですが、LLM(大規模言語モデル)の進化によってその可能性は大きく広がっています。新人エンジニアの皆さんも、この新しい働き方を積極的に試し、自身の生産性向上につなげていきましょう。

                                                                          引用元: https://simonwillison.net/2025/Oct/5/parallel-coding-agents/

                                                                          • OpenAI Agent Builderを触ってみた:Difyとの違いと実践Tips
                                                                          • OpenAIが2025年にリリースした「Agent Builder」は、AIエージェントの開発をぐっと身近にする新しいツールです。コードを書かなくても、視覚的にノードを繋いでワークフローを組み立てられるため、初心者でも直感的にAIエージェントを作ることができます。開発は「設計」「公開」「デプロイ」の3ステップで、プレビュー機能で動作をすぐに確認できるため、効率的に試行錯誤できます。

                                                                            類似ツールであるDifyとの比較では、Agent BuilderはOpenAI公式のため、GPT-5などの最新モデルやChatKitとの連携がスムーズで、シンプルさとセキュリティが標準で備わっています。一方Difyはオープンソースで、多様なLLM(大規模言語モデル)に対応し、カスタマイズ性が高く、オンプレミス運用も可能です。OpenAIの技術を素早く試したいならAgent Builder、より柔軟な開発や自社環境での運用が必要ならDifyを選ぶのが良いでしょう。

                                                                            Agent Builderのワークフローは、「Agent(AIモデル本体)」「File Search(検索)」「If/else(条件分岐)」などのノードを組み合わせて作成します。エージェントを設計する際は、一つのエージェントに多くの役割を持たせるのではなく、「質問分類」「情報検索」「回答生成」のように役割を分担させると、より良い性能を発揮します。

                                                                            AIエージェントは悪意のある入力に弱いため、セキュリティ対策が欠かせません。「プロンプトインジェクション」や「データ漏洩」を防ぐために、出力形式の制限、人間による承認(Human approval)、Guardrailsといった機能を使うことが推奨されます。特に外部ツールと連携する際は、慎重な設定が必要です。

                                                                            作成したエージェントは、ChatKitを使えば簡単にウェブサイトなどに組み込んでチャットUIとして利用できます。

                                                                            開発をスムーズに進めるための実践的なヒントもあります。例えば、既存のテンプレートから始めること、ワークフローにコメントを残して設計意図を明確にすること、開発中のコスト(トークン消費)を意識すること、そしてエージェントの品質を定期的に評価することです。また、安全性とユーザー体験のバランスを考え、データ削除や外部送信など本当に重要なアクションにのみ人間による承認(Human approval)を配置しましょう。

                                                                            Agent BuilderはAIエージェント開発のハードルを下げ、多くのアイデアを形にする可能性を秘めています。セキュリティ対策やコスト管理をしっかり行いながら、新しいAIプロダクト開発に挑戦してみましょう。

                                                                            引用元: https://qiita.com/akira_papa_AI/items/7344e21b9204526e5127

                                                                            • 世界最小の哺乳類「トウキョウトガリネズミ」を見に行ってきた! 東京にいなくてネズミでもない“トガリネズミ”は、可愛い姿で毒を使うハンターだった
                                                                            • 東京にはいない「トウキョウトガリネズミ」は、ネズミではなくモグラの仲間で、体重わずか2gの世界最小哺乳類です。4時間以上食べないと餓死するほど代謝が速く、なんと毒を使って獲物を麻痺させるハンターでもあります。北海道に生息する絶滅危惧種で、可愛らしい見た目と意外な生態のギャップが魅力。熱心な投稿者が展示会に足繁く通って撮影した、貴重なトガリネズミたちの動画が話題になりました。

                                                                              引用元: https://news.nifty.com/article/item/neta/12237-4573333/

                                                                              • お便り投稿フォーム
                                                                              • VOICEVOX:ずんだもん

                                                                                0 min
                                                                              • 株式会社ずんだもん技術室AI放送局 podcast 20251009
                                                                                youtube版(スライド付き)
                                                                                関連リンク
                                                                                • Introducing the Gemini 2.5 Computer Use model
                                                                                • Google DeepMindは、AIがコンピューターのユーザーインターフェース(UI)を直接操作できるようになる画期的な新モデル「Gemini 2.5 Computer Use」を発表しました。このモデルは、Gemini 2.5 Proの持つ「見て、考えて、判断する」高度な視覚理解と推論能力をベースに開発されており、AIエージェントがまるで人間のようにWebサイトやアプリケーションを操作できるようにすることを目的としています。

                                                                                  このモデルの大きな特徴は、Webやモバイルの制御に関するテスト(ベンチマーク)において、既存のどのモデルよりも高い性能を発揮し、しかも応答速度(レイテンシー)が非常に速い点です。具体的には、Webページのフォームに情報を入力したり、ドロップダウンメニューを選んだり、ログインが必要なページを操作したりといった、これまでAIだけでは難しかったデジタルタスクをスムーズにこなすことができます。

                                                                                  技術的な仕組みとしては、Gemini APIを通じて提供される「computer_use」という特別なツールを使います。AIは、現在の画面のスクリーンショット、ユーザーからの指示、そして過去にどのような操作をしたかという履歴情報を受け取ります。これらを分析して、「このボタンをクリックする」「ここに文字を入力する」といった具体的なUIアクションを判断し、実行します。もし、購入などの重要な操作が必要な場合は、ユーザーに確認を求める機能も備わっています。この一連のプロセスを繰り返すことで、AIが自律的にタスクを完了させることが可能です。現在のところ、主にWebブラウザでの操作に最適化されていますが、モバイルアプリのUI制御においても大きな可能性を秘めています。

                                                                                  AIがコンピューターを直接操作できるようになるため、Google DeepMindは安全性を非常に重視しています。モデル自体に、意図しない誤操作や悪用を防ぐための安全機能が最初から組み込まれています。さらに、開発者向けにも、システムを破壊したり、セキュリティを侵害したりするような高リスクなアクションをAIが勝手に実行しないよう、細かく設定できる安全制御機能が提供されています。Googleは、この新しい技術を導入する際には、開発者がシステムを徹底的にテストするよう強く推奨しています。

                                                                                  すでに早期アクセスプログラムでは、このモデルが様々な分野で活用され、大きな成果を上げています。例えば、ソフトウェア開発におけるUIテストの自動化により、開発スピードが飛躍的に向上したり、個人のタスク管理アシスタントや企業内のワークフロー自動化に利用されたりしています。Google社内でも、決済プラットフォームの脆いUIテストをAIが自動で修復するといった活用例があり、最大で60%以上のテストをAIが立て直すことに成功しているとのことです。

                                                                                  この「Gemini 2.5 Computer Use」は現在、Google AI StudioやVertex AIを通じて、パブリックプレビュー版として利用可能です。日本の新人エンジニアの皆さんも、この新しいAI技術に触れて、未来の自動化やAIエージェント開発の可能性をぜひ体験してみてください。

                                                                                  引用元: https://deepmind.google/discover/blog/introducing-the-gemini-2-5-computer-use-model/

                                                                                  • Agents Playwright
                                                                                  • 「Playwright Agent」は、人気のWebテストフレームワークPlaywrightに標準で組み込まれた、AIの力を活用したテスト自動化支援機能です。新人エンジニアの皆さんにとっては、テストコードを書く手間を大幅に減らし、より効率的に品質の高いWebアプリケーションを開発できるようになる、強力なツールだと考えると良いでしょう。

                                                                                    このPlaywright Agentには、主に3つの「エージェント」と呼ばれる仕組みが含まれています。これらはそれぞれ異なる役割を持ち、連携しながらテストの作成から修復までを自動的に進めます。

                                                                                    1. 🎭 Planner(プランナー):

                                                                                      このエージェントは、皆さんのWebアプリケーションを自動的に探索し、「何をテストすべきか」という計画を、人間が理解しやすいMarkdown形式のドキュメントとして作成します。例えば、「ユーザーが商品をカートに追加し、購入を完了する」といった具体的なシナリオを設計する手助けをしてくれます。

                                                                                    2. 🎭 Generator(ジェネレーター):

                                                                                      プランナーが作成したMarkdown形式のテスト計画を受け取り、それを基に、実際に実行可能なPlaywrightのテストコードを自動的に生成します。Webページのボタンや入力フォームなどの要素を正しく識別し、期待される動作を検証するコードを効率的に作り出してくれます。これにより、手作業でテストコードを一から書く時間を大幅に短縮できます。

                                                                                    3. 🎭 Healer(ヒーラー):

                                                                                      WebアプリケーションのUI変更などでテストコードが動かなくなった場合、このエージェントが活躍します。ヒーラーは、失敗したテストを自動で検知し、その原因を分析します。そして、例えばUI要素の指定(セレクタ)が変わっていた場合に新しいセレクタを提案したり、処理の待機時間を調整したりするなど、テストを修正するための「パッチ」を自動で適用しようとします。これにより、テストのメンテナンス作業が非常に楽になります。

                                                                                      これらのエージェントは、それぞれ単独で使うこともできますが、順番に連携させて使うことで、アプリケーション全体に対する包括的なテストカバレッジ(網羅性)を自動的に生み出すことができます。

                                                                                      導入も簡単で、npx playwright init-agentsというコマンド一つで、プロジェクトにエージェントの定義を追加できます。その後は、VS CodeなどのAIツールと連携して、これらのエージェントに指示を出し、Playwrightテストの作成や修復を自動で行わせることが可能になります。

                                                                                      Playwright Agentは、テスト作成の初期段階からメンテナンスまで、テスト工程全体の効率化を強力にサポートし、エンジニアがより本質的な開発作業に集中できるようにするための画期的な機能と言えるでしょう。

                                                                                      引用元: https://playwright.dev/docs/test-agents

                                                                                      • エージェント機能が大幅に強化されたPLaMo 2.1 Primeの提供開始 - 株式会社Preferred Networks
                                                                                      • 皆さん、こんにちは!今回は、国内のAI技術をリードする株式会社Preferred Networks(PFN)から発表された、日本のエンジニアにとって注目のニュースをご紹介します。PFNが独自に開発している国産の大規模言語モデル(LLM)「PLaMo™(プラモ)」の商用版「PLaMo 2.1 Prime」がリリースされ、特に「エージェント機能」が大きくパワーアップしたとのことです。

                                                                                        エージェント機能とは、AIが単に質問に答えるだけでなく、まるで秘書のように、ユーザーの指示を理解して、必要な情報を自動で探し出し、様々なシステムと連携してタスクをこなしてくれる機能のことです。

                                                                                        今回の「PLaMo 2.1 Prime」で特に注目すべきは、「自動ツール連携」機能が実装された点です。これまでのPLaMoも外部システムと連携できましたが、2.1 Primeでは、ユーザーの指示に合う最適なツール(たとえば、Web検索、社内のデータベース、外部のAIエージェント、APIなど)をPLaMoが自分で判断して選び、複数組み合わせて使うことができるようになりました。これにより、AIがより複雑で高度な仕事をこなせるようになります。

                                                                                        例えば、具体的な活用イメージとして以下が挙げられています。

                                                                                        • お客様からの問い合わせに対して、PLaMoが「顧客管理システム」で情報を確認し、「在庫管理システム」で在庫状況を調べて、それらの情報をまとめてお客様に回答するといった、複数の情報を連携させた高度な対応が可能になります。
                                                                                        • 特定のキャンペーンに興味を持ちそうな顧客を社内システムから自動で抽出し、その顧客向けにパーソナライズされたメールの本文をPLaMoが生成、さらにそのメールを自動で送信するといった一連の業務を任せることもできるようになります。
                                                                                        • このような自動ツールの選択や呼び出しの精度は、専門のベンチマークテスト「BFCL V3」でも高い評価を得ています。これは、PLaMoがユーザーの意図を正確に汲み取り、必要な情報を適切な方法で引き出す能力が大きく向上したことを意味します。他の大規模言語モデルと比較しても、特定のツール呼び出し能力においてはPLaMo 2.1 Primeが優れている場面があるというのは、国産LLMの大きな進化を感じさせますね。

                                                                                          PLaMoは、PFNが日本語データを使って一から開発した、日本語の扱いに特に長けたLLMです。PLaMo Primeの他にも、自動車などのエッジデバイス向けに軽量化されたPLaMo Liteや、学術・研究用のPLaMo-100B、金融特化型、翻訳特化型など、用途に合わせた様々なモデルが提供されています。今回のアップデートは、PLaMoがさらに多様なビジネスシーンで活躍するための大きな一歩となるでしょう。

                                                                                          国産のAI技術が私たちの仕事や生活をどう変えていくのか、新人エンジニアの皆さんもぜひ注目してみてください!

                                                                                          引用元: https://www.preferred.jp/ja/news/pr20251007-2/

                                                                                          • お便り投稿フォーム
                                                                                          • (株式会社ずんだもんは架空の登場組織です)

                                                                                            12 min
                                                                                          • 株式会社ずんだもん技術室AI放送局 podcast 20251008
                                                                                            youtube版(スライド付き)
                                                                                            関連リンク
                                                                                            • Google DeepMind introduces new AI agent for code security
                                                                                            • Google DeepMindは、ソフトウェアのセキュリティを自動で強化する新しいAIエージェント「CodeMender」を発表しました。この画期的なツールは、AIの力でコードの脆弱性を発見し、修正することを目指しています。

                                                                                              現在のソフトウェア開発では、セキュリティの脆弱性を見つけて修正する作業が非常に難しく、多くの時間と労力を必要とします。従来の自動チェックツール(「ファジング」と呼ばれる多様な入力を与えてバグを探す手法など)にも限界があり、AIによる高度な脆弱性発見技術が進化するにつれて、人間だけで全ての脆弱性に対応するのは非現実的になってきています。CodeMenderは、このセキュリティ上の大きな課題を解決するために開発されました。

                                                                                              CodeMenderは、大きく分けて2つのアプローチでコードセキュリティを強化します。

                                                                                              1. リアクティブ(即時修正): 新しく見つかった脆弱性を素早く自動で修正します。
                                                                                              2. プロアクティブ(根本的改善): 既存のコードをより安全な形に書き換え、将来の脆弱性の発生を防ぎます。例えば、特定の種類の脆弱性を根本からなくすような大規模なコード改修も行います。
                                                                                              3. このAIエージェントは、Googleの最先端AIモデルである「Gemini Deep Think」をベースにしています。そのため、人間のようにコードについて深く考え、複雑な問題を解決する能力を持っています。

                                                                                                CodeMenderは、以下のような強力なツールや技術を組み合わせてコードの分析と修正を行います。

                                                                                                • 高度なプログラム分析: 「静的解析」(コードを動かさずに文法や構造を調べる)、「動的解析」(コードを実際に動かして振る舞いを調べる)、「差分テスト」、「ファジング」、そして「SMTソルバー」(論理的な問題を解く技術)などを駆使し、脆弱性の根本原因や設計上の弱点を特定します。
                                                                                                • マルチエージェントシステム: 特定の課題に特化した複数のAIエージェントを連携させることで、複雑な問題にも効率的に対応します。例えば、コードを修正した後、元の機能が損なわれていないか(「デグレード」していないか)を自動で検証するエージェントも存在します。
                                                                                                • CodeMenderが生成したコードの変更は、自動で徹底的に検証されます。これにより、「問題の根本原因が本当に解決されているか」「機能が壊れていないか」「コーディング規約に沿っているか」など、様々な観点から修正の品質が保証されます。人間が最終確認すべきは、この検証をクリアした「質の高いパッチ」のみとなるため、開発者の負担を大幅に軽減できます。

                                                                                                  Google DeepMindは、これまでにCodeMenderを使ってオープンソースプロジェクトに72件ものセキュリティ修正を提供してきました。中には、450万行もの大規模なコードベースへの貢献も含まれています。例えば、画像圧縮ライブラリ「libwebp」で過去に発見され、iOSのゼロクリック攻撃にも悪用されたバッファオーバーフローの脆弱性(プログラムが確保したメモリ領域を越えてデータが書き込まれる問題)に対して、「-fbounds-safety」という安全なコードアノテーション(特定の情報や設定をコードに追加する印)を適用し、将来的な同種の脆弱性を防止する対策を行っています。

                                                                                                  現在、CodeMenderが生成する全ての修正は、人間による最終レビューを経てから公開されています。これは、修正の品質を確実に保ち、オープンソースコミュニティからのフィードバックを慎重に受け止めるためです。Google DeepMindは、今後、重要なオープンソースプロジェクトの管理者と連携を深め、得られたフィードバックを基にCodeMenderを改善していく予定です。最終的には、このCodeMenderを全てのソフトウェア開発者が利用できるツールとしてリリースし、世界中のソフトウェアのセキュリティ向上に貢献することを目指しています。

                                                                                                  引用元: https://deepmind.google/discover/blog/introducing-codemender-an-ai-agent-for-code-security/

                                                                                                  • What Makes 5% of AI Agents Actually Work in Production?
                                                                                                  • AIエージェントを実際に製品として使えるようになるのは、実はたった5%くらいしかないって知っていましたか?この記事では、その成功するAIエージェントが何をしているのか、日本の新人エンジニアさんにもわかりやすく解説してくれています。

                                                                                                    多くの人は、AIの賢さ(モデルの性能)が大事だと思いがちですが、失敗のほとんどは、そのAIを支える「周辺システム」(コンテキスト設計、セキュリティ、メモリ管理など)がうまくできていないのが原因だそうです。

                                                                                                    「文脈(コンテキスト)」の重要性

                                                                                                    AIエージェントにとって、「モデルは土壌、コンテキストは種」という言葉があります。つまり、どんなに高性能なモデル(土壌)があっても、適切な「文脈情報(コンテキスト、種)」を与えなければ、良い結果は生まれないということです。
                                                                                                    最近よく聞くRAG(Retrieval-Augmented Generation)という技術が重要ですが、ただ情報を集めるだけではダメ。必要な情報だけを厳選し、正しく整理し、検証する「高度なコンテキストエンジニアリング」が求められます。例えば、関連性の高い情報だけを選んだり(選択的コンテキストプルーニング)、データの種類や鮮度をチェックしたり、どの情報がAIの回答に影響したかを追跡できるようにしたりします。

                                                                                                    セキュリティと信頼性の確保

                                                                                                    本番環境でAIを使う上で、特にエンタープライズ(企業)環境では、セキュリティやアクセス権限の管理が非常に重要です。誰がどんな情報にアクセスできるか、AIの出力がどの情報源に基づいているかを追跡できる「リネージ」の確保が必須です。また、同じ質問をしても、社員の役職や権限によってAIの回答が変わるようにする仕組みも必要になります。
                                                                                                    そして何よりも「信頼」が重要です。AIがアシスタントとして人間をサポートし、人間が最終的な判断を下す「Human-in-the-loop(人間が介入する)」設計が、ユーザーからの信頼を得る上で欠かせません。

                                                                                                    メモリ管理と複数モデルの使い分け

                                                                                                    AIエージェントは、過去のやり取りやユーザーの好みを覚える「メモリ」を持つことで、より賢くパーソナルな体験を提供できます。しかし、そのメモリをどう管理するか(ユーザーごとに、チームごとに、組織ごとに)、またプライバシーをどう守るかは難しい課題です。
                                                                                                    また、すべてのタスクに同じ高性能なAIモデルを使うのは効率的ではありません。簡単な質問には高速で安価なモデルを、複雑な分析には高性能なモデルを使うなど、タスクに応じて複数のモデルを賢く使い分ける「モデルオーケストレーション」の技術も進化しています。

                                                                                                    自然言語とGUIの適切な使い分け

                                                                                                    AIエージェントと対話する際に、何でもかんでもチャット形式が良いわけではありません。例えば、BIツールのような複雑なデータ分析では、自然言語で質問するときの学習コストを減らせます。しかし、一度答えが出たら、チャートの種類を変えるなどの微調整はGUI(グラフィカルユーザーインターフェース)で行いたいものです。ユーザーのニーズに合わせて、自然言語とGUIを組み合わせた設計が重要になります。

                                                                                                    これからのエンジニアに求められること

                                                                                                    これからのAI開発では、単にモデルの性能を追求するだけでなく、「質の高いコンテキスト」「適切なメモリ設計」「信頼性の高いオーケストレーション」「ユーザーが信頼できるUX」といった周辺要素が、AIエージェントの成功を左右する重要なポイントになります。
                                                                                                    新人エンジニアの皆さんも、ぜひこれらの要素を意識して、これからのAI開発に取り組んでみてください。

                                                                                                    引用元: https://www.motivenotes.ai/p/what-makes-5-of-ai-agents-actually

                                                                                                    • Not Another Workflow Builder
                                                                                                    • LangChainチームは、これまでビジュアルワークフロービルダーの開発に積極的ではありませんでした。最近OpenAIが同様のツールを発表したことを受け、LangChainがなぜこの道を選ばなかったのか、そして今後何に注力していくのかを解説しています。

                                                                                                      ノーコードのワークフロービルダーは、主に非技術者がAIエージェントを構築できるようにすることを目的としています。これは、技術者不足の解消や、非技術者が持つ具体的な業務知識をAIシステム開発に活かすためです。

                                                                                                      ここで重要なのは「ワークフロー」と「エージェント」の違いです。AIエージェントは「LLMがツールを繰り返し使って目標を達成するシステム」と定義されます。

                                                                                                      • ワークフローは、決められた手順に沿って動くため「予測しやすく」安定していますが、柔軟性(自律性)は低いです。複雑な分岐処理などを「グラフ」として視覚的に表現します。
                                                                                                      • エージェントは、自律的に判断して行動するため「柔軟性」が高い反面、結果を予測しにくい側面があります。その複雑なロジックは、自然言語の「プロンプト」に抽象化されます。
                                                                                                      • どちらも目指すのは「期待通りに動く信頼性の高いシステム」を構築することです。筆者は、OpenAIのAgentKitや既存の類似ツールは、実際には「ビジュアルワークフロービルダー」であり、真の「エージェントビルダー」ではないと指摘します。

                                                                                                        ビジュアルワークフロービルダーには、以下の課題があります。

                                                                                                        1. 参入障壁が高い: 非技術者にとって、ノードとエッジを使いこなすのは依然として難しく、決して簡単に使えるわけではありません。
                                                                                                        2. 複雑なタスクに対応しにくい: ある程度の複雑さを超えると、ノードとエッジが画面上でごちゃごちゃになり、管理が非常に困難になります。
                                                                                                        3. では、どうすれば「信頼性の高いLLMシステム」を作れるのでしょうか。筆者は問題の複雑度に応じて、最適なアプローチがあると考えます。

                                                                                                          • 高複雑度: 多くの分岐や並行処理が必要な複雑なシステムには、コードによるワークフロー(LangGraphなど)が最も適しています。これまでは専門知識が必要でしたが、AIによるコード生成技術の進化により、この障壁は低くなっていくでしょう。
                                                                                                          • 低複雑度: 比較的シンプルな問題であれば、プロンプトとツールを組み合わせた「ノーコードエージェント」で十分な性能を発揮できるようになってきました。AIモデルの性能向上に伴い、解決できる問題の範囲はさらに広がると予想されます。
                                                                                                          • このように、ビジュアルワークフロービルダーは、シンプルな問題解決ではノーコードエージェントに、複雑な問題解決ではコードによるワークフローに、それぞれ優位性を奪われる「挟み撃ち」の状態にあると筆者は主張します。

                                                                                                            LangChainが考える、今後注目すべき課題は以下の2点です。

                                                                                                            1. ノーコードで「信頼性の高い真のエージェント」を簡単に作る方法: ビジュアルワークフローではなく、よりシンプルで効果的なエージェントの作成方法。
                                                                                                            2. LLMを活用したワークフローやエージェントを生成する「コード生成AI」の性能向上: AIが自動でコードを書く能力を高め、より複雑なシステム開発のハードルを下げる。
                                                                                                            3. LangChainは、既存のノーコードワークフロービルダーを評価しつつも、より本質的なAIシステムの開発手法に焦点を当てていることがわかります。

                                                                                                              引用元: https://blog.langchain.com/not-another-workflow-builder/

                                                                                                              • お便り投稿フォーム
                                                                                                              • (株式会社ずんだもんは架空の登場組織です)

                                                                                                                0 min
                                                                                                              • 株式会社ずんだもん技術室AI放送局 podcast 20251007
                                                                                                                youtube版(スライド付き)
                                                                                                                関連リンク
                                                                                                                • Introducing AgentKit
                                                                                                                • OpenAIが、AIエージェント(特定のタスクを自律的に実行するAI)の開発をもっと簡単で効率的にするための新しいツールキット「AgentKit」を発表しました。これまでは、AIエージェントを作るには、たくさんの異なるツールを組み合わせて使ったり、エージェントの性能評価を手動で行ったりと、開発者に大きな負担がかかっていました。AgentKitは、こうした課題を解決し、エージェントの設計からデプロイ、性能改善までを一貫してサポートする、まさに「エージェント開発のためのオールインワンツール」です。

                                                                                                                  AgentKitの主な機能は以下の3つです。

                                                                                                                  1. Agent Builder (エージェントビルダー):

                                                                                                                    これは、複数のAIエージェントが連携して動く「ワークフロー」(処理の流れ)を、まるでフローチャートを描くように視覚的に作れるツールです。ドラッグ&ドロップでノード(処理の塊)を繋ぎ、エージェントの動きを直感的に設計できます。複雑なエージェントの処理も一目でわかるようになるため、開発チームやビジネス側の関係者みんなで理解しやすくなります。テスト実行やバージョン管理もできるので、試行錯誤しながら素早く改善を進められます。実際に日本の「LY Corporation」でも、わずか2時間足らずでワークアシスタントエージェントを構築できたと紹介されています。

                                                                                                                  2. Connector Registry (コネクターレジストリ):

                                                                                                                    エージェントが外部のデータソース(Dropbox、Google Drive、Sharepointなど)や、他のツールと連携するための接続設定を、一元的に管理できる場所です。企業内で多くのエージェントが様々なデータにアクセスする場合でも、管理者がすべての接続をまとめて把握・管理できるため、データ連携がよりスムーズかつ安全になります。

                                                                                                                  3. ChatKit (チャットキット):

                                                                                                                    エージェントとユーザーが会話するための「チャットUI」(ユーザーインターフェース)を、あなたのアプリやウェブサイトに簡単に組み込めるツールです。チャット画面のデザインや、エージェントの応答をリアルタイムで表示するといった機能の実装は意外と手間がかかるものですが、ChatKitを使えば、手間をかけずに製品に馴染むチャット機能を素早く追加できます。

                                                                                                                    さらに、AgentKitには、開発したエージェントの性能を評価し、改善するための強力な機能も加わりました。例えば、「Evals」という評価ツールでは、データセットを使ってエージェントの動作を自動で評価したり、より良いプロンプト(AIへの指示文)を自動で生成したりできるようになります。これにより、エージェントの信頼性や性能を客観的に測り、継続的に向上させることが可能になります。

                                                                                                                    これらのツールは、AIエージェント開発における「複雑さ」や「手間」を大きく削減してくれるでしょう。新人エンジニアの皆さんも、AgentKitを活用することで、より効率的かつ確実に、革新的なAIアプリケーション開発に挑戦できるようになります。

                                                                                                                    引用元: https://openai.com/index/introducing-agentkit

                                                                                                                    • LLM用宣言的プログラミング言語 DSPy
                                                                                                                    • この記事では、LLM(大規模言語モデル)を使ったアプリケーション開発をもっと簡単で効率的にする新しい技術「DSPy」について、新人エンジニアの方にも分かりやすく解説しています。DSPyは「Declarative Self-improving Python」の略で、特に「宣言的(Declarative)」という特徴が大きなポイントです。

                                                                                                                      これまでのLLMアプリケーション開発では、OpenAIのAPIなどを直接使う場合、LLMに与える指示文(プロンプト)を細かく書いたり、状況に合わせて複数のプロンプトを使い分けたりする必要がありました。例えば、足し算のようなシンプルなタスクでも、プロンプトの作成や管理、エラー対応、複雑な処理の組み込みなど、開発者が一つ一つコードで記述する必要があり、これがかなりの手間でした。

                                                                                                                      DSPyのすごいところは、このプロンプト作成や管理の「手間」を劇的に減らせる点にあります。「宣言的」というのは、「どうやって動かすか」という具体的な手順ではなく、「何をしたいか」という目的だけを記述するアプローチのことです。たとえば、これまでは「〇〇たす△△というプロンプトをLLMに送り、その結果を受け取る」と書いていた部分を、DSPyでは「num1とnum2という入力から、その和(sum)を出力してほしい」と宣言するだけで、LLMへの具体的な指示文(プロンプト)はDSPyが自動的に生成・調整してくれます。

                                                                                                                      実際のコード例を見ると、OpenAIのAPIを直接使った場合に数行必要だった記述が、DSPyではdspy.Predict('num1, num2 -> sum')のようにたった1行で済みます。これにより、開発者はプロンプトの細かい文言に頭を悩ませることなく、LLMに解決させたいタスクの入力と出力の形だけを定義すればよくなります。また、dspy.Signatureを使って、和だけでなく差や文字列の連結など、複数の出力を同時に得るような複雑なタスクも、明確な形で定義できます。

                                                                                                                      さらに、DSPyには「CoT(Chain Of Thought)」という、LLMが段階的に思考して答えを導き出す機能も簡単に組み込めます。これは、複雑な問題に対してLLMが「なぜその結論に至ったか」という理由(reasoning)も含めて出力してくれるもので、高度な問題解決に役立ちます。DSPyではdspy.ChainOfThoughtを使うだけで、こうした多段階の推論も宣言的に記述できます。

                                                                                                                      このようにDSPyは、LLMアプリケーション開発において、開発者が「何をさせたいか」に集中できるよう、プロンプトの設計や調整といった手間のかかる作業を自動化してくれる画期的なツールです。今後は、LLMの振る舞いを評価し、プロンプトを自動で最適化する「プロンプトチューニング」の機能も活用され、LLM開発をさらにシンプルで強力なものに変えていくことが期待されています。

                                                                                                                      引用元: https://zenn.dev/cybernetics/articles/f879e10b53c2db

                                                                                                                      • AMD and OpenAI announce strategic partnership to deploy 6 gigawatts of AMD GPUs
                                                                                                                      • 皆さん、こんにちは!今回は、テクノロジー業界で非常に大きなニュースが飛び込んできたので、要点を分かりやすく解説します。半導体大手AMDと、チャットAI「ChatGPT」で有名なOpenAIが、今後数年間にわたる大規模な戦略的パートナーシップを発表しました。これは、AIの進化をさらに加速させるための重要な一歩となります。

                                                                                                                        ● 超大規模なAIインフラ計画

                                                                                                                        今回の発表の最大のポイントは、OpenAIが次世代のAIインフラのために、なんと「6ギガワット」ものAMD製GPU(グラフィック処理装置)を導入するという点です。ギガワットは電力の単位ですが、これはAIを動かすための計算能力が途方もなく大規模であることを示しています。私たちが普段使っているPCのGPUが数Wから数百W程度であることを考えると、その規模の巨大さが想像できるでしょう。

                                                                                                                        ● なぜGPUがAIに不可欠なのか?

                                                                                                                        AI、特に「生成AI」と呼ばれるChatGPTのような技術は、膨大なデータを高速に処理する計算能力が不可欠です。GPUは、この種類の計算を非常に得意としており、AIの「脳」とも言える役割を担っています。OpenAIは、AMDの高性能GPUを活用することで、よりパワフルで高度なAIモデルを開発し、私たちが利用できるAIサービスの可能性を広げようとしています。

                                                                                                                        ● 具体的な導入スケジュールと今後の展開

                                                                                                                        この計画は2026年後半から始まり、まずは1ギガワット分のAMD Instinct MI450シリーズGPUが導入されます。MI450シリーズは、AIや高性能計算に特化したAMDの最新GPUです。この提携は単に製品を供給するだけでなく、両社が技術的な専門知識を共有し、協力してAI向けハードウェアやソフトウェアの最適化を進める、まさに二人三脚の取り組みです。これまでもMI300XやMI350Xシリーズで協力してきましたが、今回の提携でその関係はさらに深まります。

                                                                                                                        ● 両社のWin-Winな関係

                                                                                                                        AMDにとっては、OpenAIという最先端のAI開発企業に大規模にGPUを供給することで、市場における存在感をさらに高めることができます。OpenAIにとっては、AI開発に必要な計算能力を安定して、かつ先進的な技術で確保できるという大きなメリットがあります。このパートナーシップは、単なるビジネス上の取引を超え、AI業界全体の成長と発展に貢献するものと期待されています。

                                                                                                                        AMDのCEOリサ・スー氏も、OpenAIのCEOサム・アルトマン氏も、この提携がAIの可能性を最大限に引き出し、その恩恵をより早く世界中に届けるための重要なステップだとコメントしています。新人エンジニアの皆さんにとっては、AIインフラがいかに巨大なもので、その裏側でどのような企業が協力し合って未来を築いているのかを知る良い機会になるでしょう。

                                                                                                                        引用元: https://openai.com/index/openai-amd-strategic-partnership

                                                                                                                        • 最近の学生が知らなそうなIT知識
                                                                                                                        • このユニークな記事では、今の学生には馴染みがないかもしれない、懐かしいIT知識が紹介されています。例えば、液晶のドット抜けやテレホーダイ、CD-Rといった言葉に、「あとひとつは?」と読者へ問いかけ。コメント欄にはフロッピーディスクやInternet Explorer、MO、Y2Kなど、ベテランエンジニアが思わず「あったあった!」と頷くような用語が多数寄せられています。昔のIT技術や文化を知ることで、先輩たちの歩んだ歴史を感じられる、クスっと笑顔になれる楽しい記事です。

                                                                                                                          引用元: https://anond.hatelabo.jp/20251006203201

                                                                                                                          • お便り投稿フォーム
                                                                                                                          • (株式会社ずんだもんは架空の登場組織です)

                                                                                                                            13 min
                                                                                                                          • マジカルラブリー☆つむぎのピュアピュアA.I.放送局 podcast 20251006
                                                                                                                            関連リンク
                                                                                                                            • Managing context on the Claude Developer Platform
                                                                                                                            • Anthropicは、AIエージェントが長期かつ複雑なタスクをより効率的に実行できるよう、「コンテキスト管理」の新機能をClaude Developer Platformに導入しました。これは、新人エンジニアの皆さんにとって、これからのAI開発を理解する上で非常に重要なアップデートです。

                                                                                                                              従来のAIエージェントは、一時記憶(コンテキストウィンドウ)の限界から、長時間のタスクで情報を見失ったり、性能が落ちたりする課題がありました。この根本的な問題を解決するため、主に二つの新機能が提供されます。

                                                                                                                              1. コンテキスト編集(Context editing):

                                                                                                                                トークン制限に近づくと、古いツール結果など不要な情報を自動でコンテキストから削除します。これにより、エージェントは必要な情報に集中し、より長くタスクを実行できるようになり、パフォーマンスも向上します。

                                                                                                                              2. メモリツール(Memory tool):

                                                                                                                                重要な情報をコンテキスト外にファイルとして永続的に保存し、必要に応じて参照できる「長期記憶」機能です。セッションを跨いで知識を蓄積し、プロジェクトの状態維持が可能。データ保存は開発者が制御します。

                                                                                                                                これらの機能は、最新モデルClaude Sonnet 4.5と組み合わせることで、トークン使用状況を意識した効率的なコンテキスト管理が可能となり、エージェントの能力を最大限に引き出します。

                                                                                                                                この進化により、AIエージェントは大規模なコード処理、多数のドキュメント分析、長期データ処理など、これまで困難だった複雑なタスクを高精度でこなせるようになります。

                                                                                                                                実際の評価では、コンテキスト管理機能の併用により、エージェントのパフォーマンスが39%向上。トークン消費量を84%削減し、コンテキスト枯渇によるタスク失敗も劇的に減少したと報告されています。

                                                                                                                                これらの画期的な機能は現在、公開ベータ版としてClaude Developer Platformで利用可能です。ぜひ今後のAI開発に活用を検討してみてください。

                                                                                                                                引用元: https://www.anthropic.com/news/context-management

                                                                                                                                • 95%以上をLLMが実装。『みらいまる見え政治資金』を45日で完成させた、AIネイティブな開発手法についてご紹介
                                                                                                                                • この記事では、チームみらいが開発した「みらいまる見え政治資金」プロジェクトにおいて、コードの95%以上をLLM(大規模言語モデル)に実装させ、約45日という短期間で中規模アプリケーションを完成させた、AIネイティブな開発手法が紹介されています。公開後約2日で20万PVを超える反響を呼びました。

                                                                                                                                  この開発では、LLMの特性を最大限に活かすため、プロジェクト全体の設計が非常に重要視されました。具体的には、エンドユーザー向け画面、管理画面、共有オブジェクトの3パッケージに分けるモノレポ構成を採用。これにより、LLMが見通しを保ちやすく、必要に応じてパッケージ間参照も容易になるよう工夫しました。Next.js特有のクライアントサイドとサーバーサイドの混同を防ぐため、ディレクトリで明確に分け、「server-only」といったルールも適用。サーバー処理も厳格なレイヤー分けを行い、LLMは面倒がらないため、ルールに従って見通しの良い構造を維持しました。

                                                                                                                                  実装段階では、主にClaude Codeを使い、プロジェクトの設計・実装ルールを「CLAUDE.md」にまとめ、LLMに厳守させました。複雑な機能は、まず設計ドキュメントを作成させてから実装を開始しました。さらに、Figmaのデータを直接読み取れるMCPを活用し、デザインの実装もLLMに任せました。指示を細かく分割することが成功の鍵です。

                                                                                                                                  AIが書いたコードの品質を担保するためには、人間によるレビューが不可欠です。この記事では、個々のロジックよりレイヤー責務の確認を重視し、重要な処理にはユニットテストをLLMに書かせ効率的に品質を保証しました。Biomeを用いた自動フォーマットやCIでのチェックを導入し、開発を効率化しました。

                                                                                                                                  最終的に、ほぼ全ての領域をLLMに任せることができ、「100%実装も可能」だと述べられています。LLMの「忍耐強さ」を活かし、厳密なルールを例外なく適用することが、開発スピード向上につながると結論付けています。ただし、この手法はフルスクラッチ、Next.js+TypeScript、中規模アプリといった特定の条件下で特に効果を発揮します。新人エンジニアにとって、AIと協働する未来の可能性を感じさせる貴重な事例です。

                                                                                                                                  引用元: https://note.com/jujunjun110/n/na653d4120d7e

                                                                                                                                  • J-RAGBench:日本企業でRAGするときの落とし穴とは
                                                                                                                                  • 皆さん、こんにちは!今回は、RAG(Retrieval-Augmented Generation)という技術を日本企業で使う時にどんな問題が起こりやすいのか、そして最適なAIモデルを選ぶにはどうすればいいのかを明らかにする「J-RAGBench」という新しい評価ツールについて紹介します。

                                                                                                                                    RAGは、検索した情報に基づいてAI(大規模言語モデル、LLM)が回答を作る技術です。最近は様々なAIモデルが登場していますが、実際のビジネス現場でRAGを使うには、単に情報を検索するだけでなく、複数の情報をまとめて理解したり、そこから推論したり、表形式のデータを正確に読んだり、さらには情報が見つからない時に「分かりません」と適切に断る能力など、非常に複雑な能力がAIに求められます。

                                                                                                                                    しかし、これまでのAI評価ツール(ベンチマーク)では、これらの複雑な能力を十分に測ることができませんでした。そこで、株式会社neoAIの研究開発チームが、金融や製造業といった実際の業界でRAGを導入する中で直面した「落とし穴」を元に、新しい日本語RAGベンチマーク「J-RAGBench」を開発しました。

                                                                                                                                    J-RAGBenchの主な特徴は以下の通りです。

                                                                                                                                    1. 評価観点の再定義:実際のビジネスシーンでAIに求められる能力を「情報統合」「推論」「論理条件の解釈」「表形式の解釈」「回答拒否」の5つのカテゴリに体系化しています。
                                                                                                                                    2. 複数の能力を同時に評価:現実の難しい問題では複数の能力が同時に必要になるため、高難易度な複合問題を多く含んでいます。
                                                                                                                                    3. 架空シナリオの採用:AIが元々持つ知識に頼らず、与えられた情報だけを正確に読み取る純粋な外部文書参照能力を評価するために、架空の状況を設定した問題を採用しています。
                                                                                                                                    4. J-RAGBenchを使って、様々なAIモデル(API提供モデルやオープンウェイトモデル)を評価したところ、各モデルの得意・不得意が明確になりました。

                                                                                                                                      • GPT-5は、どのカテゴリにおいてもバランスよく高いスコアを示しました。
                                                                                                                                      • o3やo4 miniといったモデルは、情報からの推論は得意ですが、情報がないのにそれらしい嘘の情報を話してしまう「ハルシネーション(幻覚)」を起こしやすい傾向が見られました。
                                                                                                                                      • Claude Sonnet 4は、情報がないときに適切に「回答できません」と断る能力が非常に高く、ハルシネーションを起こしにくい「高信頼型」でしたが、他の能力はやや劣る結果でした。
                                                                                                                                      • また、詳細な分析では、AIが情報の粒度が不均一な場合に誤答したり、数値計算や複雑な表の解釈でミスしたり、根拠となる情報がないにも関わらずハルシネーションを起こしてしまうケースが確認されました。特に、小さなモデルほど、マルチホップ推論や回答拒否の能力が低い傾向にありました。

                                                                                                                                        これらの結果は、RAGシステムを実際に運用する際に、どのような用途で利用するか(例えば、バランスの取れた回答を求めるか、信頼性を最優先するか、など)に応じて、適切なAIモデルを選ぶことの重要性を示しています。J-RAGBenchは、RAGのAIモデル選定において、新人エンジニアの皆さんにとって貴重な判断材料となるでしょう。

                                                                                                                                        引用元: https://zenn.dev/neoai/articles/0998f81c39a583

                                                                                                                                        • ガストで昼間からビール飲んでるおじさんが配膳ロボットにお触りしてて、ロボットの方も「くすぐったいにゃん」とか言ってた… 何なんだこの空間は
                                                                                                                                        • ガストの猫型配膳ロボット「BellaBot Pro」が、お客さんに触られると「くすぐったいにゃん」と可愛く反応する様子が話題になっています。昼間からビールを楽しむお客さんがロボットと触れ合う光景は、AIやロボット技術が私たちの日常に自然に溶け込み、予想外の面白いコミュニケーションを生み出していることを示しています。新人エンジニアの皆さんも、こんなクスッと笑える瞬間から、人とテクノロジーの新しい関わり方に注目してみませんか。

                                                                                                                                          引用元: https://togetter.com/li/2611523

                                                                                                                                          • お便り投稿フォーム
                                                                                                                                          • VOICEVOX:春日部つむぎ

                                                                                                                                            0 min
                                                                                                                                          • 私立ずんだもん女学園放送部 podcast 20251003
                                                                                                                                            youtube版(スライド付き)
                                                                                                                                            関連リンク
                                                                                                                                            • Practical LLM Security Advice from the NVIDIA AI Red Team
                                                                                                                                            • NVIDIAのAIレッドチームが、LLM(大規模言語モデル)アプリケーション開発で直面する主要なセキュリティリスクと、その対策について実践的なアドバイスを公開しました。新人エンジニアの皆さんが、安全なLLMシステムを構築するために知っておくべき3つの重要なポイントを分かりやすく解説します。

                                                                                                                                              1. LLM生成コードの実行によるリモートコード実行(RCE)

                                                                                                                                              LLMが生成したコードを、隔離なしに実行することは非常に危険です。execやevalのような関数を使うと、悪意あるプロンプト(指示)で不正なコードが生成・実行され、「リモートコード実行(RCE)」につながり、アプリケーション全体の乗っ取りリスクが生じます。
                                                                                                                                              対策: LLM生成コードの直接実行は避けましょう。動的なコード実行が必要な場合は、WebAssemblyのような厳重に隔離された「サンドボックス」環境で実行が必須です。理想的には、LLMの応答から意図を解析し、許可された安全な機能のみを呼び出す仕組みを構築します。

                                                                                                                                              2. RAGデータソースのアクセス制御の不備

                                                                                                                                              RAG(Retrieval-Augmented Generation)はLLMに外部情報を提供しますが、ここにもリスクがあります。

                                                                                                                                              • データ漏洩: ユーザーごとのアクセス権限が不適切だと、機密情報が誤って他のユーザーに見えてしまう可能性があります。
                                                                                                                                              • 間接的プロンプトインジェクション: RAGデータストアへの書き込み権限が広すぎると、悪意あるデータが注入され、LLMの応答が操作される危険性があります。
                                                                                                                                              • 対策: 元データのアクセス権限をRAGシステムにも正確に反映し、厳しく管理してください。データストアへの書き込みアクセスは限定し、信頼できるデータのみが追加されるようにしましょう。出力される情報が質問の意図に合っているか「ガードレール」でチェックすることも有効です。

                                                                                                                                                3. LLM出力によるアクティブコンテンツのレンダリング

                                                                                                                                                LLMの出力にMarkdownやHTMLのようなアクティブコンテンツ(リンクや画像など)が含まれる場合、ユーザーが気づかないうちにブラウザを通じて機密データが攻撃者のサーバーへ送信される可能性があります。これは「データ流出」につながる重大な問題です。
                                                                                                                                                対策:

                                                                                                                                                • 画像の読み込み元を、許可された「安全なサイト」に限定する「コンテンツセキュリティポリシー(CSP)」を設定します。
                                                                                                                                                • リンクは、クリック前にユーザーがURL全体を確認できるようにするか、手動でコピー&ペーストが必要な「非アクティブ」な形式にします。
                                                                                                                                                • LLMの出力に含まれるアクティブコンテンツは、表示する前に必ず「サニタイズ(無害化)」し、悪意ある記述を取り除くことが極めて重要です。
                                                                                                                                                • これらのセキュリティ対策を開発の早い段階から取り入れることで、皆さんのLLMアプリケーションはより安全で信頼性の高いものになります。ぜひ、日々の開発に活かしてください。

                                                                                                                                                  引用元: https://developer.nvidia.com/blog/practical-llm-security-advice-from-the-nvidia-ai-red-team/

                                                                                                                                                  • RubyLLM が Ruby に洗練された AI 統合をもたらし、開発者エクスペリエンスの議論を巻き起こす
                                                                                                                                                  • 新人エンジニアの皆さん、こんにちは!今回は、Rubyというプログラミング言語でAI(人工知能)を扱うための新しいライブラリ「RubyLLM」について、わかりやすく解説します。このライブラリは、開発者がAIをもっと楽しく、スムーズに使えるようにすることを目指しており、開発者の間で大きな話題になっています。

                                                                                                                                                    RubyLLMの最大の特徴は、何と言っても「開発者エクスペリエンス(DX)」の良さです。DXとは、開発者がどれだけ快適に、ストレスなく開発できるかを示す言葉ですね。RubyLLMは、まるで普段の会話のように、自然で読みやすいコードでAIとやり取りができるように設計されています。例えば、OpenAIやGoogleのGeminiといった様々なAIモデルがある中で、それぞれバラバラのやり方でコードを書く必要がなく、RubyLLMを使えば統一されたシンプルな方法で扱えるんです。これは、複雑なAI機能を実装する際の「困った!」を減らし、「サクサク開発できる!」という喜びをくれるでしょう。他のAIライブラリと比べて、「RubyLLMはまるで新鮮な風だ」と評価する声も上がっています。Rubyの生みの親であるまつもとゆきひろさんが掲げる「開発者の幸福」という考え方が、このライブラリにもしっかり反映されていると言えますね。

                                                                                                                                                    もちろん、良い点ばかりではありません。一部の開発者からは、Rubyの並行処理(複数のタスクを同時に進める方法)について懸念が示されています。AIモデルにたくさんのリクエストを同時に送るような場合、Rubyの現在の仕組みでは、AIからの応答を待っている間、他の処理が一時的に止まってしまう可能性があり、これがパフォーマンス(処理速度)に影響するかもしれない、という議論です。しかし、ライブラリの作者もこの課題を認識しており、将来のアップデートでより効率的な処理方法を導入することを検討しているようです。これは、「使いやすさ」と「処理速度」という、ソフトウェア開発における永遠のトレードオフを考える良い機会にもなりますね。

                                                                                                                                                    「AI時代にRubyってどうなの?」という疑問を持つ人もいるかもしれません。プログラミング言語の人気ランキングでは、Rubyが以前ほど上位ではないという見方もあります。しかし、RubyLLMの登場は、AI分野でのRubyの可能性を改めて示しています。多くのAIを使ったアプリケーションでは、処理のボトルネック(一番時間がかかる部分)は、実はプログラミング言語そのものよりも、AIモデルが回答を生成する時間であることがほとんどです。実際に、Ruby on RailsのようなRuby製のフレームワークは、その予測可能な構造と整理されたルールのおかげで、AIがコードを理解したり修正したりするのに適している、という意見もあります。

                                                                                                                                                    RubyLLMは、最大限のパフォーマンスを追求する場面よりも、可読性が高く、保守しやすいコードを書きたい開発者にとって、非常に魅力的な選択肢となるでしょう。AI技術が日々進化する中で、既存の言語がどのように新しい技術と融合していくかを示す、興味深い事例と言えます。このライブラリを通じて、皆さんもAI開発の楽しさを体験してみてください。

                                                                                                                                                    引用元: https://biggo.jp/news/202503170934_RubyLLM_Elegant_AI_Integration

                                                                                                                                                    • 【書評】『AIエージェント開発/運用入門』これからAIエージェント開発を始めたいエンジニアへ
                                                                                                                                                    • この書評では、AIエージェント開発の最前線を網羅した書籍『AIエージェント開発/運用入門[生成AI深掘りガイド]』が紹介されています。これからAIエージェント開発を始めたいと考えている新人エンジニアの方や、すでにLangGraphを使っているけれど他のフレームワークも知りたい、忙しい中で体系的に知識をキャッチアップしたい方に特におすすめの一冊です。

                                                                                                                                                      本書は全8章で構成されており、まずLLM(大規模言語モデル)とAIエージェントの基本的な知識からスタートします。その後、LangGraph、Mastra、Strands Agentといった主要な開発フレームワークを使った実践的なハンズオンを通して、実際に手を動かしながら学べます。さらに、マルチエージェントやエージェンティックワークフローなどの応用的なアーキテクチャ、開発・運用に不可欠なLLMOps(MLOpsのLLM版)、そしてAIエージェントの安全性や評価方法まで、幅広いテーマが網羅されています。2025年秋時点での最新情報が盛り込まれており、この分野のトレンドを掴む上で非常に役立つでしょう。

                                                                                                                                                      特に注目したいのは、以下の2つの章です。

                                                                                                                                                      • 第5章「MastraでフルスタックのAIエージェントアプリを作ろう」:

                                                                                                                                                        Mastraというツールを使って、Webアプリケーションの要件定義からフロントエンド、バックエンド、インフラ、さらにはAWS AmplifyへのデプロイやCognitoによる認証認可まで、AIエージェントアプリ開発の一連の流れを「フルスタック」で体験できます。実際の開発現場で役立つ実践的な知識が、丁寧な解説と豊富な図解で分かりやすく学べるため、一つのアプリを作り上げる達成感を味わいながら、自信をつけることができるはずです。

                                                                                                                                                      • 第6章「応用的なAIエージェント開発に挑戦しよう」:

                                                                                                                                                        AIエージェントの設計思想、例えばエージェントの「自律性」と「制御性」のバランスの取り方や、シングルエージェントとマルチエージェントそれぞれのメリット・デメリットといった重要な考慮事項を学べます。さらに、Amazon Bedrock AgentCoreやAWSが提供するOSSのStrands Agentsを使ったマルチエージェント構築のハンズオンも体験でき、最新のツールを使った応用的な開発に挑戦できる貴重な機会となるでしょう。

                                                                                                                                                        本書は、多くのフレームワークを使ったAIエージェントやワークフロー開発、LLMOpsについて、手を動かしながら深く理解するための手助けとなる一冊です。これからのAIエンジニアとしてのキャリアを築く上で、自身の環境に最適なAIエージェント開発手法を見つけるための強力なガイドになること間違いなしです。

                                                                                                                                                        引用元: https://qiita.com/hedgehog051/items/ca64f9958addebc58cf9

                                                                                                                                                        • お便り投稿フォーム
                                                                                                                                                        • VOICEVOX:ずんだもん

                                                                                                                                                          14 min
                                                                                                                                                        • 株式会社ずんだもん技術室AI放送局 podcast 20251002
                                                                                                                                                          youtube版(スライド付き)
                                                                                                                                                          関連リンク
                                                                                                                                                          • 未だにAIを「統計的に次の単語を予測しているに過ぎない」って言ってる人いる
                                                                                                                                                          • AIの動作原理に関する議論:単なる「次の単語予測」を超えて

                                                                                                                                                            この記事では、最新のAI、特に大規模言語モデル(LLM)の能力を「統計的に次の単語を予測しているに過ぎない」と解釈することへの疑問が提起されています。筆者は、この認識では現在のAIが示す高度な成果(まるで意味を理解し、推論しているかのような振る舞い)を説明しきれないと感じています。

                                                                                                                                                            AI自身の説明と本質

                                                                                                                                                            筆者がAI自身にその仕組みを尋ねたところ、「言語と世界知識を統計的に圧縮した汎用パターン認識器」や、「次に来る単語を予測するために、言語と世界知識を高次元ベクトル空間に圧縮し、そこから最適な次語を取り出すパターン認識器」という回答が得られました。これは、単なる「予測変換」とは異なり、膨大な情報を高次元の空間で効率的に処理し、その結果として人間らしい応答や推論に近い能力を発揮していることを示唆しています。

                                                                                                                                                            「統計的予測」という言葉の裏側

                                                                                                                                                            「統計的に次の単語を予測する」という表現は、AIの基本的な動作原理を指しますが、その言葉だけを聞くと、まるで単純な辞書引きや確率計算のように誤解されがちです。しかし、実際のLLMは、私たちが話す言葉や世界の知識を数値データ(ベクトル)として「高次元ベクトル空間」に配置し、その膨大なデータのパターンから最も適切な応答を生成しています。この複雑なプロセスによって、AIは文脈を理解し、質問に答え、時にはクリエイティブな文章を生み出すことが可能になっているのです。

                                                                                                                                                            新人エンジニアへのメッセージ

                                                                                                                                                            この議論は、AIの核心的な理解を深める上で非常に重要です。AIが「統計的な予測」に基づいていることは事実ですが、その「統計的な予測」がどのような仕組みで、どれほど複雑な情報処理を経て行われているかを理解することが大切です。

                                                                                                                                                            コメント欄でも、「人間も統計的な予測をしているのではないか」「AIに真の推論能力はない」など、様々な視点からの活発な議論が展開されています。これらの多角的な意見に触れることで、AIの可能性と限界、そして人間との違いについて深く考えるきっかけとなるでしょう。

                                                                                                                                                            引用元: https://anond.hatelabo.jp/20250930225212

                                                                                                                                                            • Comprehension Debt: The Ticking Time Bomb of LLM-Generated Code
                                                                                                                                                            • 「Comprehension Debt: The Ticking Time Bomb of LLM-Generated Code(理解負債:LLMが生成するコードの時限爆弾)」というこの記事は、近年のAI、特に大規模言語モデル(LLM)が生成するコードが、開発現場にもたらす新たな課題に警鐘を鳴らしています。

                                                                                                                                                              新人エンジニアの皆さんも、もしかしたら「こんなコード、誰が書いたんだろう…」と、過去のレガシーコードの理解に苦しんだ経験があるかもしれません。昔のコードを安全に修正したり、新しい機能を追加したりするには、まずそのコードが「何をしているのか」「なぜそのように実装されているのか」を深く理解する必要があります。これは開発者にとって昔からの課題です。

                                                                                                                                                              しかし、LLMの登場により、この「理解の課題」がとてつもない規模で拡大しつつあると著者は指摘します。LLMは驚異的なスピードで大量のコードを生成するため、開発チームは自分たちが書いたわけではない、誰も読んでいないコードを大量に抱え込むリスクに直面しています。著者はこの現象を「理解負債(Comprehension Debt)」と呼んでいます。これは、後からそのコードを理解し、修正するために必要となる追加の時間のことを指します。

                                                                                                                                                              品質を重視するチームでは、LLMが生成したコードでも、人間のエンジニアが時間をかけてレビューし、理解し、必要であれば手直ししてからリポジトリにコミットします。これは非常に大切なことですが、結果としてLLMが提供する「高速なコード生成」のメリットが相殺されてしまいがちです。

                                                                                                                                                              一方で、スピードを優先するあまり、LLMが生成したコードを十分にレビューせず、また適切なテストも行わずにそのままシステムに組み込んでしまうチームも少なくありません。このような状況が蔓延すると、プロジェクトの奥深くには「誰もその中身を正確に知らない、けれどシステムを動かす上で重要なコード」がまるで時限爆弾のように蓄積されていくことになります。

                                                                                                                                                              「AIに直してもらえばいいじゃないか」と考える人もいるかもしれません。しかし、LLMを使ってコードを修正しようとすると、時には「Doom loops(無限ループ)」と呼ばれる、何度指示しても問題が解決せず、堂々巡りになるような状況に陥ることもあります。結局のところ、多くの場面で人間のエンジニアが自らコードを修正する必要が出てくるのです。その時、誰も理解していないコードを解読することに、莫大な「理解負債」の返済時間がかかることになります。

                                                                                                                                                              この記事は、LLMを開発に活用する際に、単にコード生成のスピードだけでなく、その後の保守性や可読性、そしてチーム全体の「理解」という観点から、コードの品質に深く目を向けることの重要性を教えてくれます。新人の皆さんにとっても、LLMを使う際には、生成されたコードを鵜呑みにせず、必ず内容を吟味し、理解しようと努める姿勢が今後ますます重要になるでしょう。この「理解負債」を増やさないために、私たちエンジニアがどうLLMと向き合うべきか、深く考えるきっかけとなる記事です。

                                                                                                                                                              引用元: https://codemanship.wordpress.com/2025/09/30/comprehension-debt-the-ticking-time-bomb-of-llm-generated-code/

                                                                                                                                                              • Sora 2 is here
                                                                                                                                                              • 皆さん、こんにちは!OpenAIから、最新の動画・音声生成AIモデル「Sora 2」が発表されました。これは、2024年2月に登場した初代Soraが「動画生成が初めて実用的になり始めた画期的な一歩」だったのに対し、Sora 2はそこからさらに大きく進化し、「もっと現実的で便利なレベルになった状態」へ飛躍したと位置づけられています。まるで、GPT-1からGPT-3.5への進化に匹敵する、大きな進歩なんです。

                                                                                                                                                                Sora 2の最も画期的な点は、動画における物理的な正確さとリアリズムが飛躍的に向上したことです。以前のモデルでは、例えばバスケットボールのシュートが外れても、なぜかゴールに入ってしまうような、現実とは異なる動きが生成されることがありました。しかし、Sora 2では、シュートが外れればボールがバックボードに跳ね返るなど、実際の物理法則に則った動きを忠実に再現できるようになりました。これは、AIが現実世界を深く理解し、シミュレートする能力が高まったことを意味します。

                                                                                                                                                                さらに、Sora 2は動画の「制御性」も大きく向上しています。複雑な指示に従って複数のシーンを生成したり、現実的、映画的、アニメといった多様なスタイルで動画を作ったりすることが可能です。音声面でも進化しており、動画に合わせたリアルな背景音、会話、効果音を自動で生成し、まるで本物の映画を見ているかのような臨場感を提供します。

                                                                                                                                                                そして、特に注目すべき新機能の一つが「Cameos(カメオ)」です。これは、あなた自身の姿や声をSoraが生成した動画の中に登場させられる機能です。一度短い動画と音声を登録するだけで、Soraが作り出したあらゆるシーンにあなたが「出演」できるようになります。

                                                                                                                                                                このSora 2の力を体験できるiOS向けソーシャルアプリ「Sora」も同時にリリースされました。アプリでは、自分や友達のCameosを使って動画を生成したり、友達が作った動画をリミックスしたり、自分だけのSoraフィードを楽しんだりできます。OpenAIは、このアプリを「動画をただ見る(消費)」よりも「自分で作る(創造)」に重点を置いて設計しており、友達との新しいクリエイティブなコミュニケーション手段として期待されています。

                                                                                                                                                                OpenAIは、責任ある利用にも非常に力を入れています。ユーザーがフィードの内容を細かくコントロールできる機能や、ティーンエイジャーの保護のための視聴制限、そしてCameosを使った肖像権の完全なコントロール(誰があなたのCameoを使えるか、動画を削除できるかなど)が保証されています。

                                                                                                                                                                現在、Sora iOSアプリは米国とカナダで先行リリースされており、日本を含む他の地域にも順次拡大される予定です。最初は無料で利用でき、ChatGPT Proユーザーはより高品質な「Sora 2 Pro」モデルも利用できます。将来的には開発者向けのAPIを通じた提供も計画されています。

                                                                                                                                                                Sora 2の登場は、AIが現実世界をシミュレーションし、最終的にはロボットエージェントとして機能する未来へと、私たちをさらに近づける重要な一歩です。OpenAIは、この技術が世界に新たな喜び、創造性、そして人々のつながりをもたらすと期待しています。皆さんもぜひ、Sora 2の新しい創造体験に触れてみてください!

                                                                                                                                                                引用元: https://openai.com/index/sora-2

                                                                                                                                                                • 「【至急】ご対応ください」と題したメールに今日入社する人のPCの用意をしてと書かれていた、しかも時刻は8時45分「もうちょっと早く教えてよ」「ドラえもんじゃないんだぞ」
                                                                                                                                                                • 入社日朝8時45分、新入社員のPC準備を「至急」依頼されたIT担当者のツイートが話題です。これに「ドラえもんじゃないぞ!」と多くのエンジニアが共感し、PC・アカウント未準備で業務開始が遅れた「あるある」体験談が多数投稿されました。新人エンジニアは、円滑な業務開始のため、IT環境の事前準備の重要性を学ぶ、クスッと笑えるエピソードです。

                                                                                                                                                                  引用元: https://togetter.com/li/2609936

                                                                                                                                                                  • お便り投稿フォーム
                                                                                                                                                                  • (株式会社ずんだもんは架空の登場組織です)

                                                                                                                                                                    0 min

                                                                                                                                                                  About 株式会社ずんだもん技術室AI放送局

                                                                                                                                                                  From the publisher's feed

                                                                                                                                                                  AIやテクノロジーのトレンドを届けるPodcast。平日毎朝6時配信。朝の通勤時間や支度中に情報キャッチアップとして聞いてほしいのだ。(MC 月:春日部つむぎ、火水木:ずんだもん、金:お嬢様ずんだもん)