March 10, 2025

株式会社ずんだもん技術室AI放送局 podcast 20250311

7 minutes

関連リンク

LM Studio を使ってローカルでLLMを実行する方法

LM Studioは、GUIでLLMをローカル実行できるツール。Llama、Mistral等に対応。

手順:

公式サイトからDL・インストール

Power Userモードでモデル(日本語対応のLlama-3-ELYZA-JP-8B-GGUF等)を検索・DL

チャットで動作確認

開発者モードでAPI情報を取得し、Pythonから利用

単体実行またはOpenAI経由で実行

複数のLLMをローカルで動かし、哲学者を模した討論シミュレーションも可能。プライバシーを守りつつLLM活用を促進。

引用元: https://techblog.insightedge.jp/entry/local-llm

MCPはLLMにとってのDependency Injectionである

この記事では、LLM（大規模言語モデル）におけるMCP（Model Context Protocol）を、ソフトウェア開発のDependency Injection（DI）になぞらえて解説しています。MCPは、LLMが外部ツールやデータソースを利用する際の標準化されたインターフェースを提供し、LLMの機能拡張や再利用性を高めます。DIと同様に、疎結合、交換可能性を実現し、機能の分離、セキュリティ強化、柔軟なデプロイを可能にします。

MCPクライアントはDIコンテナとして機能し、LLMと外部ツールの連携を管理します。今後の展望として、MCP標準の拡張、AIエージェントフレームワークの開発、特定用途向けMCPサーバーの増加などが期待されています。

引用元: https://zenn.dev/tesla/articles/3d1ba14614f320

言語モデルの内部機序：解析と解釈

2025年3月10日、言語処理学会でのチュートリアル「言語モデルの内部機序：解析と解釈」のスライドの要約です。

言語モデルの理解には、モデルの入出力だけでなく、内部の表現や計算過程を解析・解釈することが重要です。

解析では、モデルを抽象化・単純化し、人間が理解できるレベルまで落とし込みます。

解釈では、モデルの表現や計算を言語、世界、知識と紐付け、意味を与えます。

内部表現の分析では、ニューロンの重みや活性値、ベクトル集合の構造などを調べます。計算過程の分析では、注意機構のパターン、語彙空間への射影、出力への影響度、サブネットワークなどを調べます。

ただし、この方法には限界があり、機能の局在性や一対一対応という前提が常に成り立つとは限りません。「表現と計算」という視点自体にも懐疑的な意見があります。

引用元: https://speakerdeck.com/eumesy/analysis_and_interpretation_of_language_models

ITに近い環境にいると全く分からないと思いますが多くの中小企業はLANやAD・ファイルサーバーにオフィスアプリとパワポくらいしかITを使ってません

IT業界にいると忘れがちですが、中小企業ではIT活用が進んでいないケースが多くあります。LAN、AD、ファイルサーバー、Word、Excel、PowerPoint程度で、SaaSを活用していても、基本的なレベルに留まっているのが現状です。