株式会社ずんだもん技術室AI放送局

株式会社ずんだもん技術室AI放送局

By 株式会社ずんだもん技術室AI放送局Technology
Download on the App Store

株式会社ずんだもん技術室AI放送局 episodes

  • 株式会社ずんだもん技術室AI放送局 podcast 20241106
    関連リンク
    • xAI、Grok APIを一般公開|月額25ドルの無料クレジットで開発者獲得へ - イノベトピア
    • イーロン・マスク氏率いるxAIが、大規模言語モデルGrokのAPIを一般公開しました。11月4日より、月額25ドル分の無料クレジットを提供し、開発者獲得を目指しています。Grok APIは、入力トークン100万件あたり5ドル、出力トークン100万件あたり15ドルで利用できます。コンテキスト制限は131,072トークンです。

      現在利用可能なのはgrok-betaモデルのみで、OpenAIやAnthropicのSDKと互換性があり、Python、JavaScript、Goなど主要なプログラミング言語をサポートしています。 xAIは、テネシー州メンフィスの「Colossus」という世界最大級のAIトレーニングシステム(10万台のNVIDIA H100 GPU、将来的には20万台規模に拡張予定)を用いてGrokを開発しており、その処理能力は10.6エクサフロップスを超えると推測されています。推定投資額は40億ドル以上とされています。

      Grokは既存モデルとは異なる「反抗的な性質」を持つ点が特徴です。 API価格は競合他社と比較してやや高めですが、Xプラットフォームのリアルタイムデータを利用した学習モデルという独自性があります。開発者は、この新しいAPIを用いて革新的なアプリケーション開発に挑戦できます。 環境への影響も懸念されており、今後の大規模化には配慮が必要となります。 xAIの公式サイトでAPIドキュメント等を確認できます。

      引用元: https://innovatopia.jp/ai/ai-news/44493/

      • Updated production-ready Gemini models, reduced 1.5 Pro pricing, increased rate limits, and more
      • Googleは、本番環境対応のGeminiモデルを2種類更新し、Gemini-1.5-Pro-002とGemini-1.5-Flash-002をリリースしました。今回のアップデートでは、以下の改善がなされています。

        • 価格改定: Gemini 1.5 Proの入力・出力トークン価格が50%以上削減されました(128Kトークン未満)。
        • レート制限の増加: Gemini 1.5 Flashは2倍、1.5 Proは約3倍、レート制限が向上しました。
        • パフォーマンス向上: 出力速度が2倍、レイテンシが3倍低減されました。
        • モデル品質の向上: 数学、ロングコンテキスト、ビジョン処理において、大幅な性能向上を実現しました。MMLU-Proベンチマークで約7%、MATHとHiddenMathベンチマークで約20%の改善が見られました。コード生成や画像理解でも2~7%の性能向上を確認しています。レスポンスの簡潔性も向上し、より多くの情報を効率的に取得できます。
        • デフォルトフィルター設定の更新: セキュリティと信頼性を向上させつつ、開発者が用途に最適な設定を選択できるように、デフォルトではフィルターが適用されなくなりました。
        • これらのモデルは、Google AI Studio、Gemini API、Vertex AIを通じてアクセス可能です。特にGemini 1.5 Proは、最大200万トークンのロングコンテキストウィンドウとマルチモーダル機能を活用した、様々な用途への応用が期待されています。 より高速でコスト効率の良い開発が可能になり、より多くの開発者がGeminiを活用できる環境が整いました。 今後、Gemini APIのレート制限もさらに引き上げられる予定です。 Gemini-1.5-Flash-8B-Exp-0924という実験的なモデルもリリースされており、テキストとマルチモーダル用途での性能向上が図られています。

          今回のアップデートは、既存ユーザーにとっても、新規参入者にとっても、より使いやすく、コスト効率の良い開発環境を提供するものと言えます。 詳細については、関連するGoogleのドキュメントを参照ください。

          引用元: https://7a0e920-dot-gdm-deepmind-com-prod.appspot.com/discover/blog/updated-production-ready-gemini-models-reduced-15-pro-pricing-increased-rate-limits-and-more/

          • iOS 18.2 beta adds ‘Upgrade to ChatGPT Plus’ option in Settings app - 9to5Mac
          • iOS 18.2ベータ版で、設定アプリ内にChatGPT Plusへのアップグレードオプションが追加されました。これは、iOS 18.2に搭載されたSiriとAIライティングツールへのChatGPT統合の一環です。

            iOS 18.2では、システム全体でOpenAIのアシスタントがSiriの代替として機能し、既存のAppleのライティングツールを補完する形でChatGPTが統合されています。 AppleとOpenAIは、このChatGPT統合において、アップグレードしたユーザーからの収益を共有する合意を結んでいるようです。

            設定アプリから「Apple IntelligenceとSiri」→「ChatGPT」を選択することで、「ChatGPT Plusにアップグレード」オプションが表示されます。ChatGPTの統合は無料アカウントでも利用可能ですが、有料アカウント(ChatGPT Plus、月額19.99ドル)にアップグレードすることで、以下の追加機能を利用できます。

            • GPT-4へのメッセージ送信回数5倍増加、さらに高度なモデルへのアクセス
            • 写真やファイルのアップロード、画像生成、ウェブブラウジングの上限値の引き上げ
            • ChatGPTの高度な音声モードによる、より自然でリアルタイムな会話
            • 無料プランではChatGPTの使用に制限があり、設定アプリで制限状況を確認できます。 有料版のChatGPT Plusの全機能リストはOpenAIのウェブサイトで確認可能です。 本記事では、ChatGPT Plusへのアップグレードオプションの提供について、読者の意見を求めています。

              引用元: https://9to5mac.com/2024/11/04/ios-18-2-beta-adds-upgrade-to-chatgpt-plus-option-to-the-settings-app/

              • お便り投稿フォーム
              • (株式会社ずんだもんは架空の登場組織です)

                10 min
              • 株式会社ずんだもん技術室AI放送局 podcast 20241105
                関連リンク
                • OmniGen: Unified Image Generation
                • 本論文は、統一的な画像生成を行う新しい拡散モデル「OmniGen」を紹介しています。既存のStable Diffusionなどの拡散モデルは、ControlNetやIP-Adapterといった追加モジュールを必要とするのに対し、OmniGenはそれらを必要としません。

                  OmniGenの主な特徴は以下の3点です。

                  1. 統一性: テキストからの画像生成だけでなく、画像編集、被写体駆動型生成、視覚条件付き生成といった様々な下流タスクを内包的にサポートします。さらに、エッジ検出や人物姿勢認識といった古典的なコンピュータビジョンタスクも、画像生成タスクに変換して処理できます。

                  2. シンプルさ: 追加のテキストエンコーダを必要としない簡素化されたアーキテクチャを採用しており、既存の拡散モデルと比較してユーザーフレンドリーです。複雑なタスクも、事前処理(例:人物姿勢推定)なしに指示だけで実行でき、画像生成のワークフローを大幅に簡素化します。

                  3. 知識転移: 統一的なフォーマットで学習することで、異なるタスク間での知識転移が効果的に行われ、未知のタスクやドメインにも対応し、新たな能力を示します。また、モデルの推論能力と、思考連鎖機構の潜在的な応用についても検討されています。

                    OmniGenは、汎用的な画像生成モデルへの最初の試みであり、解決すべき課題も残されています。関連リソースはGitHub (このURL - 本要約ではURLへのアクセスは行いません)で公開される予定です。 これは、この分野の進歩を促進することを目的としています。 新人エンジニアの皆さんにとって、OmniGenは様々な画像生成タスクをシンプルに処理できる強力なツールとなる可能性を秘めていると言えるでしょう。

                    引用元: https://arxiv.org/abs/2409.11340

                    • New Paper Co-authored by Tepper School Researchers Articulates How Large Language Models Are Changing Collective Intelligence Forever - Tepper School of Business - Carnegie Mellon University
                    • カーネギーメロン大学のテッパービジネススクールなどの研究者らが執筆した論文が、Nature Human Behavior誌に掲載されました。この論文は、大規模言語モデル(LLM)が集団知能に与える影響について論じています。

                      集団知能とは、多くの人々の協調、共同作業、競争から生まれる共有された知能であり、合意形成的な意思決定に現れます。論文では、LLMが集団知能をどのように変革するか、その可能性とリスクの両方を強調しています。

                      LLMは、情報収集とコミュニケーションを促進することで、グループの協調と意思決定を向上させる可能性を秘めています。例えば、異なるバックグラウンドや言語を持つ人々のコミュニケーションを容易にし、より効果的なコラボレーションを可能にします。多様な意見をスムーズに共有することで、より包括的で生産性の高いオンライン交流を促進するのです。

                      しかし、LLMには課題もあります。一つは、LLMが利用可能なオンライン情報から学習するため、少数派の意見を見落としたり、一般的な意見を強調したりすることで、誤った合意を生み出す可能性があることです。もう一つは、オンライン上の情報には誤った情報や誤解を招くデータが含まれていることが多く、LLMが適切に管理されない場合、それらを拡散してしまう可能性がある点です。データの正確性を確保するための綿密な監視と定期的な更新が不可欠であり、責任あるLLMの利用が、集団的意思決定における誤った結果を避けるために重要になります。

                      研究者らは、特に政策決定や公共討論において、LLMの倫理的および実践的な意味合いをさらに探求する必要性を強調しています。 LLMを責任ある方法で使用するためのガイドラインの開発を提唱しており、集団知能を支援しながら、個人の多様性と表現を維持することを目指しています。 この論文は、LLMが集団知能に与える大きな影響と、その活用における慎重な考慮の必要性を改めて示しています。

                      引用元: https://www.cmu.edu/tepper/news/stories/2024/september/collective-intelligence-and-llms.html

                      • ほぼリアルタイム!?爆速で動作する日本語特化の文字起こしAI!『kotoba-whisper-v2.0』
                      • この記事は、Kotoba Technologiesが開発した日本語特化の音声認識モデル「kotoba-whisper-v2.0」を紹介しています。OpenAIのWhisper大型モデルを蒸留技術で最適化することで、同等の精度を維持しつつ、推論速度を約6.3倍高速化を実現しています。

                        kotoba-whisper-v2.0のメリット:

                        • 高速処理: 特に長時間の音声データ処理において、OpenAIのWhisper large-v2と比較して約6倍高速です。短い音声データでは約10秒、20分の音声データでも約3分で処理できます。
                        • 高精度: 日本語に特化してトレーニングされており、専門用語や日常会話のニュアンスも正確に捉えます。OpenAIのWhisper large-v2と同等かそれ以上の精度を誇ります。
                        • ローカル環境での動作: クラウドにデータを送信する必要がないため、セキュリティ面で安心です。機密情報の取り扱いが必要な企業や組織に最適です。
                        • 無料利用可能: Hugging Faceで公開されており、誰でも無料で利用できます。
                        • 技術的な概要:

                          Whisper large-v3を教師モデルとして、蒸留技術を用いて開発されました。日本語話者特化のリソースであるReazonSpeechを用いて、約720万の音声クリップでトレーニングされています。 Flash Attention 2を用いることで更なる高速化が可能です。

                          環境構築 (概要):

                          NVIDIA GeForce RTXシリーズGPU(推奨)、16GB以上のメモリ、Python 3.8以上が必要です。必要なライブラリはpipコマンドでインストールできます。

                          まとめ:

                          kotoba-whisper-v2.0は、高速性と高精度を両立した日本語音声認識モデルです。ローカル環境で動作する安全性も魅力で、大量の音声データ処理やセキュリティを重視する場面で非常に有効なツールと言えます。

                          新人エンジニアへの補足:

                          このモデルは、既存のWhisperモデルを改良したもので、特に日本語の音声認識に特化しています。高速処理は、大量の音声データの処理時間を大幅に削減し、開発効率の向上に貢献します。また、ローカル環境での動作は、データセキュリティの観点から非常に重要です。 環境構築は、一般的なPython環境とGPUがあれば比較的容易に実行できます。 記事では具体的なコード例も掲載されているので、それを参考にしながら試してみることをお勧めします。

                          引用元: https://qiita.com/ryosuke_ohori/items/9634c1fd8a9cc9ff7c36

                          • お便り投稿フォーム
                          • (株式会社ずんだもんは架空の登場組織です)

                            8 min
                          • 株式会社ずんだもん技術室AI放送局 podcast 20241101
                            関連リンク
                            • Gemini in Android Studio, now helping you across the development lifecycle
                            • Android Studioに搭載されたAIコーディングアシスタント「Gemini」の大規模アップデートがリリースされました。今回のアップデートでは、開発ライフサイクルの全段階でAIを活用できるようになり、生産性の向上に大きく貢献します。

                              主な新機能は以下の通りです。

                              1. コード編集・改善機能:

                              • Gemini Code Transforms: プロンプトによるコードの修正やリファクタリングが可能になります。複雑なコード変更も簡単に実行できます。
                              • コミットメッセージ生成: コード変更を分析し、適切なコミットメッセージを自動生成します。バージョン管理の効率化に役立ちます。
                              • Rethink and Rename: クラス、メソッド、変数名の変更を支援します。より直感的で分かりやすい名前に変更できます。
                              • プロンプトライブラリ: よく使うプロンプトを保存・管理できます。再利用することで作業時間を短縮できます。
                              • ドキュメント生成: 選択したコードスニペットのドキュメントを簡単に生成できます。コードの可読性向上に役立ちます。
                              • 2. UI開発支援機能:

                                • Composeプレビューの自動生成: Composeを使ったUI開発において、プレビューに必要なモックデータを自動生成します。UIデザインの確認を迅速化できます。
                                • マルチモーダル対応(近日公開予定): 画像をコンテキストとして利用できるようになり、より直感的なUIデザインが可能になります。
                                • 3. アプリ品質向上機能:

                                  • 単体テストシナリオ生成: ローカルのコードコンテキストに基づいて、単体テストのシナリオを自動生成します。テスト作成の負担を軽減できます。
                                  • ビルド/同期エラー分析: ビルドや同期エラーに関する分析機能が強化されました。エラー解決の時間を短縮できます。
                                  • App Quality Insightsの機能強化: Google Play ConsoleとFirebase Crashlyticsから報告されたクラッシュに関する分析と修正提案機能が強化され、ローカルコードコンテキストも活用できるようになりました。バグ修正の迅速化につながります。
                                  • GeminiはAndroid StudioのCanaryチャンネルで利用可能です。多くの機能は年末にリリースされるLadybug Feature Dropで安定版チャンネルにも提供される予定です。

                                    制約事項:

                                    Geminiの開発支援機能を利用するには、ソースコードをサーバーに送信することに同意する必要があります。GoogleはAIの責任ある利用に尽力しており、ユーザーのプライバシー保護にも配慮しています。詳細については、提供されているプライバシーに関するドキュメントを参照ください。

                                    新人エンジニアの皆さんにとって、GeminiはAndroidアプリ開発における強力な味方となるでしょう。ぜひ活用して、効率的な開発を目指してください。

                                    引用元: https://android-developers.googleblog.com/2024/10/whats-new-in-gemini-in-android.html

                                    • Playwrightを参考にブラウザ内テキスト検索を高速化する (事例紹介:サードパーティスクリプト提供会社)
                                    • 本事例は、サードパーティスクリプト提供会社(社名は非公開)におけるブラウザ内テキスト検索の高速化プロジェクトの報告です。 既存のブラウザ自動操作技術(E2Eテスト応用)では、テキスト検索が遅いため、Playwrightのコードを参考に高速化を図りました。

                                      まず、PlaywrightのChrome拡張機能からテキストセレクタ生成コード(InjectedScript)を移植・調査しました。Playwrightは独自のセレクタを用いてテキスト検索を実現しており、DOM全体を走査してテキストインデックスを作成していました。このインデックス作成と、DOM変更監視のためのMutationObserverが、パフォーマンスボトルネックとなっていました。

                                      計測にはDevToolsのPerformanceタブを使用し、特にJavaScriptタスクの処理時間をBottom-Up表示で分析しました。その結果、lodash.isElementによる要素判定(約9ms)と、PlaywrightのelementText関数によるテキストインデックス作成(約13ms)が問題点として浮上しました。

                                      lodash.isElementについては、el instanceof HTMLElementに置き換えることで、不要なオブジェクト走査を排除し、処理時間をゼロに削減しました。これは、lodashがIE時代のレガシーコードを含み、現代の環境ではオーバーヘッドとなることを示しています。

                                      elementText関数については、DOM走査にdocument.createTreeWalkerを使用することで大幅な高速化を実現しました。createTreeWalkerは、従来のforループによるDOM走査に比べて10倍以上の速度向上を示すベンチマーク結果も確認しています。 さらに、検索クエリを事前に把握していることを活かし、検索クエリに完全一致するテキストノードのみを抽出することで、インデックス処理時間を2ms、検索時間を0.1msにまで短縮しました。

                                      本プロジェクトを通して、以下の知見を得ました。

                                      • 木構造のトラバースは遅い。document.createTreeWalkerを用いることで高速化できる。
                                      • ライブラリ関数は、過剰な汎用性によりパフォーマンスを低下させることがある。必要に応じて、より制約の強い実装に置き換えることで高速化できる。
                                      • 現代のフロントエンド開発では、DOM操作のコストを意識することが重要である。
                                      • 本事例は、既存のライブラリを適切に活用し、パフォーマンスボトルネックを特定・解決することで、ブラウザ内テキスト検索を大幅に高速化できたことを示しています。 特に新人エンジニアにとって、DevToolsによるパフォーマンス計測と、ライブラリ関数の適切な選択・改良の重要性を示唆する事例となっています。

                                        引用元: https://zenn.dev/mizchi/articles/fast-dom-text-search

                                        • Pythonプロジェクトでflat layoutではなくsrc layoutが推奨される理由を理解する
                                        • Pythonプロジェクトのディレクトリ構成には、パッケージをプロジェクトルート直下に置くflat layoutと、srcサブディレクトリに置くsrc layoutの2種類があります。多くのPythonプロジェクトではsrc layoutが推奨されています。その理由は、テストの安全性にあります。

                                          flat layoutでは、Pythonインタプリタがカレントディレクトリをインポートパスの先頭に置くため、開発中のコードが誤ってインポートされる可能性があります。例えば、テストコードがまだパッケージに含まれていない開発中の関数を呼び出してしまうと、テストが通ってしまい、潜在的なバグを見逃す危険性があります。

                                          一方、src layoutでは、パッケージはsrcディレクトリ内に配置され、ビルド時にパッケージ化されます。テストを実行する際には、ビルド済みのパッケージが使用されるため、開発中のコードが誤って実行されることはありません。テストは、実際にリリースされるコードに対して行われるため、より信頼性の高いテスト結果が得られます。

                                          記事では、flat layoutとsrc layoutでそれぞれパッケージを作成し、テストを実行する実験が行われています。その結果、flat layoutでは開発中のコードが意図せず使用され、テストが誤って成功するケースが確認されました。src layoutでは、開発中のコードが使用されず、テストが適切に失敗することで、問題を早期に発見できることが実証されました。

                                          ただし、多くの著名なPythonプロジェクト(pandas、numpy、scikit-learnなど)はflat layoutを採用しています。これは、テスト方法やプロジェクトの規模、開発スタイルなど、様々な要因が影響していると考えられます。src layoutはテストの安全性という点で優れていますが、プロジェクトの状況に応じてflat layoutを選択することもあります。

                                          新人エンジニアとして、Pythonパッケージ開発を始める際には、src layoutを採用することで、テストの信頼性を高め、バグを早期に発見できる可能性が高まります。 flat layoutとsrc layoutのそれぞれのメリット・デメリットを理解し、プロジェクトの状況に合わせて適切な構成を選択することが重要です。 本記事は、src layoutの利点を理解するための良い例題となっています。 GitHubリポジトリには、flat layoutとsrc layoutの具体的な実装例とテストコードが公開されているので、ぜひ参照して理解を深めてください。

                                          引用元: https://nsakki55.hatenablog.com/entry/2024/10/28/095509

                                          • お便り投稿フォーム
                                          • (株式会社ずんだもんは架空の登場組織です)

                                            5 min
                                          • 株式会社ずんだもん技術室AI放送局 podcast 20241031
                                            関連リンク
                                            • Gemini Models on GitHub Copilot
                                            • Google CloudとGitHubのパートナーシップにより、GitHub CopilotにGeminiモデルが導入されます。 まず、Gemini 1.5 Proが利用可能になり、今後数週間以内にCopilotユーザーは利用できるようになります。

                                              Gemini 1.5 Proは、コード生成、分析、最適化といった開発者にとって一般的なユースケースに優れています。最大200万トークンという長いコンテキストウィンドウを備えているため、10万行以上のコードを処理し、修正案の提案やコードの動作説明を行うことが可能です。

                                              GitHub Copilotの新しいモデル選択機能を通じて、Gemini 1.5 Proを選択できるようになります。利用可能なプラットフォームは、github.com、Visual Studio Code、Visual Studio向けのCopilot拡張機能などです。 Copilot ChatでもGemini 1.5 Proを使用できます。

                                              これは、開発者がニーズに最適なモデルを選択できる柔軟性と制御性を重視する姿勢を示しており、AIによるコード生成の次の段階は、単一モデルではなく、複数のモデルから選択できるようになることを意味します。 Geminiモデルは、Gemini API、Google AI Studio、Vertex AI、Google Cloud、Workspace、Android Studio、Firebase、Colabなど、多くの主要なプラットフォームや環境で開発者エクスペリエンスをサポートしています。Google独自のコード支援ツールであるGemini Code Assistも、Visual Studio CodeやJetBrains IDEなど、一般的な統合開発環境(IDE)で利用可能です。

                                              本発表は、開発者にとって多様な選択肢を提供する重要な一歩であり、今後、より高度で効率的なコード開発を支援する技術革新が期待されます。 新人エンジニアにとっても、様々な環境で利用可能なGeminiモデルとGitHub Copilotの連携は、開発効率の向上に大きく貢献するでしょう。

                                              引用元: https://cloud.google.com/blog/products/ai-machine-learning/gemini-models-on-github-copilot

                                              • Creating a LLM-as-a-Judge That Drives Business Results –
                                              • 本記事は、LLM(大規模言語モデル)を用いてAIシステムの評価を行うための実践的なガイドです。AI開発チームが抱えるデータ量増加や、曖昧な評価指標による非効率性といった問題を解決する手法として、「Critique Shadowing(批評による影付け)」という手法を紹介しています。これは、LLMを「判定者」として活用し、AI出力の評価を効率化する方法です。

                                                問題点: 多くのAIチームは、多数の指標を用いた複雑な評価システムに苦戦しています。指標が多すぎたり、評価尺度が曖昧であったり、ドメイン専門家の知見が活用されていなかったりすることで、信頼できるデータが得られず、開発の進捗が滞ることが多々あります。

                                                解決策: Critique Shadowingでは、以下のステップでLLMを「判定者」として活用します。

                                                ステップ1:主要ドメイン専門家の特定: AI製品の成功に不可欠な専門知識を持つ人物(複数でも可)を特定します。この専門家は、技術的な側面だけでなく、ユーザーニーズの観点からも評価を行います。

                                                ステップ2:データセットの作成: AIが本番環境で遭遇する様々な状況を網羅したデータセットを作成します。これは、AIの機能(Feature)、想定される状況(Scenario)、ユーザー像(Persona)といった次元で構成されます。既存データとLLMを用いた合成データの両方を活用することが推奨されます。

                                                ステップ3:パス/フェイル判定と批評: 主要ドメイン専門家は、AIの出力に対して「パス」または「フェイル」の判定を行い、その理由を詳細に記述した批評を作成します。複雑な数値評価ではなく、単純な二値判定が、重要な点を明確にする上で有効です。批評はLLM判定器のプロンプト作成に必須です。

                                                ステップ4:エラー修正: データセットのレビューを通じてAIシステムのエラーが発見された場合は、修正してから次のステップに進みます。

                                                ステップ5:LLM判定器の構築: 主要ドメイン専門家による判定結果と批評を基に、LLM判定器のプロンプトを構築します。専門家の判定とLLM判定器の判定結果の一致率を高めるために、プロンプトを繰り返し改良します。

                                                ステップ6:エラー分析: LLM判定器を用いて評価した結果、エラー率の高い領域を特定し、その原因を分析します。これにより、AIシステムの改善に集中すべき点を明確にできます。

                                                ステップ7:専門的なLLM判定器の作成(必要に応じて): エラー分析の結果に基づき、必要に応じて特定のエラーに焦点を当てた専門的なLLM判定器を作成します。

                                                重要なポイント: この手法の真の価値は、データの精査と分析にあります。LLM判定器は、データ分析を促すためのツールと捉えるべきです。 また、本手法は、状況に応じて柔軟に適用できることを理解しておくことが重要です。

                                                本記事では、各ステップの詳細な手順やLLMプロンプト例、よくある質問への回答などが示されていますが、本要約では簡潔に概要を説明しました。より詳細な情報は、元記事を参照ください。

                                                引用元: https://hamel.dev/blog/posts/llm-judge/

                                                • LlamaPReview - GitHub Marketplace
                                                • LlamaPReviewは、GitHubのプルリクエスト(PR)を自動的にレビューするAIアシスタントです。GitHub Marketplaceで提供されており、ワンクリックインストールで簡単に導入できます。現在、無料で利用可能です。

                                                  主な機能は以下の通りです。

                                                  • 完全自動化されたレビュー: PR作成時に自動的にレビューを行い、包括的なコメントを投稿します。設定不要で、すぐに利用できます。
                                                  • 高度なコード理解: 単なるコードスキャンではなく、リポジトリ全体のコンテキストを理解し、構文エラーから複雑な論理的な欠陥まで、潜在的な問題を特定します。コード間の関係性や依存関係も考慮に入れた分析を行います。
                                                  • 多言語対応: JavaScript、C++、Python、PHP、Java、Scala、Go、Rust、Kotlin、TypeScriptなど、主要なプログラミング言語をサポートしています。
                                                  • 無料利用: クレジットカード情報などの入力は不要で、全ての機能を無料で利用できます。
                                                  • LlamaPReviewは、シニアエンジニアによるレビューのような詳細なフィードバックを提供することで、コードの品質向上に貢献します。GitHub Actionsとの統合も可能で、CI/CDパイプラインへのシームレスな組み込みを実現できます。 新人エンジニアにとっても、学習コストが低く、効率的なコードレビューを行う上で非常に有用なツールと言えます。 無料であるため、気軽に試してその効果を実感できます。

                                                    引用元: https://github.com/marketplace/llamapreview

                                                    • お便り投稿フォーム
                                                    • (株式会社ずんだもんは架空の登場組織です)

                                                      6 min
                                                    • 株式会社ずんだもん技術室AI放送局 podcast 20241030
                                                      関連リンク
                                                      • GitHub - Integuru-AI/Integuru: An AI agent that builds third-party integrations through reverse engineering platforms internal APIs.
                                                      • Integuruは、プラットフォームの内部APIをリバースエンジニアリングすることで、統合コードを生成するAIエージェントです。ブラウザのネットワークリクエストを記録したHARファイルと、実行したいアクションを記述したプロンプトを入力すると、そのアクションを実行するPythonコードを出力します。

                                                        具体的には、ユーザーがブラウザでアクションを実行した際のネットワークリクエストを分析し、依存関係グラフを生成します。このグラフは、目的のアクションに必要なリクエストとその依存関係を示しています。 例えば、請求書のダウンロードをしたい場合、アカウントIDやユーザーIDを取得するリクエストが依存関係としてグラフ上に表現されます。Integuruは、このグラフを辿りながら、各リクエストをPython関数に変換し、最終的に目的のアクションを実行する統合コードを生成します。

                                                        必要な設定としては、OpenAI APIキーの設定と、Poetryを用いたPython依存関係のインストールです。 create_har.pyスクリプトを用いてブラウザのネットワークリクエストを記録し、integuruコマンドを実行することで、コード生成が可能です。 生成されたコードは、プラットフォームの内部エンドポイントを呼び出して、指定したアクション(例えば、請求書のダウンロード)を実行します。

                                                        Integuruは、リクエストの依存関係グラフの生成、入力変数のサポート(コード生成への対応は近日予定)、コード生成機能を備えています。 現状、GPT-4相当以上のOpenAIモデルの使用が推奨されています。 このプロジェクトはオープンソースであり、貢献も歓迎されています。 開発元であるInteguru.aiは、カスタムインテグレーションや追加機能の開発、ホスティング、認証サービスも提供しています。

                                                        本要約は、GitHubリポジトリの概要と制約事項に焦点を当て、使用方法等の詳細は省略しています。 新人エンジニアにも理解しやすいよう、平易な言葉で説明しています。

                                                        引用元: https://github.com/Integuru-AI/Integuru

                                                        • How the New Raspberry Pi AI HAT Supercharges LLMs at the Edge
                                                        • この記事は、ラズベリーパイ用の新しいAIアクセサリハット(AI HAT)が、エッジデバイス上で大規模言語モデル(LLM)の性能を大幅に向上させる方法について説明しています。 Novusteck社によるこのAI HATは、エッジコンピューティングにおけるLLMの実用化を促進する重要な技術革新です。

                                                          具体的な機能や使用方法の詳細については記事本文を参照いただくとして、本要約では概要と制約事項に焦点を当てます。 このAI HATは、限られたリソースを持つラズベリーパイのような小型デバイスでも、複雑なLLMを効率的に実行できるように設計されています。 これにより、電力消費や計算能力の制約から、これまでエッジでのLLM活用が困難だった様々なアプリケーションが可能になります。例えば、リアルタイム翻訳、音声認識、画像認識といったタスクを、クラウドに依存することなく、デバイス上で直接処理できるようになります。

                                                          ただし、このAI HATの使用にはいくつかの制約があると考えられます。 記事では明示的に記載されていないかもしれませんが、想定される制約として、処理できるLLMのサイズや複雑さには限界があること、リアルタイム処理に必要なデータ転送速度やメモリ容量の制限があることなどが挙げられます。 また、特定のLLMフレームワークやソフトウェアライブラリとの互換性、必要なセットアップ手順の複雑さなども、利用上の制約として考慮すべき点です。

                                                          本AI HATは、エッジAI分野における革新的な技術であり、IoTデバイスや組み込みシステムにおけるLLMの応用範囲を大きく広げると期待されます。 しかし、導入にあたっては、上記のような制約事項を十分に理解し、プロジェクトの要件に合致するかを慎重に検討する必要があります。 より詳細な仕様や使用方法については、記事本文やNovusteck社のウェブサイトを参照することをお勧めします。 新人エンジニアの皆さんは、このAI HATの可能性と同時に、その制約も理解した上で、適切なプロジェクトへの適用を検討してください。

                                                          引用元: https://blog.novusteck.com/how-the-new-raspberry-pi-ai-hat-supercharges-llms-at-the-edge

                                                          • AI Overviews in Search are coming to more places around the world
                                                          • Google検索のAI概要表示機能が、100カ国以上に拡大されました。これにより、世界中の10億人を超えるユーザーが毎月この機能を利用できるようになります。日本語を含む複数の言語に対応し、ユーザーはより簡単に必要な情報を見つけ、関連性の高いウェブサイトを発見できるようになります。

                                                            この機能は、5月に米国でローンチされ、8月には米国以外への展開が行われました。ユーザーからのフィードバックは非常に肯定的で、検索結果の有用性が向上したと評価されています。今回の拡大により、より多くの国と言語でAI概要表示機能が利用可能になり、検索体験全体が向上します。

                                                            AI概要表示機能では、関連するウェブサイトへのリンクがより目立つように表示され、デスクトップとモバイルの両方でアクセスしやすくなっています。 これにより、パブリッシャー、企業、クリエイターとの連携機会も拡大します。広告はページ内の専用枠に表示され、オーガニック検索結果との明確な区別が維持されます。米国ではモバイルユーザー向けの関連クエリでAI概要表示機能内の広告が利用可能になり、ユーザーと製品・ブランドのマッチングが向上しています。

                                                            Googleは、AI概要表示機能以外にも、さまざまな質問への対応やオンラインコンテンツの探索を容易にするためのAI搭載機能の強化を継続しています。

                                                            引用元: https://blog.google/products/search/ai-overviews-search-october-2024/

                                                            • お便り投稿フォーム
                                                            • (株式会社ずんだもんは架空の登場組織です)

                                                              6 min
                                                            • 株式会社ずんだもん技術室AI放送局 podcast 20241029
                                                              関連リンク
                                                              • ドメインモデリングで全システムの設計をゼロからやり直す。リアーキテクチャに挑む2年間の全貌【モノタロウCTO普川】 レバテックラボ(レバテックLAB)
                                                              • モノタロウ社は、20年以上に渡り運用してきたレガシーシステムの限界を迎え、2022年から大規模なリアーキテクチャに着手しました。 パッケージシステム導入の失敗を経て、ドメインモデリングに基づいた内製開発による抜本的なシステム刷新を選択。マイクロサービス化と業務ドメインの分割統治を目指し、ドメイン駆動設計を参考にしながら、地道な取り組みを2年間継続しています。

                                                                リアーキテクチャ開始前には、経営層との丁寧な合意形成が最優先事項でした。 長期的な投資と、新しい開発手法への理解を深めるため、エンジニアへの綿密な説明と「テックプリンシプル」の設定を行いました。 さらに、逆コンウェイ戦略に基づき、理想アーキテクチャに合わせた組織改編を2年かけて実施。CTO直下の「CTOオフィス」と既存業務との兼務チームを編成し、情報共有とスムーズな開発体制構築を目指しました。

                                                                リアーキテクチャの具体的なプロセスは、まず「イベントストーミング」による業務フローの明確化から始まりました。関係者全員参加のもと、付箋を用いたワークショップを実施し、業務全体の流れを把握する「ビッグピクチャー」を作成。その後、各業務領域を詳細に分析し、「プロセスモデル」とドメイン境界を可視化する「コンテキストマップ」を作成しました。 このドメインモデリングを経て、ようやくソフトウェア設計に着手。1つのドメインモデルの完成には3~4ヶ月を要します。

                                                                ドメインモデリングでは、「在庫ドメイン」のように複雑な領域は徹底的に分析する一方、「受注ドメイン」のように過去の事例が豊富な領域はデータ分析を簡略化するなど、コストと精度のバランスを考慮しながら進めています。 しかし、どのプロセスを簡略化できるかの判断は非常に難しく、経験と状況判断に基づいた柔軟な対応が求められます。

                                                                現在もリアーキテクチャは進行中で、終わりは見えていません。 メンバーからは不安の声も上がっていますが、CTOは技術スタック刷新だけでは不十分であり、業務構造の根本的な見直しこそが競争優位性を生むと確信し、取り組みを継続しています。 長期間にわたる困難なプロジェクトですが、モノタロウ社の事業成長に大きく貢献する取り組みとして、関係者全員で取り組んでいる最中です。

                                                                引用元: https://levtech.jp/media/article/interview/detail_545/

                                                                • Flux + Helm における即時ロールバック
                                                                • クックパッドのレシピサービスグローバル版統合に伴い、日本版のECS環境からグローバル版のEKS環境への移行が発生しました。グローバル版ではFluxとHelmを用いたGitOpsによる自動デプロイを採用していますが、従来のリバートによるロールバックでは、CIテストのオーバーヘッドや承認プロセスにより、障害発生時の迅速な復旧が困難でした。具体的には、ロールバックに40分程度要するケースもあったため、即時ロールバックの仕組み構築が急務となりました。

                                                                  既存のGitOpsフローでは、イメージ更新はFluxのImage Update Automation機能が検知し、マニフェストリポジトリへの更新、KustomizeとHelm Controllerによるクラスタへの反映という流れです。リバートによるロールバックはGitOpsフローに則っていますが、時間がかかりすぎます。そこで、Helm Controllerによるhelm upgradeを待たずにロールバックを実行する独自の方法を導入しました。

                                                                  即時ロールバックを実現するため、Helmのリビジョン管理機能を利用したhelm rollbackコマンドを採用しました。これは、HelmReleaseの同期を一時的に停止し、helm rollbackコマンドで直接Helmリリースを以前のリビジョンに復元する手法です。これにより、helm upgradeの完了を待たずにロールバックを開始でき、数分以上かかっていた復旧時間を大幅に短縮しました。

                                                                  しかし、helm rollbackコマンドの実行には特別な権限が必要であり、開発者へ権限を与えるのは適切ではありません。そこで、SlackのChatOpsコマンド/laboty global-web-platform rollback {アプリケーション名} {ロールバック先のコミットハッシュ}を実装しました。このコマンドは、開発者が指定したコミットハッシュから対応するHelmリリースのリビジョンを自動的に特定し、FluxのHelmReleaseとAlertの同期を一時停止した後、helm rollbackを実行します。

                                                                  さらに、ロールバック後の自動デプロイ再開のため、 /laboty global-web-platform recover-from-rollback {アプリケーション名} {回復したコミットハッシュ}コマンドも実装しました。このコマンドは、回復したコミットハッシュに対応するイメージがHelmReleaseに反映されていることを確認した後、FluxのHelmReleaseとAlertの同期を再開します。

                                                                  これらのChatOpsコマンドにより、開発者は簡潔なコマンドで即時ロールバックと復旧を実行できるようになり、障害発生時の迅速な対応とサービス継続性が向上しました。 この仕組みは、障害対応の迅速化だけでなく、開発における迅速なイテレーションにも貢献すると期待されます。

                                                                  引用元: https://techlife.cookpad.com/entry/2024/10/28/204340

                                                                  • 【図解ハンズオン】たった60分でReactを使った音楽プレイヤーを作ろう!【TypeScript/Shadcn/TailwindCSS】
                                                                  • この記事は、React、TypeScript、Shadcn、Tailwind CSSを使って、約60分で音楽プレイヤーを作成するハンズオントレーニングの概要を説明しています。React初心者で、HTMLの経験があり、JavaScriptとTypeScriptを学びたいエンジニアを対象としています。

                                                                    ハンズオンでは、まずNode.jsとViteを用いたReactプロジェクトの構築方法を説明します。Viteは高速な次世代ビルドツールです。 npm create viteコマンドを使い、ReactとTypeScriptを選択してプロジェクトを作成します。その後、npm iで依存パッケージをインストールし、npm run devで開発サーバーを起動します。

                                                                    次に、UIコンポーネントライブラリであるShadcnと、その基盤となるCSSフレームワークTailwind CSSを導入します。npm installコマンドで必要なパッケージをインストールし、tailwind.config.jsとsrc/index.cssを編集してTailwind CSSを設定します。 src/App.tsxを修正することで、Tailwind CSSが正しく動作することを確認します。

                                                                    記事では、具体的なコード例と実行結果のスクリーンショットが掲載されており、環境構築からTailwind CSSの導入、動作確認までをステップバイステップで解説しています。 ただし、音楽プレイヤーの具体的な実装方法や機能に関する詳細は、本文からは省略されています。 本ハンズオンは、React環境構築とShadcn、Tailwind CSSの導入を理解することを主眼としています。 音楽プレイヤーの実装方法は、別途動画教材で詳細に解説されているようです。 本記事は、React環境構築と主要ライブラリの導入手順を理解するための入門として最適です。

                                                                    引用元: https://qiita.com/Sicut_study/items/a27fb53468e14216d6fb

                                                                    • お便り投稿フォーム
                                                                    • (株式会社ずんだもんは架空の登場組織です)

                                                                      5 min
                                                                    • 株式会社ずんだもん技術室AI放送局 podcast 20241028
                                                                      関連リンク
                                                                      • Coinbase Launches Autonomous On-chain Agent Framework for Base Blockchain
                                                                      • Coinbaseは、Baseブロックチェーン上で動作するAI搭載の自律型オンチェーンエージェント作成を容易にする新しいフレームワーク「Based Agent」を発表しました。このフレームワークを使用すると、わずか3分程度で、取引、スワップ、ステーキングなど、様々なオンチェーン操作を実行できるAIエージェントを簡単に作成できます。

                                                                        CoinbaseのプロダクトマネージャーであるLincoln Murr氏によると、Based Agentは、特定のタスクを実行するように設計された自動プログラム(AI駆動型ボット)を開発するためのシンプルなテンプレートを提供します。 エージェントはスマートコントラクトと連携し、取引管理、スワップ実行、Baseドメイン名の登録なども行えます。

                                                                        Based Agentは、Coinbaseの開発者向けプラットフォームSDK、OpenAI(ChatGPT開発元)のSDK、そしてAI駆動型のソフトウェア開発・展開プラットフォームReplitを使用して構築されています。 利用開始には、CoinbaseとOpenAIからAPIキーを取得し、Replitのテンプレートをフォークするだけで、その後は必要な機能を追加していくことができます。

                                                                        Mode Networkの創設者であるJames Ross氏は、今後6~12ヶ月以内に、ブロックチェーン取引の80%以上がAIエージェントによって管理されるようになると予測しており、Based Agentはその実現を加速させる可能性を秘めています。 GitHubリポジトリも公開されているため、詳細な技術仕様はそちらを参照できますが、本フレームワークは開発者にとって、Baseブロックチェーン上でのAI活用を大幅に簡素化する革新的なツールと言えるでしょう。

                                                                        引用元: https://www.cryptoglobe.com/latest/2024/10/coinbase-launches-autonomous-on-chain-agent-framework-for-base-blockchain/

                                                                        • Claude AIがブラウザ内でJavaScript実行可能に!コード不要のデータ分析ツールで業務効率化へ前進 - イノベトピア
                                                                        • Anthropic社は、AIチャットボット「Claude」に新たなデータ分析ツールを実装しました。このツールの最大の特徴は、ブラウザ上で直接JavaScriptコードを実行できる点です。従来、AIによるコード生成後、別途実行環境が必要でしたが、Claudeはそれを不要にしました。 CSVやPDFファイルの分析、インタラクティブなグラフ作成を、プログラミング知識がなくても直感的に行えるようになっています。

                                                                          具体的には、Web Worker技術を用いて、ブラウザ上で安全にJavaScriptを実行する仕組みを採用しています。これは、Pythonベースのサーバーサイド実行を採用する他のAIツールとは異なるアプローチです。

                                                                          性能向上も著しく、Claude 3.5 Sonnetのプログラミング性能はSWE-Bench Verifiedテストで33.4%から49.0%に向上、TAU-benchテストでも小売・航空分野でそれぞれ大幅な性能向上を示しました。

                                                                          現在、Claude.aiの全ユーザーがプレビュー機能として利用可能です。ただし、アップロードファイルサイズや扱えるファイルの種類に制限があり、セキュリティ面も考慮が必要な点に注意が必要です。 機密データの取り扱いには慎重な検討が求められます。

                                                                          この機能は、AIアシスタントを単なるチャットボットから、誰でも使える実用的なデータ分析ツールへと進化させる可能性を秘めています。特に、プログラミングスキルに乏しいビジネスユーザーにとって、データに基づいた意思決定を支援する強力なツールとなることが期待されます。 今後のアップデートで、機能拡張や大規模データ処理への対応などが予定されています。

                                                                          引用元: https://innovatopia.jp/ai/ai-news/44081/

                                                                          • 生成AI/LLMを使ったウェブサイト開発
                                                                          • 週末に、はてな匿名ダイアリーの「最も重要なマンガ10選」をまとめたリンク集ウェブサイトを、生成AI/LLMツールを駆使して開発しました。開発期間は従来の半分(約6時間)で完了しました。本記事では、その具体的な開発プロセスと使用ツールを紹介します。新人エンジニアにも分かりやすいよう、簡潔に説明します。

                                                                            開発概要:

                                                                            ウェブサイトは、はてな匿名ダイアリーの記事をスクレイピングし、Amazon APIで商品情報を取得、それらを元にリンク集を作成するシンプルな構成です。 生成AI/LLMツールは、デザイン、コーディング、データ処理の各段階で活用されました。

                                                                            デザイン: 初期デザインはClaude Artifactsを用いて作成。複数の生成AIツール(ChatGPT Canvas、v0、Bolt)を比較検討した結果、Claude Artifactsが最も高品質な成果物を生成したため採用しました。デザインはクックパッドを参考に、Tailwind CSSとshadcn/uiをベースにしています。

                                                                            コーディング: Next.js (Static Exports) をフロントエンド、Firebase Firestore をバックエンドとして採用。 コード修正や提案にはCursorを使用し、Claude 3.5 SonnetモデルでAIアシストによる効率的な開発を実現しました。TypeScriptはデータ処理部分を除き、プロトタイピング段階では使用を最小限に抑え、効率化を図りました。

                                                                            データ処理: はてな匿名ダイアリーの記事スクレイピングにはcheerio、Amazon商品データ取得にはPA APIを使用。GPT-4 Turbo (Vercel AI経由) を用いてスクレイピングしたデータの構造化とAmazon検索結果からの適切な商品の選別を行いました。コストは約10ドルで済みました。

                                                                            アーキテクチャ: 静的サイト生成(SSG)を採用し、Cloudflare Workersでホスティングすることで高速なアクセスを実現。 Firestoreの柔軟なスキーマ設計により、LLMの出力結果を直接保存し、将来的なデータ構造の変更にも対応できる設計となっています。

                                                                            ツール選定のポイント:

                                                                            • デザイン: Claude Artifacts (高品質な初期デザイン生成)
                                                                            • コーディング: Cursor (AIアシストによる効率的なコード修正)
                                                                            • LLM: GPT-4 Turbo (Vercel AI経由、データ構造化と選別)
                                                                            • フロントエンド: Next.js (shadcn/ui, Tailwind CSSとの親和性)
                                                                            • バックエンド: Firebase Firestore (柔軟なスキーマ設計)
                                                                            • ホスティング: Cloudflare Workers (静的サイト、拡張性)
                                                                            • 本開発を通して、生成AI/LLMツールがウェブサイト開発の効率化に大きく貢献することが実証されました。 特に、プロトタイピング段階でのTypeScriptの使用制限や静的サイト生成の採用により、開発期間の大幅な短縮と柔軟性の両立を実現しました。 今後、生成AI/LLMツールの活用は、開発プロセスの標準的な一部になる可能性が高いと感じています。

                                                                              引用元: https://laiso.hatenablog.com/entry/2024/10/27/154053

                                                                              • お便り投稿フォーム
                                                                              • (株式会社ずんだもんは架空の登場組織です)

                                                                                6 min
                                                                              • 株式会社ずんだもん技術室AI放送局 podcast 20241025
                                                                                関連リンク
                                                                                • Introducing computer use, a new Claude 3.5 Sonnet, and Claude 3.5 Haiku
                                                                                • Anthropic社は、大規模言語モデルClaudeの最新版であるClaude 3.5 SonnetとClaude 3.5 Haikuを発表しました。Claude 3.5 Sonnetは、前モデルと比べて大幅な性能向上を見せており、特にコーディング能力が著しく向上しています。SWE-bench Verifiedでのスコアは33.4%から49.0%に向上し、公開されている他のモデルを上回っています。TAU-benchでも性能向上を確認しています。価格は従来と変わらず、速度も同等です。

                                                                                  Claude 3.5 Haikuは、前世代の最大モデルであるClaude 3 Opusと同等の性能を、同等の費用と速度で実現しています。SWE-bench Verifiedでは40.6%を記録しました。低遅延で指示に従う精度も向上しており、ユーザー向け製品や、大量データ処理に適しています。

                                                                                  最大の革新は、公開ベータ版として提供開始された「コンピュータ使用」機能です。これは、Claudeが人間のようにコンピュータを操作できる機能で、画面を見て、カーソルを動かし、ボタンをクリックし、テキストを入力する事ができます。 Claude 3.5 Sonnetは、この機能を公開ベータ版で提供する最初の最先端AIモデルです。現在、実験段階であり、使いにくさやエラーが発生する可能性がありますが、開発者からのフィードバックを元に迅速な改善が期待されています。Asana、Canvaなど複数の企業が既にこの機能を試用し、数百ステップにも及ぶタスクの自動化に成功しています。

                                                                                  このコンピュータ使用機能は、Anthropic API、Amazon Bedrock、Google CloudのVertex AIで利用可能です。ただし、まだ初期段階であり、完璧ではありません。スクロールやドラッグなどの操作は、現時点ではClaudeにとって困難な場合があります。また、スパムや不正利用のリスクも考慮されており、安全な展開のための対策も講じられています。

                                                                                  Claude 3.5 Haikuは今月末にリリース予定です。 両モデルは、米国および英国のAI安全研究所による事前テストを経ており、安全性の確保にも配慮されています。 開発者からのフィードバックは歓迎されており、今後の更なる機能向上に繋がる事が期待されます。

                                                                                  引用元: https://www.anthropic.com/news/3-5-models-and-computer-use

                                                                                  • GitHub - microsoft/BitNet: Official inference framework for 1-bit LLMs
                                                                                  • Microsoftが開発したBitNetは、1ビット量子化された大規模言語モデル(LLM)のための推論フレームワークです。GitHub上で公開されており、MITライセンスの下で利用可能です。 このフレームワークを使うことで、1ビット量子化されたLLMを効率的に推論処理できます。 つまり、メモリ使用量を削減し、推論速度を向上させることが期待できます。 詳細な使用方法についてはGitHubリポジトリを参照ください。 リポジトリにはコード、課題、プルリクエスト、議論、アクション、プロジェクト、セキュリティ情報、そしてパフォーマンスに関するインサイトなどが含まれています。 9.6kのスターと635のフォークを獲得しており、多くの開発者から注目を集めていることが分かります。 本フレームワークは、リソースの制約がある環境下でのLLMの活用を促進する可能性を秘めています。 新人エンジニアの皆さんにとって、このプロジェクトは、大規模言語モデルの効率的な実装方法を学ぶ良い機会となるでしょう。 ただし、具体的な使用方法や実装方法は、GitHubリポジトリのドキュメントを参照する必要があります。

                                                                                    引用元: https://github.com/Microsoft/bitnet

                                                                                    • なんとなくから脱却する GitHub Actionsグッドプラクティス11選 gihyo.jp
                                                                                    • この記事は、GitHub Actionsをより効果的に運用するための11個のグッドプラクティスを、新人エンジニアにも分かりやすく解説しています。 GitHub Actionsの基本的な知識は既にあることを前提としており、 「フェイルファスト」「ムダの最小化」「セキュリティ」「メンテナンス性」の4つの設計指針に基づいた実践的なアドバイスが提供されています。

                                                                                      1. フェイルファスト: 迅速なエラー検出とフィードバックが重要です。タイムアウト設定(例: timeout-minutes: 5)、デフォルトシェルをBashに指定してパイプエラーを検出(defaults: run: shell: bash)、静的解析ツールactionlintによる構文エラーチェックを推奨しています。

                                                                                      2. ムダの削減: 不要なワークフロー実行を避けることで待ち時間とコストを削減できます。 Concurrencyによる古いワークフローの自動キャンセル(concurrency: group: $-$ cancel-in-progress: true)、イベントフィルタリングによるワークフロー起動条件の絞り込み(on: pull_request: paths: ['**.go']), コスト削減のためUbuntuランナーの優先利用(runs-on: ubuntu-latest)が挙げられています。

                                                                                      3. セキュリティ: 最小権限の原則を遵守することが重要です。GITHUB_TOKENのパーミッションをジョブレベルで定義し(permissions: contents: read), アクションのコミットハッシュを固定することで(例: uses: actions/checkout@eef61447b9ff4aafe5dcd4e0bbf5d482be7e7871)、セキュリティリスクを軽減します。

                                                                                      4. メンテナンス性: デバッグ容易性と可読性の高いコードを目指しましょう。Bashトレーシングオプション(set -x)による詳細なログ出力、workflow_dispatchイベントによる容易な動作確認、ワークフローの目的や影響範囲をコメントで記述する(# なにをするワークフローか手短に記述)ことが推奨されています。

                                                                                      最後に、これらのグッドプラクティスをまとめたテンプレートコードが提示されています。このテンプレートを活用することで、効率的で安全、そしてメンテナンス性の高いGitHub Actionsワークフローを構築できます。 より詳細な情報は、紹介されている書籍「GitHub CI/CD実践ガイド」を参照することを推奨しています。

                                                                                      引用元: https://gihyo.jp/article/2024/10/good-practices-for-github-actions

                                                                                      • 『AIねこコンテンツ』という謎の存在について「わかっていてもカワイイと思ってしまう」「モンハンみてぇだw」
                                                                                      • この文章は、AIによって生成されたネコの動画コンテンツに関する複数のX(旧Twitter)投稿のまとめです。投稿された動画は、AIによって作られたネコが人間のような動作をする様子を映したもので、そのリアリティと可愛らしさから多くのユーザーが注目しています。

                                                                                        ネコは、食事をする、スプーンを使うなど、人間らしい動作をしますが、その動作が不自然ではなく、むしろ「可愛い」と感じる人が多いようです。 一部のユーザーは、その動きがゲーム「モンスターハンター」シリーズに登場するアイルーを連想させるとコメントしています。

                                                                                        動画のクオリティの高さが評価されている一方で、ネコの指が人間の手のように見える部分など、AIならではの不自然さも指摘されています。しかし、その不自然さすらも許せてしまうほどの可愛らしさや、リアルなネコの表情表現が、多くのユーザーを魅了している点が特徴です。

                                                                                        まとめると、このAIねこコンテンツは、高度なAI技術によって実現された、リアルで可愛いネコの動画であり、そのクオリティの高さと、人間とネコの境界を曖昧にする独特な表現が、大きな話題を呼んでいると言えるでしょう。 特に、新人エンジニアの視点では、AIによる動画生成技術の進歩と、その技術がエンターテインメントにどのように活用されているかの好例として理解できるでしょう。 また、ユーザーの反応から、AI技術の倫理的な側面(人間の手のような指など)についても考えるきっかけになるかもしれません。

                                                                                        引用元: https://togetter.com/li/2454857

                                                                                        • お便り投稿フォーム
                                                                                        • (株式会社ずんだもんは架空の登場組織です)

                                                                                          7 min
                                                                                        • 株式会社ずんだもん技術室AI放送局 podcast 20241024
                                                                                          関連リンク
                                                                                          • Introducing computer use, a new Claude 3.5 Sonnet, and Claude 3.5 Haiku
                                                                                          • Anthropic社は、大規模言語モデルClaudeの最新版であるClaude 3.5 SonnetとClaude 3.5 Haikuを発表しました。 Claude 3.5 Sonnetは、前モデルと比べて大幅な性能向上を見せており、特にコーディング能力が飛躍的に向上しています。SWE-bench Verifiedでのスコアは33.4%から49.0%に向上し、公開されているモデルの中で最高点を記録しました。 これは、GitLab、Cognition、The Browser Companyといった企業による実証実験でも裏付けられています。これらの企業は、DevSecOpsタスク、AI評価、Webベースのワークフロー自動化など、様々な用途でClaude 3.5 Sonnetを活用し、顕著な成果を上げています。

                                                                                            一方、Claude 3.5 Haikuは、前世代の最大モデルであるClaude 3 Opusと同等の性能を、より低いコストと高速さで実現しています。SWE-bench Verifiedでのスコアは40.6%と、高いコーディング能力を有しています。低レイテンシと高い命令遵守能力から、ユーザー向け製品や、大量データ処理を伴うパーソナライズされた体験の生成などに適しています。

                                                                                            そして、今回の発表で最も注目すべきは、公開ベータ版として提供開始された「コンピュータ使用」機能です。これは、Claudeが人間のように画面を見て、カーソルを動かし、ボタンをクリックし、テキストを入力することでコンピュータを操作できる画期的な機能です。 Claude 3.5 Sonnetは、この機能を公開ベータ版として提供する最初の最先端AIモデルとなります。 この機能は実験段階であり、まだ不完全でエラーが発生する可能性がありますが、開発者のフィードバックを元に迅速に改善していく予定です。 Asana、Canva、Cognition、DoorDash、Replit、The Browser Companyといった企業が既にこの機能を試用しており、複雑なタスクの自動化に成功しています。

                                                                                            ただし、コンピュータ使用機能は、スパム、誤情報、不正行為といったリスクも伴うため、Anthropic社は安全な展開を推進するための対策を講じています。 この機能はAnthropic API、Amazon Bedrock、Google CloudのVertex AIで利用可能です。Claude 3.5 Haikuは今月末に公開予定です。 これらの新モデルとコンピュータ使用機能は、AIを活用した業務効率化に大きく貢献する可能性を秘めています。

                                                                                            引用元: https://www.anthropic.com/news/3-5-models-and-computer-use

                                                                                            • Stable Diffusion 3.5 のご紹介 — Stability AI Japan
                                                                                            • Stability AIは、最新の高性能画像生成AIモデル「Stable Diffusion 3.5」をリリースしました。これは、複数のモデルバリエーション(Stable Diffusion 3.5 Large、Stable Diffusion 3.5 Large Turboなど)から構成され、一般のハードウェアでも動作する点が特徴です。 特に、10月29日には、消費者のPCでも使いやすい「Stable Diffusion 3.5 Medium」もリリース予定です。

                                                                                              これらのモデルは、Stability AI Community Licenseの下で、商用・非商用を問わず無料で利用できます(年間収益100万ドル以上の企業はエンタープライズライセンスが必要)。 Hugging Faceからモデルの重み(ウェイト)をダウンロードし、GitHubで公開されている推論コードを用いて利用可能です。

                                                                                              Stable Diffusion 3.5シリーズは、カスタマイズ性を重視して開発されました。Query-Key Normalizationの導入により、ファインチューニングやLoRAによる調整が容易になっています。そのため、特定のニーズに合わせたモデル構築や、アプリケーション開発に適しています。 ただし、シード値による出力のばらつきが大きくなる可能性がある点は留意が必要です。これは、多様なスタイルに対応するための設計上のトレードオフです。

                                                                                              各モデルの特性は以下の通りです。

                                                                                              • Stable Diffusion 3.5 Large: パラメータ数80億。高品質で、プロフェッショナルな用途(1メガピクセル解像度)に最適。
                                                                                              • Stable Diffusion 3.5 Large Turbo: Stable Diffusion 3.5 Largeの蒸留版。高速で高品質な画像生成が可能(4ステップ)。
                                                                                              • Stable Diffusion 3.5 Medium (10月29日リリース予定): パラメータ数26億。消費者のハードウェアでも動作し、カスタマイズ性と画質のバランスが良い(0.25~2メガピクセル解像度)。
                                                                                              • Stable Diffusion 3.5は、プロンプトへの忠実度と画質において高い性能を示し、市場で最もカスタマイズしやすいモデルの一つです。 様々なスタイルに対応し、多様な肌の色や特徴を持つ人物の生成にも優れています。

                                                                                                Stability AI Community Licenseでは、非営利目的での利用は無料です。年間収益100万ドル未満の企業も商用利用が可能です。生成されたメディアの著作権はユーザーが保有します。

                                                                                                さらに、Stability AI API、Replicate、DeepInfra、ComfyUIなど、複数のプラットフォームからもアクセス可能です。 安全性についても配慮されており、悪用防止のための措置が講じられています。詳細な情報は、Stable Safetyページを参照してください。

                                                                                                今後、ControlNetsのリリースも予定されており、より高度な制御機能が提供されます。 ユーザーからのフィードバックも歓迎しています。

                                                                                                引用元: https://ja.stability.ai/blog/introducing-stable-diffusion-3-5

                                                                                                • Runway Research Introducing Act-One
                                                                                                • Runwayは、アーティストのための表現力豊かで制御可能なツールを開発するというミッションのもと、Gen-3 Alpha内で表現力豊かなキャラクターのパフォーマンスを生成する最新ツール「Act-One」を発表しました。

                                                                                                  Act-Oneは、ビデオと音声のパフォーマンスを入力として、魅力的なアニメーションを作成します。従来の顔アニメーションのパイプラインは、モーションキャプチャ機器、複数の映像参照、手動での顔リギングなど、複雑で複数ステップのワークフローを必要としますが、Act-Oneは、俳優のパフォーマンスのみを直接入力とすることで、これらを簡素化します。

                                                                                                  シンプルなビデオ入力(例えば、自宅のカメラで撮影した俳優の演技)だけで、視線、微表情、ペース、セリフのデリバリーなどを忠実に再現した生成出力が得られます。俳優の体型とは異なるキャラクターにも適用可能で、創造的なキャラクターデザインとアニメーションの可能性を広げます。

                                                                                                  複数カメラによる会話シーンも、単一の俳優とカメラ設定で生成可能です。異なるキャラクターを演じる俳優の演技をビデオ入力として、複数のキャラクターのアニメーションを生成できます。

                                                                                                  Runwayは、安全な開発と展開に尽力しており、Act-Oneには、有名人の生成防止、音声使用権の確認、その他悪用防止のための包括的なコンテンツモデレーションと安全対策が導入されています。

                                                                                                  Act-Oneは、高度な技術を幅広いクリエイターやアーティストに提供するというRunwayの目標に向けた一歩であり、アニメーションとキャラクターパフォーマンスにおける創造的なストーリーテリングの新たな可能性を切り開くことが期待されています。今後、段階的にユーザーへのアクセスが開始されます。 新人エンジニアの皆さんにも、手軽に高度なキャラクターアニメーション制作を体験できるツールとして、ぜひ注目してみてください。

                                                                                                  引用元: https://runwayml.com/research/introducing-act-one

                                                                                                  • お便り投稿フォーム
                                                                                                  • (株式会社ずんだもんは架空の登場組織です)

                                                                                                    6 min
                                                                                                  • 株式会社ずんだもん技術室AI放送局 podcast 20241023
                                                                                                    関連リンク
                                                                                                    • Anthropic Wants Its AI Agent to Control Your Computer
                                                                                                    • Anthropic社は、コンピュータを操作できるAIモデル「Claude」を発表しました。これは、ウェブ検索、アプリケーションの起動、マウスとキーボードを使ったテキスト入力など、人間が行うような様々なタスクを実行できます。

                                                                                                      具体的には、ゴールデンゲートブリッジの日の出鑑賞計画作成や、自身の宣伝用ウェブサイト作成といったデモが行われました。ウェブサイト作成では、プロンプトからコードを生成し、Visual Studio Codeを使ってコーディング、さらにウェブサーバーを起動してテストまで行いました。エラー発生時には、原因を特定し修正する能力も示しました。

                                                                                                      Claudeは、ソフトウェア開発スキルを測るSWE-benchや、OS操作能力を測るOSWorldといったベンチマークにおいて、既存のAIエージェントを上回る性能を示したとAnthropic社は主張しています(ただし、独立した検証はまだありません)。成功率は人間には劣りますが、既存の最先端モデルを大きく上回っています。

                                                                                                      Anthropic社は、ClaudeのAPIを公開し、Canva、Replitなど複数の企業が既にテスト運用中であると発表しています。用途としては、事務作業の自動化による生産性向上などが期待されています。

                                                                                                      しかし、AIエージェントはまだ課題も多く、予期せぬエラーのリスクや、計画性の不足などが指摘されています。Anthropic社も、クレジットカード使用制限など、安全対策を講じています。

                                                                                                      現状では、コーディングなど特定の領域での活用が有効とされており、エラーが許容できる範囲での利用が重要になります。将来的には、様々なタスクを自動化し、人間の作業負担を軽減する可能性がありますが、信頼性と安全性の向上が不可欠です。 MicrosoftやAmazonなども同様のAIエージェント開発に注力しており、近い将来、多くのユーザーがAIエージェントを利用する時代が来るかもしれません。

                                                                                                      引用元: https://www.wired.com/story/anthropic-ai-agent/

                                                                                                      • Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
                                                                                                      • Hugging Faceは、1年以上におよぶ開発を経て、Transformers.js v3をリリースしました。本バージョンでは、パフォーマンスの大幅な向上と機能拡張が実現されています。最大のポイントは、WebGPUサポートによる高速化です。WASMと比較して最大100倍の速度向上を実現しており、ブラウザ上でGPUによる高性能計算を可能にしました。ただし、WebGPUのブラウザサポートは現状70%程度であるため、一部のブラウザでは機能フラグの有効化が必要となる場合があります。

                                                                                                        その他、以下の重要な変更点があります。

                                                                                                        • 量子化フォーマットの追加: モデルの精度とサイズを調整するための量子化フォーマットとして、fp32、fp16、q8、q4など複数のオプションが追加されました。これにより、メモリ使用量と推論速度のバランスを最適化できます。特に、エンコーダーとデコーダーを持つモデルでは、モジュールごとに量子化フォーマットを指定することも可能です。

                                                                                                        • 対応アーキテクチャの増加: サポートされるモデルアーキテクチャが120種類に増加しました。Phi-3、Gemma、Florence-2、Whisperなど、最新の多くのモデルが利用可能になりました。

                                                                                                        • サンプルプロジェクトとテンプレートの追加: WebGPUサポートを中心に、25個の新しいサンプルプロジェクトとテンプレートが公開されました。これらは、WebGPUを使った様々なタスクの具体的な実装例を提供します。

                                                                                                        • 1200以上の事前変換済みモデル: Hugging Face Hubには、Transformers.js v3と互換性のある1200以上の事前変換済みモデルが用意されています。

                                                                                                        • 環境の拡張: Node.js (ESM + CJS)、Deno、Bunの主要なJavaScriptランタイムに対応しました。

                                                                                                        • リポジトリとパッケージ名の変更: GitHubリポジトリとNPMパッケージ名が公式のHugging Face組織のものに変更されました。GitHubはhuggingface/transformers.js、NPMは@huggingface/transformersとなります。

                                                                                                          Transformers.js v3は、WebGPUによる高速化と多様なモデルへの対応により、Webブラウザ上での機械学習モデルの活用を飛躍的に容易にします。 新規エンジニアの方にとっても、豊富なサンプルコードとドキュメントによって、容易に導入・活用できるようになっています。 新しい量子化オプションは、リソース制約のある環境でのモデル実行に役立ちます。 様々なランタイムへの対応は、開発環境の柔軟性を高めます。

                                                                                                          引用元: https://huggingface.co/blog/transformersjs-v3

                                                                                                          • Amazon Bedrock Custom Model Import now generally available Amazon Web Services
                                                                                                          • Amazon Bedrockが、独自のカスタムモデルをインポートして利用できる機能「Amazon Bedrock Custom Model Import」を一般提供開始しました。これにより、Meta Llama、Mistral Mixtral、IBM Graniteなどのファインチューニング済みモデルや、オープンソースアーキテクチャに基づいた独自開発モデルを、インフラ管理やモデルライフサイクル管理の手間なくAmazon Bedrockで利用できるようになります。

                                                                                                            既存の基盤モデル(FM)と同様に、単一のAPIを通じてカスタムモデルにオンデマンドでアクセスでき、サーバーレス環境で利用可能です。Knowledge Bases、Guardrails、AgentsなどのAmazon Bedrockのネイティブツールや機能ともシームレスに統合され、開発者は一貫した開発エクスペリエンスを得られます。

                                                                                                            主なメリット:

                                                                                                            • 既存のファインチューニング済みモデルの柔軟な利用: 再作成や再トレーニングなしに、既存のカスタムモデルをAmazon Bedrockにインポートできます。
                                                                                                            • Amazon Bedrock機能との統合: Knowledge Bases、Guardrails、Agents、Model Evaluationなど、Amazon Bedrockのネイティブツールとシームレスに統合できます。
                                                                                                            • サーバーレス: インフラの管理やスケーリングはAmazon Bedrockが行うため、開発者はインフラ管理を気にせず、生成AIアプリケーション開発に集中できます。
                                                                                                            • 主要なモデルアーキテクチャのサポート: Meta Llama 3.2、Mistral 7B、Mixtral 8x7Bなど、様々なモデルアーキテクチャをサポートし、Hugging Face Safetensors形式のモデルウェイトをAmazon SageMakerやAmazon S3からインポートできます。
                                                                                                            • Amazon Bedrock Converse APIとの連携: サポートされているファインチューニング済みモデルをAmazon Bedrock Converse APIで使用できます。
                                                                                                            • 制約事項:

                                                                                                              • モデルはSafetensors形式でシリアライズされている必要があります。他の形式の場合は変換スクリプトが必要です。
                                                                                                              • インポートプロセスでは、.safetensors、config.json、tokenizer_config.json、tokenizer.json、tokenizer.modelファイルが必要です。
                                                                                                              • モデルウェイトの精度には、FP32、FP16、BF16がサポートされています。
                                                                                                              • 現状、US-EAST-1とUS-WEST-2リージョンのみで利用可能です。
                                                                                                              • 各アカウントのデフォルトインポートクォータは3モデルです。
                                                                                                              • この機能は、独自データでモデルをカスタマイズし、チューニング済みモデルアーティファクトとそのデプロイメントに対する完全な所有権と制御を維持したいという顧客のニーズに応えるものです。 Amazon Bedrock Custom Model Importを利用することで、既存のカスタマイズへの投資を最大限に活用し、生成AIアプリケーション開発を加速できます。 ただし、本番環境での利用には、より多様なデータセットと適切なテスト、ハイパーパラメータチューニングによる継続的な実験が必要です。

                                                                                                                引用元: https://aws.amazon.com/blogs/machine-learning/amazon-bedrock-custom-model-import-now-generally-available/

                                                                                                                • お便り投稿フォーム
                                                                                                                • (株式会社ずんだもんは架空の登場組織です)

                                                                                                                  8 min

                                                                                                                About 株式会社ずんだもん技術室AI放送局

                                                                                                                From the publisher's feed

                                                                                                                AIやテクノロジーのトレンドを届けるPodcast。平日毎朝6時配信。朝の通勤時間や支度中に情報キャッチアップとして聞いてほしいのだ。(MC 月:春日部つむぎ、火水木:ずんだもん、金:お嬢様ずんだもん)