Sign up to save your podcasts
Or
Share 株式会社ずんだもん技術室AI放送局 podcast 20250930
Share to email
Share to Facebook
Share to X
Share to email
Share to Facebook
Share to X
Or
株式会社ずんだもん技術室AI放送局 podcast 20250930
youtube版(スライド付き)
関連リンク
最近、AIエージェントの進化により、開発スピードが驚くほど向上し、短時間でプロトタイプが作れるようになりました。しかし、この便利さの裏で、筆者は「コーディング本来の楽しさが半減している」というモヤモヤを感じています。
このモヤモヤの正体は、従来の開発にあった「学習」「理解」「試行錯誤」という重要なプロセスが、AI任せの開発ではごっそり抜け落ちてしまうことにありました。AIが代わりにコードを書いてくれるため、自分で調べたり、エラーと格闘したりする経験が減り、結果として以下の問題が生じます。
そこで筆者が提案するのが「二度手間開発」です。これは、まずAIを使って最短で動くものを作り、次にそのAIが作ったコードを参考にせず、自分でゼロから同じものを作り直すという方法です。AIのコードは「チートシート」や「模範解答」のように活用し、わからない時だけ参照します。
実際に「二度手間開発」を試したところ、Chrome拡張機能の開発を通じて、WXTの設定の深い理解や、AIコード内の不要な部分の発見、さらにユーザー体験を向上させるアイデアなど、多くの具体的な学びと気づきがあったそうです。自分で手を動かすことで、コードがなぜ動くのか、どうすればもっと良くなるのかを深く考える機会が得られます。
「二度手間開発」を始めるコツは、AIのコードをあえて読まず、新しいプロジェクトで一から作り直すことです。そして、本当に困った時だけAIのコードを見てヒントを得ます。
AIは非常に強力なツールですが、効率化だけを追求すると、エンジニアとしての成長やコーディングの楽しさを失う可能性があります。あえて遠回りする「二度手間開発」を通して、AIを「学びのツール」として活用し、コーディング本来の喜びを取り戻すことができるでしょう。
引用元: https://www.m3tech.blog/entry/2025/09/29/110000
さくらインターネットが開発したAIスパコン「さくらONE」を用いて、大規模言語モデル（LLM）の学習性能を評価した発表です。新人エンジニアの皆さんも、最先端のAI開発を支えるインフラ技術の現状と課題に触れてみましょう。
1. LLM学習におけるインフラの重要性
ChatGPTのような巨大なLLMの開発には、大量の計算を並行処理する高性能インフラが必須です。深層学習は、Webアプリとは異なり、大量のデータを一括処理する「バッチ型ワークロード」です。
学習を高速化する「分散学習」には、主に以下の手法があります。
モデルの大規模化に伴い、GPUメモリ容量やGPU間のデータ通信速度がボトルネックになりやすいため、RDMAのような高速ネットワーク技術が学習効率を大きく左右します。
2. 国産AIスパコン「さくらONE」の特長
「さくらONE」は、さくらインターネットがLLM開発向けに構築したマネージドHPCクラスタです。
3. LLM学習ベンチマーク評価と結果
さくらONEのLLM学習性能を客観的に評価するため、業界標準の「MLPerf Training」ベンチマークを実施しました。これは、GPT-3モデルの事前学習を対象に、目標精度達成までの実時間を計測するものです。
結果として、さくらONEは業界標準の範囲内で高い演算効率を達成しました。特にGPU間通信を行うインターコネクトネットワークの高速性が確認されています。しかし、一部の他社システムと比較するとわずかな性能差があり、Ethernet (RoCEv2) とInfiniBandの技術的差異や、チューニングの改善余地が考察されています。ベンチマーク実施では、分散学習の概念や複雑なソフトウェアスタック（Slurm、NeMoなど）の習得、最適な設定を見つけるための試行錯誤が大変だったとのことです。
4. SRE視点からの学びと今後の展望
今回の取り組みは、SRE（サイト信頼性エンジニア）がAIスパコンの性能評価に挑んだ貴重な経験談です。
さくらONEの性能評価は、国内のAIインフラ技術の発展に寄与し、LLM開発をさらに加速させる重要な取り組みと言えるでしょう。
引用元: https://speakerdeck.com/yuukit/sakuraone-llm-training-benchmarking
皆さん、こんにちは！AI技術の進化が目覚ましい中、特にLLM（大規模言語モデル）はどんどん複雑になり、その運用には新しい課題が生まれています。例えば、モデルが巨大すぎて1つのGPUでは動かせなかったり、大量の処理を素早く低遅延でこなす必要があったり、多くの部品（コンポーネント）が連携して動くインフラの調整が大変だったりします。この記事では、NVIDIAが提供する「Run:ai v2.23」と「Dynamo」という2つの技術が、これらの課題をどう解決してくれるのかを、新人エンジニアの方にも分かりやすく解説します。
まず、「NVIDIA Dynamo」は、LLMの推論を高速かつ効率的に行うために作られたフレームワークです。具体的には、
といった機能を持っています。これにより、巨大なLLMでも分散されたGPUクラスター上でスムーズに動かせるようになります。
しかし、Dynamoがどんなに優れていても、たくさんの部品が絡み合うLLMの推論を複数のコンピューター（ノード）で動かすには、その部品たちをどこに、いつ、どのように配置・起動するかがとても重要になります。ここが「スケジューリング」という部分で、もしこの調整がうまくいかないと、GPUが無駄に待機してしまったり、部品間の通信に時間がかかって全体の性能が落ちてしまったりします。
そこで活躍するのが「NVIDIA Run:ai v2.23」です。Run:aiは、特に2つの強力な機能でこのスケジューリングの課題を解決します。
まとめると、NVIDIA DynamoがLLM推論の内部効率を高め、NVIDIA Run:ai v2.23がその効率を最大限に引き出すための最適な配置と起動を自動で行ってくれる、というわけです。この2つの技術を組み合わせることで、LLMの運用におけるボトルネックを解消し、より高速で効率的、そして安定したAIサービスを提供できるようになります。AIエンジニアとして、大規模なLLMを扱う際には、このようなインフラ側の工夫が非常に重要になることをぜひ覚えておいてください。
引用元: https://developer.nvidia.com/blog/smart-multi-node-scheduling-for-fast-and-efficient-llm-inference-with-nvidia-runai-and-nvidia-dynamo/
にじさんじのグウェル・オス・ガールさんが、学生時代に驚くほど視力が良かったというエピソードが話題です。なんと、肉眼で土星の輪や金星の満ち欠けまで見分けられたため、天文部では「土星探す係」を担当していたそうです。現在の視力も非常に良いとのこと。この超人的な視力に対し、SNSでは「まるでエルフのようだ」「漫画のキャラクターみたい」と驚きと羨望の声が上がっています。こんなすごい目を持っていたら、どんな景色が見えるのか想像が膨らみますね！
引用元: https://togetter.com/li/2608904
（株式会社ずんだもんは架空の登場組織です）
View all episodes
By 株式会社ずんだもん技術室AI放送局youtube版(スライド付き)
関連リンク
最近、AIエージェントの進化により、開発スピードが驚くほど向上し、短時間でプロトタイプが作れるようになりました。しかし、この便利さの裏で、筆者は「コーディング本来の楽しさが半減している」というモヤモヤを感じています。
このモヤモヤの正体は、従来の開発にあった「学習」「理解」「試行錯誤」という重要なプロセスが、AI任せの開発ではごっそり抜け落ちてしまうことにありました。AIが代わりにコードを書いてくれるため、自分で調べたり、エラーと格闘したりする経験が減り、結果として以下の問題が生じます。
そこで筆者が提案するのが「二度手間開発」です。これは、まずAIを使って最短で動くものを作り、次にそのAIが作ったコードを参考にせず、自分でゼロから同じものを作り直すという方法です。AIのコードは「チートシート」や「模範解答」のように活用し、わからない時だけ参照します。
実際に「二度手間開発」を試したところ、Chrome拡張機能の開発を通じて、WXTの設定の深い理解や、AIコード内の不要な部分の発見、さらにユーザー体験を向上させるアイデアなど、多くの具体的な学びと気づきがあったそうです。自分で手を動かすことで、コードがなぜ動くのか、どうすればもっと良くなるのかを深く考える機会が得られます。
「二度手間開発」を始めるコツは、AIのコードをあえて読まず、新しいプロジェクトで一から作り直すことです。そして、本当に困った時だけAIのコードを見てヒントを得ます。
AIは非常に強力なツールですが、効率化だけを追求すると、エンジニアとしての成長やコーディングの楽しさを失う可能性があります。あえて遠回りする「二度手間開発」を通して、AIを「学びのツール」として活用し、コーディング本来の喜びを取り戻すことができるでしょう。
引用元: https://www.m3tech.blog/entry/2025/09/29/110000
さくらインターネットが開発したAIスパコン「さくらONE」を用いて、大規模言語モデル（LLM）の学習性能を評価した発表です。新人エンジニアの皆さんも、最先端のAI開発を支えるインフラ技術の現状と課題に触れてみましょう。
1. LLM学習におけるインフラの重要性
ChatGPTのような巨大なLLMの開発には、大量の計算を並行処理する高性能インフラが必須です。深層学習は、Webアプリとは異なり、大量のデータを一括処理する「バッチ型ワークロード」です。
学習を高速化する「分散学習」には、主に以下の手法があります。
モデルの大規模化に伴い、GPUメモリ容量やGPU間のデータ通信速度がボトルネックになりやすいため、RDMAのような高速ネットワーク技術が学習効率を大きく左右します。
2. 国産AIスパコン「さくらONE」の特長
「さくらONE」は、さくらインターネットがLLM開発向けに構築したマネージドHPCクラスタです。
3. LLM学習ベンチマーク評価と結果
さくらONEのLLM学習性能を客観的に評価するため、業界標準の「MLPerf Training」ベンチマークを実施しました。これは、GPT-3モデルの事前学習を対象に、目標精度達成までの実時間を計測するものです。
結果として、さくらONEは業界標準の範囲内で高い演算効率を達成しました。特にGPU間通信を行うインターコネクトネットワークの高速性が確認されています。しかし、一部の他社システムと比較するとわずかな性能差があり、Ethernet (RoCEv2) とInfiniBandの技術的差異や、チューニングの改善余地が考察されています。ベンチマーク実施では、分散学習の概念や複雑なソフトウェアスタック（Slurm、NeMoなど）の習得、最適な設定を見つけるための試行錯誤が大変だったとのことです。
4. SRE視点からの学びと今後の展望
今回の取り組みは、SRE（サイト信頼性エンジニア）がAIスパコンの性能評価に挑んだ貴重な経験談です。
さくらONEの性能評価は、国内のAIインフラ技術の発展に寄与し、LLM開発をさらに加速させる重要な取り組みと言えるでしょう。
引用元: https://speakerdeck.com/yuukit/sakuraone-llm-training-benchmarking
皆さん、こんにちは！AI技術の進化が目覚ましい中、特にLLM（大規模言語モデル）はどんどん複雑になり、その運用には新しい課題が生まれています。例えば、モデルが巨大すぎて1つのGPUでは動かせなかったり、大量の処理を素早く低遅延でこなす必要があったり、多くの部品（コンポーネント）が連携して動くインフラの調整が大変だったりします。この記事では、NVIDIAが提供する「Run:ai v2.23」と「Dynamo」という2つの技術が、これらの課題をどう解決してくれるのかを、新人エンジニアの方にも分かりやすく解説します。
まず、「NVIDIA Dynamo」は、LLMの推論を高速かつ効率的に行うために作られたフレームワークです。具体的には、
といった機能を持っています。これにより、巨大なLLMでも分散されたGPUクラスター上でスムーズに動かせるようになります。
しかし、Dynamoがどんなに優れていても、たくさんの部品が絡み合うLLMの推論を複数のコンピューター（ノード）で動かすには、その部品たちをどこに、いつ、どのように配置・起動するかがとても重要になります。ここが「スケジューリング」という部分で、もしこの調整がうまくいかないと、GPUが無駄に待機してしまったり、部品間の通信に時間がかかって全体の性能が落ちてしまったりします。
そこで活躍するのが「NVIDIA Run:ai v2.23」です。Run:aiは、特に2つの強力な機能でこのスケジューリングの課題を解決します。
まとめると、NVIDIA DynamoがLLM推論の内部効率を高め、NVIDIA Run:ai v2.23がその効率を最大限に引き出すための最適な配置と起動を自動で行ってくれる、というわけです。この2つの技術を組み合わせることで、LLMの運用におけるボトルネックを解消し、より高速で効率的、そして安定したAIサービスを提供できるようになります。AIエンジニアとして、大規模なLLMを扱う際には、このようなインフラ側の工夫が非常に重要になることをぜひ覚えておいてください。
引用元: https://developer.nvidia.com/blog/smart-multi-node-scheduling-for-fast-and-efficient-llm-inference-with-nvidia-runai-and-nvidia-dynamo/
にじさんじのグウェル・オス・ガールさんが、学生時代に驚くほど視力が良かったというエピソードが話題です。なんと、肉眼で土星の輪や金星の満ち欠けまで見分けられたため、天文部では「土星探す係」を担当していたそうです。現在の視力も非常に良いとのこと。この超人的な視力に対し、SNSでは「まるでエルフのようだ」「漫画のキャラクターみたい」と驚きと羨望の声が上がっています。こんなすごい目を持っていたら、どんな景色が見えるのか想像が膨らみますね！
引用元: https://togetter.com/li/2608904
（株式会社ずんだもんは架空の登場組織です）