Innovation on Arm

Innovation on Arm

By ArmTechnology
Download on the App Store

Innovation on Arm episodes

  • EP13 I 如何使用 GitHub Copilot 的 Arm 擴充功能，加速遷移至 Arm 架構伺服器


    您是否曾經在遷移到Arm 架構的伺服器、優化 NEON 或設定 CI/CD 工作流時，感到困擾且花了很多時間查找資料？


    本集節目針對正在學習、部署、或優化基於 Arm 架構的平台或軟體的開發者，介紹如何利用 Copilot Extensions 整合技術知識、RAG (Retrieval-Augmented Generation) 檢索與自動輔助來提升開發效率，期望藉由持續開發此擴充功能，以支援更廣泛的應用程式，協助您遷移至基於 Arm 架構的伺服器，在 Arm 平台上打造未來！

    --
    Hosting provided by SoundOn

    20 min
  • EP12 I 用 Arm KleidiAI 快速部署 LLM 到裝置：效能優化分享


    本集節目再次邀請 Arm 的 Principal Solutions Architect，深入淺出地帶大家了解開發者如何在 Arm 架構上部署大型語言模型（LLM）。


    舉例來說，若想將 LLM 中的 Vision Transformer 模型部署到手機等終端裝置，開發者需考慮：模型格式是否相容、輸入資料的格式與長度、目標部署的硬體架構（如 CPU 配置）等。由於不同模型之間存在原生差異，往往需要根據模型特性進行調整與最佳化，導致開發流程複雜且難以重複使用。

    為了協助開發者解決這項挑戰，Arm 推出了 KleidiAI ，這是專為 Arm 架構優化的開源軟體庫。KleidiAI 將常見的模型轉換、部署與推論過程進行優化，協助開發者快速導入各類模型，並在 Arm CPU 上實現最佳化效能。

    如果您想了解更多 KleidiAI 的使用方式，以及如何將 LLM 模型部署到邊緣裝置上，除了收聽本集節目，也歡迎造訪我們最新推出的 Arm Learning Path 系列教學模組，從實作出發帶您了解開發流程中的關鍵步驟。

    Arm Learning Paths: https://learn.arm.com/

    --
    Hosting provided by SoundOn

    23 min
  • EP11 I 開源軟體不只是免費工具：Arm 助您打造技術優勢與創新


    本集 Arm Podcast 介紹開源軟體的趨勢，深入探討開源軟體如何從過去認知的免費工具，轉變為驅動整個技術生態系的策略核心，以及其對 Arm 架構與開發者社群的深遠影響。Arm 透過三大主軸：標準制定、技術工具支援、社群參與，積極投入包括 SOAFEE、PSA 安全架構、Zephyr RTOS、SystemReady 等多項關鍵開源項目。同時Arm也鼓勵開發者從「使用者」角色進一步轉變為「貢獻者」，透過 GitHub、開源專案參與與 Arm 提供的開發資源平台，一起構築開源未來。


    本集亮點：

    ・開源軟體如何重塑 Arm 生態與開發者角色

    ・深入解析 Arm 在 SOAFEE、PSA 等核心開源項目的貢獻

    ・開發者如何從使用者變參與者，以及Arm未來開源策略重點大公開

    --
    Hosting provided by SoundOn

    17 min
  • EP10 I 從開機到遠端監控管理：OpenBMC 與 Arm 架構驅動資料中心與 AI 伺服器創新轉型


    本集節目邀請 Insyde Software 產品行銷處長與 Arm 解決方案架構師，深入解析 BIOS、UEFI 與 BMC 的技術演進，並探討 OpenBMC 在資料中心與 AI 伺服器中的應用趨勢。節目中分享了 Insyde 作為全球唯一量產 OpenBMC 的 ISV 供應商，其軟韌體如何協助產業標準化、強化安全性與推動永續發展，亦介紹 Arm 架構在 BMC、SystemReady 等標準中的關鍵角色。透過 Arm 與 Insyde 的深度合作，展現 Arm 攜手台灣生態系在全球 AI 浪潮下的創新實力與生態鏈價值。


    --
    Hosting provided by SoundOn

    31 min
  • EP09 I Arm 攜手生態系推動運算從雲端走向邊緣，全面驅動 AI 滿足未來需求


    COMPUTEX 2025 甫於上週落幕，多家企業紛紛以 AI 為主題發表演說或展示創新的產品，因此，本集節目特別專訪 Arm 終端產品事業部產品管理副總經理 James McNiven，深入探討 AI 發展的最新趨勢與挑戰，以及 AI 如何從雲端延伸至邊緣裝置。James 除了說明 Arm 架構在能源效率與高效運算方面的優勢，亦暢談了 AI 在自駕車、醫療診斷、穿戴裝置等領域的應用，以及 KleidiAI 如何協助開發者快速部署 AI 模型。此外，James 也揭示了 Arm 在異質運算與可擴展矩陣延伸指令集 (Scalable Matrix Extension, SME) 上的創新，並期待擴大與台灣生態系的深度合作。歡迎立即收聽，以了解 AI 未來的關鍵需求與洞察。


    --
    Hosting provided by SoundOn

    36 min
  • EP08 I 座位有限，立即報名 Arm Developer Experience開發者技術演講、前瞻技術高峰演講與 COMPUTEX Forum | COMPUTEX 2025


    Arm 將於 5 月 20 日至 5 月 22 日 COMPUTEX 期間，針對開發者在台北漢來大飯店六樓，舉辦免費的 Arm Developer Experience 開發者系列活動，包括兩天以雲端及行動裝置人工智慧為主題的技術演講、開發者小聚與舒適的休憩空間！請立即報名：https://reurl.cc/vQG1Oj


    1. 以 Cloud AI 為主題的技術演講與工作坊 (5/20 13:00-17:00 – 請點此報名)：

    本課程是專為雲端開發者設計，帶您深入了解如何在 Arm 平台上加速軟體開發：

    • 利用 Copilot 提升 Arm 開發生產力

    • 實作 RAG 本地部署，不依賴 GPU 也能在本地跑大語言模型，保護您的隱私數據

    • 介紹 從 x86 雲環境遷移到 Arm 架構 的實際範例

    想提升效能、降低功耗，還不快來試試？讓開發變快、雲端變綠，這堂課您值得擁有！

    精華議程如下：

    • Accelerating development with Arm GitHub Copilot

    • Seamless Cloud Migration to Arm

    • Deploying a RAG-based chatbot with llama-cpp-python using Arm KleidiAI on Google Axion processors

    • Ubuntu: Unlocking the Power of Edge AI

    2. 以 Mobile AI 為主題的技術演講 (5/21 9:00-13:00 – 請點此報名)：

    本課程是專為行動裝置開發者設計，帶您深入了解如何使用 Arm 最新的 AI 框架開發 ASR、Vision Transformer、Arm Frame Advisor、Arm Performance Studio 等：

    精華議程如下：

    • Build next-generation mobile gaming with Arm Accuracy Super Resolution (ASR)

    • Vision LLM inference on Android with KleidiAI and MNN

    • Introduction to Arm Frame Advisor/Arm Performance Studio

    • Gesture Activation: AI Interaction on Arm Platforms

    3. Arm 開發者小聚 ( 5/20 17:30-19:30 – 請報名任一場次開發者演講)：

    現場備有餐點與各式飲品，誠摯邀請已報名上述 5/20 與 5/21 任一場開發者演講且收到核可通知的朋友們，與 Arm 開發者專家在輕鬆的夜晚針對 AI 趨勢與工具親自交流！

    4. 5/20-5/22 Arm Developer Zone 休憩空間 ( 5/20-5/22 9:00- 17:00 – 無需報名)

    我們布置了舒適的休閒空間，讓您可以為期三天與 Arm 專家進行交流、觀看 Arm 產品展示、為您的裝置充電、以及進行桌遊等。無需報名，歡迎造訪我們。

    參加者 Arm 開發者系列活動可以獲得什麼？

    · 對包括 KleidiAI 與 Arm Cloud Migration 在內的豐富開發者資源、工具與應用擁有更深度的瞭解

    · 與 Arm 來自國內外的開發者專家當面討論與交流

    · 透過 Arm 開發者小聚認識來自不同領域的 Arm 生態系開發者朋友，擴展人脈，尋求未來合作機會

    現場座位有限，誠摯邀請您立即報名以保留座位！

    讓 Arm 協助您擴展雲端到終端的應用、提升行動裝置效能、優化遊戲，並助力您開發下一代人工智慧解決方案！

    報名網址：https://reurl.cc/vQG1Oj

    此外，也歡迎報名下列演講：

    l Arm 資深副總裁暨終端產品事業部總經理 Chris Bergey 在5月19日下午三到四點的前瞻技術高峰演講：https://reurl.cc/xNe0z4

    l Arm 終端產品事業部產品管理副總經理在COMPUTEX Forum的演講：https://reurl.cc/gRNmg7

    --
    Hosting provided by SoundOn

    21 min
  • EP07 I 從雲端到邊緣：為何眾多開發者選擇在 Arm 架構上運行 LLM？


    隨著大型語言模型（LLM）的技術演進，開發者不再只能依賴雲端，越來越多人開始將 LLM 推論部署在高效能的 Arm 架構上。這一轉變的背後，是推論框架優化、模型壓縮與量化技術的進步。


    本集節目將由來自 Arm 的 Principal Solutions Architect 深入淺出介紹什麼是 LLM? 各家基於 Arm Neoverse 架構導入 LLM 應用的雲端平台，包括 AWS Graviton、Google Cloud、Microsoft Azure等，同時也介紹了推動 LLM 生態發展的關鍵開源社群，例如 Hugging Face、ModelScope 等平台。此外，講者也分享了有趣的 use case。Arm 架構的優勢包括：高能效比、低總體擁有成本、跨平台一致性、以及提升資料隱私的本地運算能力，LLM on Arm 不再是遙遠的構想，已經正在發生，Arm 將是您雲端與邊緣部署的理想選擇!


    此外，Arm 將在 COMPUTEX 2025 期間舉辦一系列活動，包括 Arm 前瞻技術高峰演講以及 Arm Developer Experience 開發者大會。

    1. Arm 前瞻技術高峰演講 (地點：台北漢來大飯店三樓)：

    2025 年 5 月 19 日下午 3 點至 4 點，Arm 資深副總裁暨終端產品事業部總經理 Chris Bergey 將親臨現場以「雲端至邊緣：共築在 Arm 架構上的人工智慧發展」為題，分享橫跨晶片技術、軟體開發、雲端與邊緣平台的最新趨勢與創新成果，精彩可期，座位有限，提早報到者還有機會獲得 Arm 與 Aston Martin Aramco F1 車隊的精美聯名限量贈品，歡迎立即報名！

    Arm 前瞻技術高峰演講報名網址：https://reurl.cc/2KrR2X

    2. Arm Developer Experience 開發者系列活動 (地點：台北漢來大飯店六樓；5/20 Arm Cloud AI Day 13:00-17:00、5/21 Arm Mobile AI Day 9:00-13:00)：

    Arm 首次將於2025 年 5/20-5/22 COMPUTEX 期間，為開發人員舉辦連續三天的系列活動，包括以下四大活動：

    A. 5/20 下午 13:00-17:00 以 Cloud AI 為主題的技術演講與工作坊：


    部分議程包括；

    • Accelerating development with Arm GitHub Copilot
    • Seamless cloud migration to Arm
    • Deploying a RAG-based chatbot with llama-cpp-python using Arm KleidiAI on Google Axion processors, plus live Q&A
    • Ubuntu: Unlocking the Power of Edge AI

      • B. 5/21 早上 9:00-13:00 以 Mobile AI 為主題的技術演講：


      部分議程包括；
      • Build next-generation mobile gaming with Arm Accuracy Super Resolution (ASR)
      • Vision LLM inference on Android with KleidiAI and MNN
      • Introduction to Arm Frame Advisor/Arm Performance Studio

        • C. Arm 開發者小酌輕食見面會 ( 5/20 晚上 17:30-19:30)

        我們將於 5/20舉辦開發者見面會！誠摯邀請您與 Arm 開發者專家當面交流！

        D. 5/20-5/22 Arm Developer Chill Out Lounge ( 5/20-5/22 9:00- 17:00)：

        為期三天，我們布置了舒適的休憩空間，讓您可以在輕鬆的環境與 Arm 開發者專家交流、觀看 Arm 產品展示、為您的裝置充電、進行桌遊以及休憩等。

        無需報名，歡迎隨時來參觀。

        席位有限，誠摯邀請您立即報名上述活動，報名者還有機會於現場抽中包括 Keychron K5 Max 超薄無線客製機械鍵盤，以及 AirPods 4 耳機等大獎喔！

        讓 Arm 協助您擴展雲端應用、提升行動裝置效能、優化遊戲等，助力您開發下一代 AI 解決方案！

        Arm Developer Experience 開發者系列活動報名網址: https://reurl.cc/bWNo56

        --
        Hosting provided by SoundOn

        32 min
      • EP06 I 深入全球最大嵌入式應用展 Embedded World — 技術趨勢與產業新貌全解析


        在本集節目，我們邀請 Arm 的 Principal Solutions Architect 分享其親赴 Embedded World 展會所獲得的第一手洞見，包括台灣與國際廠商的最新產品展示，到觀察產業趨勢的轉變。無論你是嵌入式工程師、開發者，或對科技趨勢有興趣的朋友，本集內容相當豐富，歡迎收聽！


        ・軟體定義世界全面崛起：Container 化部署成為主流，軟體定義汽車進入實作

        ・ODM 廠加速轉型，邁向軟硬整合解決方案

        ・晶片大廠更著重開發者體驗以及軟體工具鏈整合

        此外，Arm 將在 COMPUTEX 2025 期間舉辦一系列活動，包括 Arm 前瞻技術高峰演講以及 Arm Developer Experience 開發者大會。

        1. Arm 前瞻技術高峰演講 (地點：台北漢來大飯店三樓)：

        2025 年 5 月 19 日下午 3 點至 4 點，Arm 資深副總裁暨終端產品事業部總經理 Chris Bergey 將親臨現場以「雲端至邊緣：共築在 Arm 架構上的人工智慧發展」為題，分享橫跨晶片技術、軟體開發、雲端與邊緣平台的最新趨勢與創新成果，精彩可期，座位有限，提早報到者還有機會獲得 Arm 與 Aston Martin Aramco F1 車隊的精美聯名限量贈品，歡迎立即報名！

        Arm 前瞻技術高峰演講報名網址：https://reurl.cc/2KrR2X

        2. Arm Developer Experience 開發者系列活動 (地點：台北漢來大飯店六樓；5/20 Arm Cloud AI Day 13:00-17:00、5/21 Arm Mobile AI Day 9:00-13:00)：

        Arm 首次將於2025 年 5/20-5/22 COMPUTEX 期間，為開發人員舉辦連續三天的系列活動，包括以下四大活動：

        A. 5/20 下午 13:00-17:00 以 Cloud AI 為主題的技術演講與工作坊：


        部分議程包括；

        • Accelerating development with Arm GitHub Copilot
        • Seamless cloud migration to Arm
        • Deploying a RAG-based chatbot with llama-cpp-python using Arm KleidiAI on Google Axion processors, plus live Q&A
        • Ubuntu: Unlocking the Power of Edge AI

          • B. 5/21 早上 9:00-13:00 以 Mobile AI 為主題的技術演講：


          部分議程包括；
          • Build next-generation mobile gaming with Arm Accuracy Super Resolution (ASR)
          • Vision LLM inference on Android with KleidiAI and MNN
          • Introduction to Arm Frame Advisor/Arm Performance Studio

            • C. Arm 開發者小酌輕食見面會 ( 5/20 晚上 17:30-19:30)

            我們將於 5/20舉辦開發者見面會！誠摯邀請您與 Arm 開發者專家當面交流！

            D. 5/20-5/22 Arm Developer Chill Out Lounge ( 5/20-5/22 9:00- 17:00)：

            為期三天，我們布置了舒適的休憩空間，讓您可以在輕鬆的環境與 Arm 開發者專家交流、觀看 Arm 產品展示、為您的裝置充電、進行桌遊以及休憩等。

            無需報名，歡迎隨時來參觀。

            席位有限，誠摯邀請您立即報名上述活動，報名者還有機會於現場抽中包括 Keychron K5 Max 超薄無線客製機械鍵盤，以及 AirPods 4 耳機等大獎喔！

            讓 Arm 協助您擴展雲端應用、提升行動裝置效能、優化遊戲等，助力您開發下一代 AI 解決方案！

            Arm Developer Experience 開發者系列活動報名網址: https://reurl.cc/bWNo56

            --
            Hosting provided by SoundOn

            33 min
          • EP05 I 走進未來生活：探索物聯網與零售科技應用 × 全球首發 Armv9 邊緣 AI 平台


            隨著物聯網技術持續融入日常生活，edge AI 正重新定義我們的生活方式，帶來前所未有的便利與體驗。


            在 Arm Podcast 第五集中，我們邀請到 Arm 物聯網事業部亞太區資深經理，分享物聯網的演進趨勢、剛發表的全球首個 Armv9 邊緣 AI 運算平台，以及他在全球指標性零售展會——NRF 2025 和 RETAILTECH JAPAN 中所觀察到的創新應用，歡迎收聽！


            此外，Arm 將在 COMPUTEX 2025 期間舉辦一系列活動，包括 Arm 前瞻技術高峰演講以及 Arm Developer Experience 開發者大會。

            1. Arm 前瞻技術高峰演講 (地點：台北漢來大飯店三樓)：

            2025 年 5 月 19 日下午 3 點至 4 點，Arm 資深副總裁暨終端產品事業部總經理 Chris Bergey 將親臨現場以「雲端至邊緣：共築在 Arm 架構上的人工智慧發展」為題，分享橫跨晶片技術、軟體開發、雲端與邊緣平台的最新趨勢與創新成果，精彩可期，座位有限，提早報到者還有機會獲得 Arm 與 Aston Martin Aramco F1 車隊的精美聯名限量贈品，歡迎立即報名！

            Arm 前瞻技術高峰演講報名網址：https://reurl.cc/2KrR2X

            2. Arm Developer Experience 開發者系列活動 (地點：台北漢來大飯店六樓；5/20 Arm Cloud AI Day 13:00-17:00、5/21 Arm Mobile AI Day 9:00-13:00)：

            Arm 首次將於2025 年 5/20-5/22 COMPUTEX 期間，為開發人員舉辦連續三天的系列活動，包括以下四大活動：

            A. 5/20 下午 13:00-17:00 以 Cloud AI 為主題的技術演講與工作坊：


            部分議程包括；

            • Accelerating development with Arm GitHub Copilot
            • Seamless cloud migration to Arm
            • Deploying a RAG-based chatbot with llama-cpp-python using Arm KleidiAI on Google Axion processors, plus live Q&A
            • Ubuntu: Unlocking the Power of Edge AI

              • B. 5/21 早上 9:00-13:00 以 Mobile AI 為主題的技術演講：


              部分議程包括；
              • Build next-generation mobile gaming with Arm Accuracy Super Resolution (ASR)
              • Vision LLM inference on Android with KleidiAI and MNN
              • Introduction to Arm Frame Advisor/Arm Performance Studio

                • C. Arm 開發者小酌輕食見面會 ( 5/20 晚上 17:30-19:30)

                我們將於 5/20舉辦開發者見面會！誠摯邀請您與 Arm 開發者專家當面交流！

                D. 5/20-5/22 Arm Developer Chill Out Lounge ( 5/20-5/22 9:00- 17:00)：

                為期三天，我們布置了舒適的休憩空間，讓您可以在輕鬆的環境與 Arm 開發者專家交流、觀看 Arm 產品展示、為您的裝置充電、進行桌遊以及休憩等。

                無需報名，歡迎隨時來參觀。

                席位有限，誠摯邀請您立即報名上述活動，報名者還有機會於現場抽中包括 Keychron K5 Max 超薄無線客製機械鍵盤，以及 AirPods 4 耳機等大獎喔！

                讓 Arm 協助您擴展雲端應用、提升行動裝置效能、優化遊戲等，助力您開發下一代 AI 解決方案！

                Arm Developer Experience 開發者系列活動報名網址: https://reurl.cc/bWNo56

                --
                Hosting provided by SoundOn

                34 min
              • EP04 I CES 2025：觀察消費性電子的技術與創新！


                CES 是全球規模最大的消費性電子展，也是觀察產業趨勢的重要場合。


                在 Arm Podcast 第四集，我們邀請 Arm 應用工程總監，分享他在 CES 2025 的所見所聞，包括 NVIDIA 與聯發科技合作的 Project DIGITS、F1一級方程式賽車車隊 Aston Martin Aramco 最新的合作案，以及展場產品亮點，歡迎收聽！

                --
                Hosting provided by SoundOn

                28 min

              About Innovation on Arm

              From the publisher's feed

              Innovation on Arm 帶您探索最新技術、推動創新、建構 AI 未來！