當你打開ChatGPT輸入一句問題，看起來只是簡單的對話，但背後其實是一整套龐大的科技系統正在同步運作。從AI晶片、記憶體到資料中心，人工智慧之所以能快速回答問題，靠的並不只是「一個程式」，而是一整條高效能運算鏈。記者黃仁杰／綜合報導

當你打開ChatGPT輸入一句問題，看起來只是簡單的對話，但背後其實是一整套龐大的科技系統正在同步運作。從AI晶片、記憶體到資料中心，人工智慧之所以能快速回答問題，靠的並不只是「一個程式」，而是一整條高效能運算鏈。

[caption id="attachment_222948" align="aligncenter" width="1662"] 當你打開ChatGPT輸入一句問題，看起來只是簡單的對話，但背後其實是一整套龐大的科技系統正在同步運作。（圖／AI生成）[/caption]

首先，AI運作最核心的關鍵之一，就是GPU。GPU原本是為遊戲與影像運算設計，但因為具備大量平行運算能力，非常適合處理AI模型需要的大規模矩陣計算，因此逐漸成為生成式AI的核心硬體。目前包括NVIDIA等廠商的GPU，已成為全球AI產業最搶手的關鍵資源。

不過，光有GPU還不夠。AI模型在運作時，需要同時讀取與傳輸大量資料，因此還必須搭配高頻寬記憶體HBM。這類記憶體能比傳統DRAM更快速地傳送資料，避免AI晶片「空等資料」，影響運算效率。這也是為何近年HBM需求暴增，甚至帶動整體記憶體市場價格上升。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/

更多科技工作請上科技專區：https://techplus.1111.com.tw/

接著，這些晶片並不是放在一般電腦裡，而是集中部署於大型資料中心。資料中心可以想像成「超大型AI工廠」，內部擺滿大量伺服器與AI晶片，全天候處理全球用戶的需求。當越來越多人使用AI服務，背後就需要更多資料中心與更高電力供應支撐。

也因此，AI發展不只是軟體競爭，更牽涉半導體、記憶體、散熱、電力與網路等整體產業鏈。從台積電的先進製程，到SK海力士與三星的HBM，再到Google與Microsoft持續擴建資料中心，全球科技巨頭其實都在爭奪同一件事：算力。

所謂算力，簡單來說，就是AI處理資料與運算的能力。AI模型越大、功能越複雜，需要的算力就越高。這也是為何近年AI產業持續投入巨額資金建置硬體基礎設施。當AI逐漸成為日常工具，背後支撐它的晶片、記憶體與資料中心，也正成為全球科技競爭的新核心。

這篇文章 【科技小辭典】AI怎麼跑起來的？從GPU到資料中心 一篇看懂背後科技 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

人工智慧（AI）快速發展，帶動對高效能運算晶片的需求持續攀升。其中，最常被提及的就是GPU，但近年來，TPU也逐漸成為市場關注焦點。兩者同樣用於AI運算，卻有著截然不同的設計邏輯與應用場景。記者黃仁杰／綜合報導

人工智慧（AI）快速發展，帶動對高效能運算晶片的需求持續攀升。其中，最常被提及的就是GPU，但近年來，TPU也逐漸成為市場關注焦點。兩者同樣用於AI運算，卻有著截然不同的設計邏輯與應用場景。

[caption id="attachment_214285" align="aligncenter" width="1536"] 高效能運算晶片的需求持續攀升，GPU和TPU到底差在哪？一篇文帶你看懂。（圖／AI生成）[/caption]

GPU（圖形處理器）最初是為了處理影像與3D圖形而設計，具備大量平行運算能力，能同時處理多項任務。隨著AI模型需要大量矩陣運算，GPU因其高度彈性，被廣泛應用於機器學習與深度學習訓練，目前以NVIDIA為代表廠商，在AI晶片市場占據主導地位。

相較之下，TPU（Tensor Processing Unit）則是專為AI打造的專用晶片，由Google設計開發。TPU針對神經網路中的張量運算進行最佳化，能在特定AI任務中提供更高效率與更低能耗。換句話說，GPU像是「萬用工具」，而TPU則是「專業機器」，專門用來處理AI工作。

兩者最大的差異，在於「彈性」與「效率」的取捨。GPU能執行多種不同類型的運算任務，適合用於模型訓練與多元應用場景；TPU則針對特定AI模型優化，在推論與大規模運算中表現更佳，但應用範圍相對較窄。

也因此，目前多數AI開發仍以GPU為主，尤其在模型訓練階段。然而，在雲端服務與資料中心環境中，TPU正逐漸擴大使用規模，特別是在搜尋、語音辨識與推薦系統等固定任務中，能有效降低成本並提升效率。

業界觀察，未來AI晶片發展，並非單一技術取代另一方，而是依不同需求進行分工。GPU與TPU將各自扮演關鍵角色，共同支撐AI產業持續成長。

這篇文章 【科技小辭典】GPU、TPU差在哪？一篇看懂關鍵其實只有這一點 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

開課日期：隨時開課上課地點：線上課程上課費用：學員負擔：免費 政府負擔：填表洽詢 課程介紹：   進階篇課程以 …

開課日期：隨時開課
上課地點：線上課程
上課費用：學員負擔：免費 政府負擔：填表洽詢

課程介紹：

進階篇課程以實作為導向，講師將帶領學員親手操作範例，學習如何在ROCm GPU上部署與優化深度學習模型，加速AI推論應用的開發流程。授課內容涵蓋硬體架構概念、GPU程式設計、AI編譯器介紹到應用整合的流程，致力協助學員打造高效能的AI推論系統。

 人工智慧模型加速技術-基礎入門篇+進階篇為AI模型GPU加速的入門指南，專為初學者與有志投身AI加速器軟硬體研究的學習者所規畫設計。課程主軸以ROCm平台為核心，帶領學員從基礎認識CPU與GPU架構，逐步建立在ROCm架構下的開發環境，並深入理解其效能與特性。 ★★★建議以下二門課程同時報名，以達最佳的學習效果與實作體驗★★★(一)數位自學-人工智慧模型加速技術：GPU基礎(1H)(二)實體+線上同步-人工智慧模型加速技術：GPU進階(2H)

報名此課程

課程大綱：

-C語言簡介: From source code to assembly-編譯器簡介: GCC vs. Clang-多執行緒CPU程式介紹

師資介紹：

蘇講師現職：工研院電光所 副工程師學歷：國立清華大學資訊工程系博士候選人專業領域：LLM on GPU 開發

報名此課程

備註：
詳細內容及報名需知，請點選報名後見協會網站內容

[elementor-template id="128291"]

這篇文章 【線上】#免費 人工智慧模型加速技術：GPU基礎 – 工研院產業學院 新竹中興學習據點 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

英特爾（Intel）週二宣布，明年將推全新資料中心AI晶片Crescent Island，將針對能源效率進行優化，並支援廣泛的用途，例如運行 AI 應用程式或進行推論（Inference）運算。記者孫敬／編譯

英特爾（Intel）週二宣布，明年將推全新資料中心AI晶片Crescent Island，將針對能源效率進行優化，並支援廣泛的用途，例如運行 AI 應用程式或進行推論（Inference）運算。「它強調了我前面提到的重點，即推論，為AI進行優化，為提供最佳的代幣經濟學進行優化。」英特爾技術長Sachin Katti在週二的開放運算峰會（Open Compute Summit）上表示。

延伸閱讀：Nscale與微軟擴大合作 20萬顆輝達AI晶片將部於歐美資料中心

[caption id="attachment_195559" align="aligncenter" width="2560"] 英特爾Crescent Island將成新一波反擊。（圖／英特爾）[/caption]

英特爾能否藉Crescent Island搶回AI晶片市占才是關鍵

Crescent Island是英特爾為了追趕從超微（AMD）和輝達（NVIDIA）在AI熱潮獲得數十億美元收入，所做的最新嘗試。然而，英特爾的計畫仍然落後競爭對手，這也代表了英特爾高層和工程師面臨的重大挑戰，如何從AI晶片和系統市場中獲取市佔率。此前，英特爾執行長陳立武曾誓言要重啟AI計畫，因為他們實際上已經擱置了Gaudi系列晶片和Falcon Shores處理器等項目。

Crescent Island將搭載160 GB的記憶體，不過這種記憶體的運行速度比AMD和輝達資料中心AI晶片使用的高頻寬記憶體（HBM）還要慢。該晶片將基於英特爾消費級GPU所設計，但英特爾並未透露Crescent Island將使用的製程節點。

自OpenAI的ChatGPT於2022年11月推出引發生成式AI熱潮以來，新創公司和大型雲端營運商紛紛搶購GPU，這些晶片有助於在數據中心伺服器上運行AI工作負載。

Katti在聖荷西的貿易展上提到，該公司將從明年開始每年發布新的資料中心AI晶片，這將與AMD、輝達以及幾家自行設計晶片的雲端運算公司所設定的年度節奏保持一致。

英特爾的開放模組化策略強打多晶片需求市場

輝達一直在主導用於建立大型AI模型（如用於ChatGPT）的市場。陳立武曾指出，該公司計畫將設計重點放在建立有助於運行這些AI模型的晶片上，這些晶片在幕後工作以使AI軟體得以運作。

「我們不會試圖為市場上的每一種工作負載都打造晶片，我們的重點將越來越集中在推論。」Katti更稱英特爾已採取開放和模組化的方法，讓客戶可以混搭來自不同供應商的晶片。

輝達上個月宣布將向英特爾投資50億美元，獲得約4%的股份，成為其最大的股東之一，作為共同開發未來PC和資料中心晶片的合作夥伴。 Katti表示，這項交易是英特爾努力確保其中央處理器（CPU）能夠安裝在每一台售出的AI系統中的一部分。

資料來源：Reuters

這篇文章 英特爾再戰AI晶片市場？全新資料中心GPU「Crescent Island」預計明年問世 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

IP矽智財大廠安謀（Arm）12日於媒體活動，發表下一代智慧型手機遊戲專屬的Arm類神經圖像技術（Neural Technology），並預告2026年起Arm的GPU產品將內建獨有神經加速器。記者孫敬／台北報導

IP矽智財大廠安謀（Arm）12日於媒體活動，發表下一代智慧型手機遊戲專屬的Arm類神經圖像技術（Neural Technology），並預告2026年起Arm的GPU產品將內建獨有神經加速器，以強化遊戲、圖像處理效率及效能，實測已可降低50%的GPU工作負載，呈現更精緻的影像。

為了更有效的讓開發者參與Arm類神經圖像技術的開發應用，Arm正在推動為Vulkan圖形API加入機器學習擴充（ML Extensions），亦同步釋出神經圖形開發套件，協助開發者快速利用神經網路技術，持續推出創新的手機遊戲跟圖形應用。

延伸閱讀：台灣缺工怎麼解？Arm攜「半導體教育聯盟」挹注產業資源培育國際IC設計即戰力人才

[caption id="attachment_187939" align="aligncenter" width="2560"] 左起：Arm應用工程總監徐達勇、終端產品事業部市場策略總監蔡武男。（圖／孫敬拍攝）[/caption]

Arm精確超解析技術，為手遊體驗升級鋪路

「全球手遊市場去年產值已經超過1000億美元，今年預計成長到1200億，且擁有超過20億名的手遊玩家。」Arm應用工程總監徐達勇分享，在當今AI高速發展的時代，遊戲業者如何用AI去生成圖像，讓使用者有更好的影像品質及沉浸式體驗是非常重要的。

端看全球現況，綜合市場調研公司NewZoo與Sensortown的調查顯示，手遊營收占所有遊戲市場的83%，遊玩時常達3800億小時，Arm終端產品事業部市場策略總監蔡武男回應，全球手遊最大市場為亞洲，中國為第一名；其次為日本、韓國等地，遊玩類型則是MOBA、RPG、MMORPG為主。

Arm在2024年推出了「精確超解析度（ASR）圖像提升技術」，聚焦將桌機超解析度應用於行動平台，並於今年遊戲開發者大會（GDC）宣布開源。蔡武男提到基於傳統演算法的ASR雖已強化畫面及效能，但仍有侷限性，因此若要追求更好的品質，勢必需要有引進AI的Arm類神經圖像技術的協助。

[caption id="attachment_187941" align="aligncenter" width="1920"] Arm持續推動GPU創新，透過倍增計算能力、硬體光線追蹤、多項效能優化技術，提升行動裝置圖形性能與能效，滿足高階遊戲與多樣化應用需求。（圖／Arm）[/caption]

AI超取樣只需4毫秒，Arm開源套件助開發者快速上手

Arm類神經圖像技術是以Arm類神經超取樣（Neural Super Sampling, NSS）來運作，相同輸入條件下可產出更高品質的結果，整體運行僅需4毫秒，再加上完全開源的神經圖形開發套件，內含模型架構、權重資料、開發者工作室重新訓練模型所需的工具等，開發者可依據需求來使用或自行開發。

「受惠ASR和NSS可套用同一個API的優勢，開發者能快速將模型套用至已開發的生態。」蔡武男指出現在透過Arm類神經圖像技術，品質將進一步提升。此外，Arm本次也同步預告將推出「Arm類神經幀率升頻」（Neural Frame Rate Upscaling，NFRU）與「Arm 類神經超取樣與雜訊消除」（Neural Super Sampling and Denoising，NSSD）二項新技術，前者提升了畫面的更新率並自動生程中間畫面，將原本以30fps執行的內容，以低成本提升至60fps；後者則解決了完整的路徑追蹤（Path tracing）成本高昂問題，並利用極少量光線結合AI補全畫面細節，從相鄰畫素推論資訊，結合前一幀資料進行推算。

目前跟Arm長期合作的遊戲開發工作室，如Unity與Epic等國際知名IP，近期也積極與開源遊戲引擎Godot 合作，提升效能分析工具的使用體驗。

[caption id="attachment_187942" align="aligncenter" width="1920"] 「Arm透過神經超採樣（Neural Super Sampling）技術，在行動裝置上以較低解析度渲染並利用AI重建畫質，實現桌面級高品質圖形，同時大幅降低GPU負載與能耗。（圖／Arm）[/caption]

這篇文章 引領手遊AI新世代！Arm發表「類神經圖像技術」 2026年GPU將內建神經加速器 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

輝達（Nvidia）執行長黃仁勳即將在7月16日到北京舉辦媒體說明會，這是他今年第二次到中國，4月時他才剛強調過中國市場對輝達有多重要，現在又來了，可見中國這塊市場真的讓他很在乎。記者鄧天心／綜合報導

輝達（Nvidia）執行長黃仁勳即將在7月16日到北京舉辦媒體說明會，這是他今年第二次到中國，4月時他才剛強調過中國市場對輝達有多重要，現在又來了，可見中國這塊市場真的讓他很在乎。

[caption id="attachment_182215" align="aligncenter" width="1024"] 輝達黃仁勳這次去北京，不只是為了做生意，還因為美中科技戰讓他一舉一動都備受關注。（圖／科技島攝）[/caption]

延伸閱讀：

AI新創們搶攻瀏覽器市場 Google Chrome地位不保？

輝達黃仁勳力挺美國製造業回歸 認為：對台灣也是好事

Google豪砸24億美元強化AI人才 網羅AI編碼新創Windsurf高層

美國從2022年開始，就對輝達的高階AI晶片出口中國設下不少限制，怕這些晶片會被拿去做軍事用途，今年更直接禁止輝達H20這款AI晶片賣到中國，這本來是輝達在中國能賣的最強AI晶片，現在連這個都被禁止，讓輝達在中國市場少了很多生意。

黃仁勳這次去中國，不只中國媒體很關注，連美國也很緊張，美國兩位跨黨派參議員還特地寫信給他，提醒他千萬別跟中國軍方或情報單位有關的公司見面，也要避開美國出口管制名單上的公司。

儘管中國企業積極投入自研AI晶片，讓輝達在中國市場面臨華為等晶片製造商的競爭壓力，但中國科技巨頭仍高度依賴輝達的晶片與CUDA運算平台，輝達的技術優勢與生態系統，在高端AI運算領域仍具不可取代的地位。

根據輝達最新年報，2025財政年度中國市場為輝達帶來170億美元營收，佔總銷售額的13%，黃仁勳自己也不只一次強調，中國市場對輝達未來成長真的很重要。

2025年7月，輝達市值首次突破4兆美元，成為全球第一家達到此里程碑的上市公司，以及輝達在AI晶片領域的壟斷地位穩坐華爾街AI競賽的龍頭寶座，這次北京行，不只攸關輝達自己的未來，也牽動美中科技角力的敏感神經。

這篇文章 黃仁勳再訪北京 美國參議員緊張寫信提醒：別跟軍方見面 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

儘管輝達（NVIDIA）仍是業界標準，近期超微（AMD）在AI GPU領域的努力，成功扭轉了其AI GPU產品不如輝達的負面印象。然而，一位華爾街分析師對AMD的近期前景保持明顯的謹慎態度，建議目前採取觀望策略。記者孫敬／編譯

儘管輝達（NVIDIA）仍是業界標準，近期超微（AMD）在AI GPU領域的努力，成功扭轉了其AI GPU產品不如輝達的負面印象。然而，一位華爾街分析師對AMD的近期前景保持明顯的謹慎態度，建議目前採取觀望策略。

延伸閱讀：新加坡詐欺案牽出AI晶片走私疑雲 輝達晶片與戴爾、美超微伺服器中槍

[caption id="attachment_139011" align="aligncenter" width="1200"] AMD在AI GPU已慢慢追上龍頭輝達。（圖／科技島圖庫）[/caption]

華爾街對AMD AI GPU前景保守：庫存、客戶意圖成隱憂

具體而言，Truist Securities分析師威廉·史坦（William Stein）重申對AMD股票的「持有」評級，目標股價設定為每股111美元，這相較於目前約137.70美元的股價（截稿前來到134.80美元），有著約20%的跌幅空間。史坦提到關於AMD客戶購買其AI GPU究竟是為了「刺激競爭、試探NVIDIA價格」，還是真正偏好AMD技術的持續爭議，其認為更傾向於前者。

史坦也澄清了AMD最近與亞馬遜網路服務（AWS）相關的爭議，此前亞馬遜雲端業務的標誌曾一度出現在AMD的客戶名單中，隨後又神秘消失。根據史坦與AMD管理層的討論，亞馬遜更希望在自己的活動中宣布與AMD的合作關係，而非僅透過AMD文件中的一個標誌。

關鍵的是，史坦的通路調查顯示AMD存在顯著的庫存壓力，這在分析師看來是難以解釋的現象。鑑於目前AMD的AI GPU業務充滿不確定性，這位Truist分析師選擇不對AMD即將公布的季度財報，是否會構成正面或負面催化劑，表達個人觀點。

AMD AI晶片路線圖清晰：MI350、ROCm 7領銜，未來產品藍圖曝光

早先，AMD已正式發布其MI350系列GPU，該系列基於第四代Instinct架構，預計於2025年第三季上市。據AMD稱，這些GPU在AI運算能力上可實現4倍提升，在推論能力上更可提升35倍。

同時AMD也推出了ROCm 7，這是一個可用於調整AMD GPU性能的開源平台。AMD聲稱，ROCm 7在推論和訓練方面的性能相較於前一版本平均提升了3.5倍和3倍。AMD的Helios AI機架解決方案，結合了MI400 GPU、Zen-6架構的Venice CPU和Vulcano NICs，有望在2026年推出。

最後，AMD也預告了Helios的下一代產品將在2027年上市，並結合MI500 GPU、Verano CPU和Vulcano NICs。MI350 GPU則在今年第三季的推出，有望提振AMD下半年的營收。Cantor Fitzgerald分析師C.J. Muse推測，AMD在2025年下半年的AI營收將達到約60億美元。

資料來源：Wccftech

這篇文章 華爾街分析師對AMD AI GPU前景保守 庫存壓力、客戶態度還待觀察 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

AWS自研Graviton4晶片擁有每秒600 Gbps的網路頻寬，並稱這是公有雲服務中最高水準。記者孫敬／編譯

亞馬遜雲端服務（AWS）近日表示將推出Graviton4晶片更新內容，擁有每秒600 Gbps的網路頻寬，並稱這是公有雲服務中最高水準，AWS工程師Ali Saidi形容Graviton4的表現，就像一台機器每秒能讀取100張音樂CD，是亞馬遜位於德州德州奧斯丁的Annapurna Labs所開發的眾多晶片產品之一 。

延伸閱讀：亞馬遜正式啟用台灣AWS基礎設施區域 布局雲端、AI發展基礎設施

[caption id="attachment_44955" align="aligncenter" width="1200"] AWS的Graviton4有望挑戰輝達在市場的領導地位。（圖／科技島圖庫）[/caption]

亞馬遜自家晶片Graviton4升級，將挑戰傳統CPU市場

據外媒報導，亞馬遜在新版本Graviton4晶片的將挑戰半導體大廠英特爾（Intel）、超微（AMD），乃至於AI晶片龍頭輝達（NVIDIA）的市場主導地位。對AWS來說，公司真正的戰場在於AI基礎設施領域，特別是競爭對手輝達 ，AWS去年12月的re:Invent 2024大會上，宣布Project Rainier，一個專為旗下新創公司Anthropic打造的AI超級電腦，迄今AWS已向Anthropic投資80億美元 。

AWS客戶和產品工程資深總監Gadi Hutt表示，亞馬遜正尋求降低AI訓練成本的解決方案，並提供輝達GPU的替代方案 。據AWS稱，Anthropic的Claude Opus 4的AI模型，便是在AWS的Trainium2 GPU上進行訓練 ，Project Rainier則是由50萬個該晶片提供算力，這樣大的需求過往都是輝達所拿下。

Hutt補充，雖然輝達的Blackwell晶片效能優於Trainium2，但AWS的晶片提供了更好的成本效益 。「Trainium3將於2025年推出，其性能將是Trainium2的兩倍，並且能額外節省50%的能源。」

儘管AWS晶片供應量龐大，但其Annapurna Labs工程總監Rami Sinno坦承，目前市場對這些晶片的需求已經超出了供應 。他強調：「我們供應量非常非常大，但我們開發的每一項服務都有客戶需求。」

隨著越來越多像Claude 4這樣的大型AI模型證明它們可以在非輝達硬體上成功訓練，使當前市場面對的問題已經不再是AWS能否與輝達競爭，而是它能從這個晶片巨頭手中奪取多少市場份額。據報，Graviton4更新的發布時間預計落在今年6月底前。 

資料來源：CNBC

這篇文章 劍指輝達GPU市場龍頭地位！AWS自研Graviton4晶片預計6月底前發布更新 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

科技業的年度盛事台北國際電腦展（COMPUTEX 2025）日前已由首場論壇開跑、為後續更多精彩活動做暖身，企業自主AI解決方案領導品牌APMIC，也宣布將會二度參與COMPUTEX台北國際電腦展InnoVEX創新與新創展區。以宏觀的視野看準了各大企業對私有化部署與AI資料控管的需求，APMIC也趁勢發表全新「S1模型微調與蒸餾」解決方案，其中從模型訓練、知識蒸餾到測試階段擴充的全套完整流程。記者孟圓琦／台北報導

科技業的年度盛事台北國際電腦展（COMPUTEX 2025）日前已由首場論壇開跑、為後續更多精彩活動做暖身，企業自主AI解決方案領導品牌APMIC，也宣布將會二度參與COMPUTEX台北國際電腦展InnoVEX創新與新創展區。以宏觀的視野看準了各大企業對私有化部署與AI資料控管的需求，APMIC也趁勢發表全新「S1模型微調與蒸餾」解決方案，其中從模型訓練、知識蒸餾到測試階段擴充的全套完整流程。

[caption id="attachment_171960" align="alignnone" width="1865"] APMIC推出「S1模型微調與蒸餾」解決方案，建構於NVIDIA NeMo™端對端平台與NIM™微服務架構之上，涵蓋模型訓練、知識蒸餾至測試擴充的完整流程，支援容器化部署。(圖/APMIC提供)[/caption]

作為全臺首間導入NVIDIA最新Blackwell架構B200 GPU的AI解決方案提供商，APMIC針對最新推出的「S1模型微調與蒸餾」解決方案，將其建構於NVIDIA NeMo™端對端平台與NIM™微服務架構之上，支援容器化部署，能夠靈活地安裝於地端伺服器或私有雲平台，以助企業兼顧資安與AI應用部署與彈性需求。企業可選擇「工具平台租用」或「ODM模型代工」兩種服務模式，快速打造專屬「AI企業大腦」，加速知識轉化流程。

延伸閱讀：
COMPUTEX 2025／彭双浪談AI創新 將帶動全球產業數位轉型商機
COMPUTEX 2025／墨西哥雖暫時豁免 洪麗寗如何助緯穎應對美國關稅？
COMPUTEX 2025／研華重返COMPUTEX 大秀AI邊緣運算新浪潮
COMPUTEX 2025／黃仁勳抵台時間曝光 後續最新行程同步揭露
COMPUTEX 2025／科技業大咖陣容堪稱歷年之最 展會亮點有哪些？

有鑑於資安公司Bedrock Security在今(2025)年度3月甫發布的《企業資料安全信心指數》報告，其中表示有70%的美國資安專業人士，將AI與機器學習資料治理列為本年度的首要資安關注事項，顯現企業對私有化部署與AI資料控管的需求日益迫切。

S1模型微調與蒸餾方案採Teacher-Student架構，先以開源大語言模型結合企業內部資料進行優化，再透過知識蒸餾技術壓縮為輕量Student模型，兼顧語意理解、任務精準度與運算資源效益，並全面支援私有化部署，實現安全可信的AI應用環境。APMIC創辦人暨執行長吳柏翰表示，S1方案讓企業能真正掌握AI智慧資產，降低對外部通用模型依賴，提升知識利用效率並確保資料安全。

[caption id="attachment_171961" align="alignnone" width="2560"] APMIC創辦人暨執行長吳柏翰表示，APMIC已成為台灣首家全面導入NVIDIA最新Blackwell架構B200 GPU的AI解決方案軟體提供商，領先業界踏入新一代AI運算時代。(圖/APMIC提供)[/caption]

APMIC亦率先導入NVIDIA B200 GPU，突破AI運算瓶頸。B200在語言模型訓練與推論速度上有數倍效能提升，強化FP4運算與高記憶體頻寬，為企業AI模型微調與壓縮提供強大算力。搭配S1方案，企業可在既有硬體上發揮B200潛力，提升模型開發與推論速度，降低總持有成本（TCO），加速AI從概念走向日常營運。

APMIC將於COMPUTEX 2025期間，於南港展覽館2館InnoVEX區的NVIDIA Inception S0724主攤位及Garage+ S0324快閃攤位展示S1解決方案。APMIC創辦人暨執行長吳柏翰也將於5月22日NVIDIA GTC Taipei大會發表專題演講《透過知識蒸餾與測試階段擴展提升LLM準確度與運算效率》，並於5月19日HPE & NVIDIA Private Cloud Conference前瞻論壇，由策略夥伴總監蔡宜潔分享企業AI模型微調與蒸餾實務，助力產業掌握AI轉型契機。

這篇文章 COMPUTEX 2025／APMIC全新解決方案攜B200 GPU領航企業AI自主化 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。