人工智慧（AI）快速發展，帶動對高效能運算晶片的需求持續攀升。其中，最常被提及的就是GPU，但近年來，TPU也逐漸成為市場關注焦點。兩者同樣用於AI運算，卻有著截然不同的設計邏輯與應用場景。記者黃仁杰／綜合報導

人工智慧（AI）快速發展，帶動對高效能運算晶片的需求持續攀升。其中，最常被提及的就是GPU，但近年來，TPU也逐漸成為市場關注焦點。兩者同樣用於AI運算，卻有著截然不同的設計邏輯與應用場景。

[caption id="attachment_214285" align="aligncenter" width="1536"] 高效能運算晶片的需求持續攀升，GPU和TPU到底差在哪？一篇文帶你看懂。（圖／AI生成）[/caption]

GPU（圖形處理器）最初是為了處理影像與3D圖形而設計，具備大量平行運算能力，能同時處理多項任務。隨著AI模型需要大量矩陣運算，GPU因其高度彈性，被廣泛應用於機器學習與深度學習訓練，目前以NVIDIA為代表廠商，在AI晶片市場占據主導地位。

相較之下，TPU（Tensor Processing Unit）則是專為AI打造的專用晶片，由Google設計開發。TPU針對神經網路中的張量運算進行最佳化，能在特定AI任務中提供更高效率與更低能耗。換句話說，GPU像是「萬用工具」，而TPU則是「專業機器」，專門用來處理AI工作。

兩者最大的差異，在於「彈性」與「效率」的取捨。GPU能執行多種不同類型的運算任務，適合用於模型訓練與多元應用場景；TPU則針對特定AI模型優化，在推論與大規模運算中表現更佳，但應用範圍相對較窄。

也因此，目前多數AI開發仍以GPU為主，尤其在模型訓練階段。然而，在雲端服務與資料中心環境中，TPU正逐漸擴大使用規模，特別是在搜尋、語音辨識與推薦系統等固定任務中，能有效降低成本並提升效率。

業界觀察，未來AI晶片發展，並非單一技術取代另一方，而是依不同需求進行分工。GPU與TPU將各自扮演關鍵角色，共同支撐AI產業持續成長。

這篇文章 【科技小辭典】GPU、TPU差在哪？一篇看懂關鍵其實只有這一點 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

Google再度加碼AI晶片戰局，宣布將其Tensor Processing Unit（TPU）架構進一步拆分為「訓練」與「推論」兩種專用處理器，成為最新一波對抗輝達的關鍵布局。新一代第八代TPU預計將於今（2026）年內正式推出。記者黃仁杰／編譯

Google再度加碼AI晶片戰局，宣布將其Tensor Processing Unit（TPU）架構進一步拆分為「訓練」與「推論」兩種專用處理器，成為最新一波對抗輝達的關鍵布局。新一代第八代TPU預計將於今（2026）年內正式推出。

[caption id="attachment_214087" align="aligncenter" width="1200"] Google再度加碼AI晶片戰局，宣布將其Tensor Processing Unit（TPU）架構進一步拆分為「訓練」與「推論」兩種專用處理器。（圖／123RF）[/caption]

Google指出，隨著AI從模型訓練邁向大規模應用，尤其是代理型AI（Agentic AI）興起，市場對不同運算場景的需求差異愈來愈明顯，因此決定將訓練與推論任務分開優化。Google資深副總裁暨AI與基礎設施首席技術長阿敏・瓦赫達特（Amin Vahdat）表示，此舉有助於提升效率，讓AI系統在實際部署時更具成本效益。

在性能方面，Google指出，新的訓練晶片在相同價格下，效能較上一代Ironwood TPU提升2.8倍；推論晶片則提升約80%。其中，推論專用晶片TPU 8i採用大量SRAM設計，每顆晶片搭載384MB SRAM，是前一代的三倍，主打高吞吐量與低延遲，以支援數百萬個AI代理同時運作。

這樣的發展也呼應產業趨勢。包括蘋果、微軟與Meta等科技巨頭，近年皆積極投入自研AI晶片，以提升運算效率並降低對外部供應商依賴。Google早在2015年即開始導入自研AI晶片，並於2018年開放雲端租用，布局已久。

儘管如此，輝達仍穩居市場龍頭地位，Google此次並未直接比較性能。不過隨著企業對算力需求持續擴大，TPU正逐漸成為雲端市場的重要替代方案。

Google透露，目前包括Citadel Securities與美國能源部旗下17座國家實驗室，皆已採用其TPU進行AI運算；此外，Anthropic也承諾採用多GW規模的TPU算力。

Alphabet執行長皮查伊（Sundar Pichai）則表示，新一代架構的目標是在成本可控前提下，支撐大規模AI代理同時運作。整體來看，Google正透過「專用化晶片＋雲端整合」策略，加速在AI基礎設施市場與輝達正面競爭。

來源：CNBC

這篇文章 不再一顆打天下！Google拆分訓練與推論晶片 正面對決輝達 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

Google擴大自研AI晶片布局，傳出正與Marvell Technology合作開發兩款新晶片，分別強化既有TPU架構與打造新一代AI推論專用處理器，企圖在ASIC市場重塑競爭格局。記者黃仁杰／編譯

Google擴大自研AI晶片布局，傳出正與Marvell Technology合作開發兩款新晶片，分別強化既有TPU架構與打造新一代AI推論專用處理器，企圖在ASIC市場重塑競爭格局。

[caption id="attachment_213641" align="aligncenter" width="2188"] Google傳出正開發兩款新晶片，分別強化既有TPU架構與打造新一代AI推論專用處理器。（圖／Google提供）[/caption]

根據外媒報導，雙方目前已展開合作洽談，規劃中的兩款晶片包括一款為與TPU搭配運作的記憶體處理單元（MPU），另一款則是全新設計、專為AI推論（inference）優化的次世代TPU。

MPU補強記憶體瓶頸 分擔TPU運算壓力

在架構設計上，MPU並非傳統TPU延伸，而是獨立的加速單元，主要負責處理記憶體相關運算，透過「記憶體內運算」（in-memory processing）降低主晶片負擔。

此類設計可有效分散資料傳輸與運算壓力，提升整體AI系統效率，尤其對大模型推論場景具關鍵意義。

更多科技工作請上科技專區：https://techplus.1111.com.tw/

科技社群討論區：https://pei.com.tw/feed/c/tech-plus

新一代TPU鎖定推論市場 對標GPU與ASIC競爭

另一項重點則是新一代TPU，將針對AI推論進行深度優化。現行Google主力AI加速器為TPU v7（Ironwood），具備192GB高頻寬記憶體（HBM）、4614 TFLOPs運算效能，並整合於由9216顆晶片構成的Superpod系統中。

隨著企業對AI推論需求快速成長，專用ASIC晶片正成為關鍵戰場，Google此舉被視為強化自家TPU生態的重要一步。

供應鏈吃緊仍是挑戰 AI晶片需求持續爆發

儘管需求持續升溫，但半導體供應鏈產能仍面臨瓶頸。市場傳出，包括TPU在內的AI晶片產能已接近上限，成為限制發展的重要因素。

業界觀察，MPU的角色類似輝達推出的LPU（語言處理單元），例如Groq 3 LPX透過高頻寬SRAM設計，加速自主型AI（Agentic AI）運算。

AI推論進入新戰局 記憶體架構成關鍵

Google若順利推出「TPU＋MPU」雙晶片架構，將有望突破記憶體瓶頸，顯著提升AI模型推論效率。

隨著AI應用從訓練轉向大規模部署，記憶體與資料流架構的重要性快速提升，晶片競爭也從單純算力比拼，進一步進入系統架構優化的新階段。

來源：wccftech

這篇文章 Google傳攜手Marvell推雙晶片TPU計畫 直攻AI推論效能瓶頸 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

Google傳出已計畫和聯發科合作開發下一代人工智慧晶片「張量處理器」（Tensor Processing Unit，TPU），預計2026年開始生產。記者孫敬／台北報導

據外媒《The Information》消息指出，Google傳出已計畫和聯發科合作開發下一代人工智慧晶片「張量處理器」（Tensor Processing Unit，TPU），預計2026年開始生產。

延伸閱讀：聯發科、台積電聯手推出業界首款採用「N6RF+」無線通訊整合單晶片

[caption id="attachment_156719" align="aligncenter" width="1200"] 外媒引述知情人士指出，Google跟聯發科將開發下一代人工智慧TPU晶片。（圖／科技島圖庫）[/caption]

Google仍維持和博通的合作關係

去年12月，Google曾在Google I/O 2024大會發表專屬第六代TPU－「Trillium」，並聚焦雲端AI市場客戶。外媒表示下一代TPU定位除服務雲端客戶外，更是提供輝達（NVIDIA）晶片的替代方案，而會有這次的合作，部分原因是聯發科與台積電有緊密的合作關係，且相較於網通IC設計大廠博通（Broadcom）來說每顆晶片的價格更低。

即使傳出跟聯發科合作的消息，外媒引述知情人士回應，Google仍和博通維持合作關係，未來將共同設計部分TPU晶片，過去幾年以來博通跟Google一直以來，都是Google AI晶片的獨家合作夥伴。

根據市場調研機構Omdia數據顯示，Google去年投入在TPU的支出約60億元至90億元，數據的主要推算是根據博通當年AI半導體收入推算，但仍是輝達重要的客戶，至今Google已訂購超過100美元的輝達Blackwell架構的AI晶片。

這篇文章 外媒：Google將和聯發科共同開發下一代人工智慧晶片 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

Tensor Processing Unit 是 Google 開發的一種專門用於人工智能(AI)加速的專用硬體，並由 Google TensorFlow 團隊設計和製造，旨在加速機器學習(ML)和深度學習(DL)的訓練和推理工作負載。

Tensor Processing Unit 是 Google 開發的一種專門用於人工智能（AI）加速的專用硬體，並由 Google TensorFlow 團隊設計和製造，旨在加速機器學習（ML）和深度學習（DL）的訓練和推理工作負載。

TPU 與中央處理器（CPU）、圖形處理器（GPU）不同，它是專門為機器學習設計的 ASIC（應用特定集成電路）。TPU 可以執行大量矩陣運算，這是深度學習所需的核心運算之一。與其他硬體相比，TPU 具有更高的效能和能源效率，可大幅縮短模型訓練和推理的時間。

Google已經將 TPU 納入其雲端平台（Google Cloud Platform）中，用戶可以通過雲端服務租用 TPU 來加速其機器學習和深度學習工作負載。

這篇文章 張量處理器（TPU） 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。