蘋果洽談AI新創PrismML 有望讓大型AI模型直接在iPhone上運作

記者彭夢竺／編譯

蘋果（Apple）正與矽谷AI新創公司PrismML洽談合作，評估一項可大幅壓縮大型AI模型的新技術。若技術成熟，未來Siri有望將更多AI運算直接放在iPhone上完成，不僅提升反應速度，也能進一步強化隱私保護。

PrismML執行長Babak Hassibi接受外媒《CNBC》訪問時證實，蘋果及其他科技公司目前都正在測試PrismML的AI模型，評估其執行速度、耗電量及實際效能。他表示，目前雙方仍處於非常早期的接觸階段，但合作進展「相當順利」。

模型壓縮不到4GB 可直接在iPhone運行

PrismML是由加州理工學院衍生的新創公司，並獲得Khosla Ventures投資。該公司近日發布經壓縮後的阿里巴巴Qwen開源大型語言模型，成功將原本約54GB的模型壓縮至不到4GB，讓擁有270億個參數（27B）的模型，能直接在iPhone 15以上機型運作。

不過，目前為止蘋果尚未對此消息發表評論。

降低對雲端依賴 有助Siri速度與隱私

消息曝光前一天，蘋果才剛推出iOS 27公開測試版，讓外界首次體驗新版Siri。

蘋果近年持續強調，希望更多AI功能能直接在裝置端完成，而非全部仰賴雲端。若大型AI模型能直接部署在iPhone，不僅可減少資料往返伺服器造成的延遲，也能降低雲端運算成本，同時提升隱私保護，部分功能甚至可在離線狀態下運作。

Creative Strategies總裁暨首席分析師Carolina Milanesi認為，更小型的AI模型有助於Apple把更多高階AI功能搬到手機端，例如運算攝影、影片生成，以及涉及健康、醫療等敏感個人資料的AI應用。

AI模型記憶體需求最高可降低15倍

PrismML表示，技術核心在於重新設計AI模型儲存資訊的方式，將每個數值由原本16位元（16-bit）大幅簡化，使模型所需記憶體降至原本的十分之一到十五分之一，壓縮後的模型可使用少10至15倍的記憶體，生成速度提升6至8倍，耗電量降低3至6倍。

不過，Hassibi也坦言，模型壓縮仍需付出代價，整體效能通常會下降幾個百分點，其中事實記憶能力最容易受到影響，而推理、數學及程式撰寫能力則相對保留較完整。

未來還將支援Google Gemma

目前PrismML已免費釋出兩個壓縮版本，可直接運行於iPhone、MacBook及搭載NVIDIA（輝達）GPU的PC。Hassibi表示，下一步將支援Google Gemma模型，之後也將挑戰更多目前仍需資料中心才能運作的大型AI模型。

除了智慧手機與筆電外，這項技術未來也可望應用於機器人、自主系統及其他需要即時決策、無法依賴雲端連線的設備。

分析師：真正考驗仍是大量使用情境

不過，多位分析師認為，PrismML目前公布的成果仍需經過實際市場驗證。Counterpoint Research研究總監Tarun Pathak表示，真正關鍵在於模型面對長篇輸入、多工操作及數百萬次實際查詢時，是否仍能維持效能與電池續航。

IDC客戶處理器研究主管Phil Solis則認為，即使記憶體需求下降，若AI功能長時間於背景持續運作，仍可能造成手機耗電問題。

模型變小 不代表AI晶片需求會下降

PrismML技術也再次引發市場討論：AI模型效率提升，是否意味著未來資料中心及AI晶片需求將下降，部分原本需要8張GPU才能運作的AI模型，未來可能只需1張GPU即可完成相同工作。

不過，分析師普遍認為，這不代表AI晶片需求會因此減少。D.A. Davidson分析師Gil Luria指出，AI運算需求只是從資料中心轉移到終端裝置，GPU及記憶體依然不可或缺，只是部署位置不同。

他也提到，AI效率提升反而可能催生更多AI應用，帶動更多裝置與服務採用AI，因此整體晶片需求未必下降，甚至可能持續成長。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

資料來源：CNBC