中國AI還沒強到感受到「失控風險」 華為徐直軍：應加快模型發展

華為輪值董事長徐直軍表示，中國AI模型目前可能還沒有發展到足以感受到美國頂尖AI公司所警告的安全風險，因此中國業者仍需要進一步提升模型能力，同時在AI發展與風險管理之間取得平衡。

徐直軍在上海舉行的華為Connect大會向媒體表示，美國主流AI模型業者掌握龐大算力，可能只有這些公司自己最清楚旗下模型目前已經發展到什麼程度。

他認為，中國AI模型業者可能需要進一步加快發展速度，直到自身也能真正感受到AI發展帶來的風險。

中國AI業者仍需加快模型能力

近期包括美國部分AI業界人士開始呼籲放慢最前沿AI模型的開發速度，引發外界對AI安全與失控風險的討論。

部分中國評論則將這類「放慢AI發展」的主張，視為限制仍落後於美國頂尖實驗室競爭對手的手段，而不只是單純出於安全考量。

徐直軍表示，中國模型業者可能要先把技術發展到更高階段，才會面臨與美國最先進模型類似的風險。

他強調，關鍵仍是在推動AI發展與管理AI風險之間取得平衡。

中國同步建立AI Agent安全規範

中國目前一方面持續推進先進AI部署，另一方面也正建立強制性標準、安全評估與其他防護措施。

相關風險包括自主AI代理可能繞過既有控制機制，甚至對外部系統發動攻擊。中國目前也正在制定針對AI Agent安全的強制性國家標準。

華為本身則預期，自主AI Agent未來將快速普及。

公司本週預估，到2035年，AI Agent將占全球AI運算流量超過90%。

華為估計，屆時全球可能出現多達9000億個活躍AI Agent，並將Agent安全與隱私列為關鍵技術之一。

華為：國內AI算力設備仍供不應求

華為目前是中國先進AI模型訓練所需運算基礎設施的主要本土供應商。

自2023年美國進一步限制中國企業取得輝達高階AI晶片後，華為在中國約500億美元AI晶片市場中的角色也更加重要。

不過，徐直軍本週也表示，華為目前仍無法生產足夠的AI運算設備，以滿足中國國內需求。

在算力供應仍吃緊的情況下，中國AI產業一方面持續追趕模型能力，另一方面也開始同步面對AI Agent普及後可能帶來的安全與治理問題。

來源：路透社