聯發科推生成式AI平台「達哥」,繁中LLM模型BreeXe如何助企業導入AI?

記者/孫敬 Archer Sun

聯發科今(9)日於《聯發科技生成式AI論壇》記者會發表最新生成式AI服務平台「MediaTek DaVinci」(又稱達哥),亦同步分享集結英國劍橋、倫敦、台大聯發科技創新基地,共同開發的繁體中文大型語言模型(LLM)「MediaTek Research BreeXe」(下簡稱BreeXe)。

在BreeXe的示範畫面中,操作介面近似ChatGPT,中文知識超越GPT3.5的450億參數模型,相比今年3月基於Mistral模型開源的MediaTek Research Breeze-7B(MR Breeze-7B)中英雙語LLM;長文內容僅能處理4,000字,BreeXe可支援達40,000字,聯發科表示,已著手準備開源台灣 RAG (檢索增強生成)訓練資料。

延伸閱讀:聯發科開源釋出大型中英雙語語言模型 有望成台版GPT-4

左起:聯發科行銷副處長人工智慧暨數據工程處楊建州、聯發科本部協理人工智慧暨數據工程處葉家順、聯發科創新基地負責人許大山、聯發科創新基地資深技術經理陳宜昌。(圖/孫敬攝)

自家人都在用!聯發科LLM模型MR BreeXe集團滲透率96%

「2022年6月,當時的聯發科還不太會做LLM模型。」聯發科創新基地負責人許大山回憶。翻開聯發科繁中LLM開發歷史,可追溯到2022年6月集團踏入生成式AI戰場,走過近兩年光景,在今年4月推出繁中大模型「MR BreeXe 8x7B」(編按:8x7B代表將八個不同領域的7B模型整併在一起)。許大山指出,AI最重要的技術便是LLM模型,並引述聯發科董事長蔡明介願景:「聯發科是個以技術為立足點的公司」,期待 BreeXe能和產業界砥礪語言模型,創造更多實際的客製與應用機會。

聯發科花費不到兩年時間完成繁中LLM模型,獲SI廠、雲平台、伺服器、教育機構等業者支持。(圖/孫敬攝)

在達哥正式對外發布前,聯發科內部員工便提前開始使用,聯發科本部協理人工智慧暨數據工程處葉家順提到,該平台在聯發科內部滲漏率約96%,替集團啟動跨部門50+GAI(Generative AI)專案,也擴及聯發科生態系如自動會議紀錄、履歷自動媒合、合約與訴訟專利IP保護等。

在各企業相繼追求導入生成式AI的競爭下,達哥主要定位為通用性高的整合平台,IC設計、HR、金融服務多元Know-how中均能成為重要角色。從聯發科生成式AI服務框架2.0得知,所有的企業都能藉由API庫進一步Plug-Ins使用聯發科擴充知識與工具,即便沒有任何程式背景也能做出多種智慧助理(Assistant)。

「達哥不只是一個語言模型,更像是一把瑞士刀。」楊建州補充。

聯發科協助打造的智慧助理含括多種應用情境。(圖/孫敬攝)

達哥能支援含聯發科BreeXe在內等LLM,現應用於人才招募、會議紀錄、圖表與文本重點摘要共11大類軟體開發及產業應用,並藉由BreeXe協助企業導入繁中生成式AI改善工作流程、提升生產效率。

聯發科生成式AI在開發、企業運作上有相當大優勢。(圖/孫敬攝)

瀏覽 2,694 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button