今年三月，印度警方逮捕一名涉嫌策劃製造蓖麻毒素的男子，調查人員發現他曾向ChatGPT和AI搜尋引擎詢問相關建議。這起事件震驚了國際生物安全圈，因為它顯示的不只是個別的恐怖主義威脅，而是一個正在成形的系統性風險，AI科技與生物武器之間那道原本存在的高牆，正在悄悄崩塌。作者：張瑞雄（台北商業大學榮譽講座教授）

今年三月，印度警方逮捕一名涉嫌策劃製造蓖麻毒素的男子，調查人員發現他曾向ChatGPT和AI搜尋引擎詢問相關建議。這起事件震驚了國際生物安全圈，因為它顯示的不只是個別的恐怖主義威脅，而是一個正在成形的系統性風險，AI科技與生物武器之間那道原本存在的高牆，正在悄悄崩塌。

[caption id="attachment_222862" align="alignnone" width="796"] AI科技與生物武器之間那道原本存在的高牆，正在悄悄崩塌。（圖／AI生成）[/caption]

生物AI工具的發展本意良善，蛋白質結構預測、基因體語言模型等技術的突破，讓藥物開發的速度大幅加快，對抗超級細菌的新型抗生素、癌症靶向療法，乃至新型態疫苗，都受惠於這波浪潮。問題在於，一旦這些工具具備設計蛋白質和病毒的能力，同樣的技術就可能被用來創造前所未有的危險物質。

理論上，有心人士確實可以利用AI設計出類似已知劇毒的全新分子，而且這些分子由於序列上的差異，可能完全無法被現有的生物安全偵測系統識別。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

這種「看不見的毒藥」問題，利用AI蛋白質設計工具，可以生成大量結構上模仿已知毒素、但基因序列截然不同的「合成類似物」，其中相當比例能夠繞過基因合成公司的安全篩檢軟體。

延伸閱讀：AI大浪淘沙，卻把人類的差異也一併沖走了｜專家論點【張瑞雄】

更令人不安的，是AI對人才門檻的侵蝕。過去，製造生物武器需要高度專業的實驗室訓練和高深生科知識，這本身就是一道天然的屏障。現在即使是幾乎沒有生物學背景的人，在大型語言模型的輔助下，也能在病毒學操作程序、實驗室機器人編程等任務上，表現得與具有博士學位的專業人士相當。

面對這個問題，科學界目前大致形成兩派思路，且兩者都有道理，卻也都有局限。

第一派認為，防線應該設在物質製造端，而不是軟體端。無論AI設計出什麼，終究要合成成真實的DNA或蛋白質才能造成威脅。因此，強化基因合成公司的篩檢義務、建立全球性的核酸訂購登記制度，才是務實的做法。美國已通過行政命令，要求接受研究資助的科學家必須向有篩檢機制的公司訂購核酸，英國和歐盟也在評估類似規範。但這套體系目前仍充滿漏洞，中國承接了全球逾30%的DNA合成訂單，篩檢至今尚未強制執行，而許多其他國家甚至連討論都還沒開始。桌上型DNA合成機的問世，更可能使集中管控的模式在未來徹底失效。

第二派則主張，AI模型本身應該加裝更嚴格的「護欄」，從源頭限制危險資訊的流通。部分基因體語言模型在訓練資料上刻意排除了感染人類的病毒，試圖以此降低惡意應用的可能性。但這些護欄往往並不牢靠，透過特定的提示策略或利用公開資料進行微調，就可以恢復模型原本被刻意抑制的能力。至於通用型大語言模型，儘管各大公司都聲稱已訓練模型拒絕回應有害請求，但測試結果顯示，近九成的受試者仍能從中取得高風險的生物資訊。護欄的存在固然必要，卻不應被視為萬靈丹。

台灣在這個議題上的處境，值得特別關注。作為全球半導體產業的重鎮，台灣同樣是先進AI基礎設施的重要供應者，理應在AI生物安全的全球治理中扮演積極角色。但台灣目前對生物AI工具的規範討論幾乎付之闕如，學術界和產業界對於如何在開放研究和生物安全之間取得平衡，也缺乏足夠的公開對話。當國際社會正在激烈討論是否應該對生物AI工具設定准入門檻，台灣不應只是旁觀者。

限制AI產生一些危險的資訊和限制AI工具的使用，同時維持科學研究的活力，在理論上並非不可能，但它需要科學學術界、科技業、政府和國際社會以前所未有的速度建立共識。印度的案例或許只是開端，在更大的危機降臨之前，我們還有多少時間，沒有人能說得準。

這篇文章 AI生物武器的潘朵拉盒子｜專家論點【張瑞雄】 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。