OpenAI高層：AI未來讓生物武器製作變簡單
記者鄧天心／綜合報導
OpenAI近日公開警告，新一代AI模型即將問世，在生物領域的風險可能也將大幅提升，一般人更容易製造生物武器。
延伸閱讀：
顛覆傳統電商 Amazon推「跨站下單」讓AI幫你找到平台以外的商品
OpenAI強調，AI技術不僅能推動醫藥與生物研究，卻也帶來「雙重用途」的隱憂，OpenAI高層向Axios透露，根據公司自訂的「風險預備框架（preparedness framework）」，OpenAI已加強模型測試，並導入新防護措施，防止AI被用於製造生物武器。
雖然OpenAI尚未明確指出哪一款新模型有風險，但負責安全系統的Johannes Heidecke表示，預期o3推理模型的升級版就有可能達到危險的級別。
OpenAI並不是說他們能協助打造生物武器，而是擔心「新手提升（novice uplift）」效應，即便是沒有生物學背景的人，也能用AI做危險的事。
OpenAI並非唯一警告AI潛在危害的公司。Anthropic在推出新一代Claude 4模型時，同步啟用更嚴格的安全措施，防範AI協助生物與核子武器。
OpenAI預計下月召集非營利組織與政府研究人員，討論AI生物技術的風險，此外，公司也將擴大與美國國家實驗室及政府的合作，探索如何利用AI反制惡意用途。
瀏覽 215 次
