微軟自立門戶打造超級AI 強調「不會威脅人類」
記者鄧天心／綜合報導
微軟人工智慧部門近日宣布，他們正著手開發一種「超級人工智慧」（Artificial Superintelligence, ASI），微軟也強調，這項技術的研發核心是「安全第一」，要確保AI的進步不會對人類造成任何災難性的影響。
微軟此次公開強調「不會讓AI成為災難」代表也想在超級AI競賽中競逐的雄心，另一方面也有意引領全球對AI安全標準的共識。
延伸閱讀：
近年來，多國政府與學術機構也開始制定規範，例如要求企業公開AI模型的安全測試結果與決策邏輯，Google DeepMind、Anthropic與OpenAI等團隊也都在投入研究，尋找如何在推進AI能力的同時避免失控。
所謂「超級人工智慧」，是指在邏輯推理、創造力、決策能力等幾乎所有領域都超越人類的AI，如果現有的AI像是能幫忙完成工作任務的助手，那麼超級AI就像一位能自我學習、能創造新知識的「超級研究員」，它不只會回答問題，更能提出新理論、設計新產品，甚至制定策略。
許多人會自然將「超級智慧」聯想到電影《終結者》或《她》（Her）中，AI威脅人類的情節。微軟表示，他們理解這些擔憂，因此在研發過程中會「從設計開始就重視安全」。公司正在建立「可控性」機制，確保AI的行為隨時可由人類干預或終止。
另一個關鍵挑戰是「AI對齊」（AI Alignment）問題，意即讓AI的行為目標與人類價值一致。舉例來說，當AI被命令「讓人類更快」，它不應誤解成「消除人類的弱點」；保持價值觀的一致性，是避免AI誤判或造成危害的核心設計理念。
儘管目前的AI技術成長飛快，專家普遍認為距離真正的「超級智慧」還有數十年的時間。不過，AI的發展速度遠超過過去的預期，也讓人類不得不提前思考風險與倫理問題。
資料來源：reuters、business insider
