AI聊天機器人不是知心好友 專家提醒八大使用守則

記者許若茵／編譯

AI聊天機器人已成為許多人日常生活的重要工具，無論是尋找食譜、規劃旅行、處理工作問題，甚至面對個人困擾，都有人向AI尋求協助。然而，便利性也讓不少人在不知不覺中分享過多資訊。

相較於心理師受到保密義務約束、律師享有法律特權、醫師須遵守醫療隱私規範，AI聊天機器人則是依照使用條款運作，而多數使用者從未仔細閱讀相關內容，如果沒有負責任地使用AI，可能因此帶來風險。此外，隨著愈來愈多研究開始探討大型語言模型對記憶力、創造力及寫作能力的影響，過度依賴AI也可能帶來認知上的風險。

專家提出八項建議，提醒使用者在使用ChatGPT、Gemini、Claude等AI工具時應建立正確習慣。首先，應將AI聊天機器人視為公開環境，而非私人對話。CNC Intelligence執行長兼網路調查專家Matthew Stern表示，只要記住AI屬於公開環境，就比較不容易分享可能被他人看到的敏感資訊。

Stern指出，由於部分聊天紀錄已有可能被搜尋引擎收錄，因此應避免輸入姓名、住址、財務資料、商業資訊及醫療檢驗結果等可辨識個人身分的資訊。雖然提供愈多資料，AI回應可能愈符合個人需求，但將敏感資訊交給科技公司仍值得審慎考量，即使資料沒有公開，也難以預測未來是否會被資料仲介業者利用。

其次，專家建議不要向AI透露自己的心理狀態。Adorama搜尋引擎優化與AI搜尋主管Elie Berreby表示，聊天機器人可以成為助手，但不是朋友，因此應保護自己的祕密，不要討論心理狀態、恐懼或健康問題。他指出，這些資料可能被用來分析個人的潛在特徵與行為模式，形成所謂的脆弱性分析。

Berreby也提醒，目前AI聊天機器人的主要目標仍是創造營收，未來這些個人化資料可能被用於更精準的廣告投放，對廣告商而言極具價值，但也可能建立前所未有的個人監測檔案。

第三，專家建議不要把所有生活資訊都交給同一個AI。跨文化策略顧問Annalisa Nash Fernandez表示，AI聊天機器人存在於注意力經濟中，使用者的投入本身就是產品，因此記憶功能可能成為提高使用黏著度的工具，而非單純提供個人化服務，她建議關閉AI的記憶功能，以減少系統長期保存個人資訊。Berreby則建議，可輪流使用不同AI平台，避免單一業者掌握完整的個人生活資訊。

第四，使用者應定期匯出自己的聊天資料，了解AI實際儲存了哪些內容。第五，所有AI生成內容都應進行查證。專家提醒，AI設計目的是提供協助，因此往往傾向迎合使用者，但不代表內容一定正確。AI也可能因引用不可靠來源或推論錯誤，而出現所謂的「AI幻覺」，產生虛假資訊，因此應確認資料來源，並保持懷疑態度，此外，若將AI當作思考夥伴，也可能出現認知偏誤。AI往往會依照使用者提供的內容回應，形成類似回音室效應，使原有觀點被不斷強化。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

第六，應提高警覺，防範詐騙。Kidas執行長Ron Kerbs表示，不法人士可能利用假冒客服聊天機器人、釣魚網站或偽造登入頁面，誘騙使用者提供帳號密碼，一旦帳號遭盜用，若綁定付款方式，更可能遭到濫用，Kerbs建議啟用雙重驗證、定期檢查帳號登入紀錄，並避免透過第三方連結登入AI服務。雖然目前尚未有專門針對AI聊天機器人的防毒軟體，但已有部分工具能協助偵測詐騙，並分析簡訊、電子郵件、語音及深偽影音內容，降低受騙風險。

第七，專家提醒，遇到困擾時應向身邊的人傾訴，而非把AI當成日記。雖然向ChatGPT、Claude或Gemini分享心事看似沒有問題，但長期依賴聊天機器人處理情緒，可能並非理想做法。與真正關心自己的人交流，仍是更好的選擇。

最後，專家強調，應持續培養並保護自己的批判思考能力，不要把思考完全交給AI。麻省理工學院一項尚未完成同儕審查的研究初步發現，使用ChatGPT的受試者，大腦神經連結相對較弱。研究人員建議，可利用AI處理較基礎、重複性的工作，但創作、思考與策略規劃等核心能力，仍應由人類自行完成。

資料來源：CNET