學生開玩笑觸發校園AI監控檢查 加劇「校園到監獄」問題

記者鄧天心／綜合報導

近年來，美國因為校園安全問題越來越嚴重，很多學校都上線AI監控系統，希望能及早發現學生有自殺、暴力或霸凌傾向，避免危險發生，不過，這種AI監控系統因為誤判，學生私下聊天或講個玩笑話，也可能被誤會是在威脅別人，有時甚至鬧到警察介入。

延伸閱讀：OpenAI釋出GPT-5效能遭疑？執行長奧特曼親上火線承諾持續優化

現在美國有上千所學校用像Gaggle、Lightspeed Alert這樣的AI監控軟體，會自動檢查學生的Email、即時訊息、作業、網頁瀏覽內容，系統只要看到跟自傷、暴力或霸凌有關的關鍵字，就會立刻警告學校，有些嚴重的還會直接通知警方。

像華盛頓州溫哥華公立學校，三年內就花了超過32萬美元買AI監控服務，平均每個月就有三、四次警報，但這些警報裡，很多其實都是誤會，像學生在作業或劇本裡寫「打球」或「自殺」之類的字眼，AI就直接判斷是高危險行為。

有學生真的因為AI誤判被懲罰。例如田納西州有個13歲女生，只因為在學校聊天室開玩笑說「禮拜四我們要殺光墨西哥人」，即使只是開玩笑，AI還是判她有暴力威脅，結果她被警察逮捕、搜身、被關一晚，最後還被判居家監禁。佛羅里達州也發生過，女生在Snapchat私密動態開玩笑提及「校園槍擊」，結果AI自動報警，FBI直接到校帶人。很多家長和律師都在質疑，這些AI軟體根本無法正確理解對話語境，反而侵犯學生的隱私跟權利。

支持AI監控的學校認為，它可以幫學校及早預防自殺跟暴力事件，但同時，這些系統還帶來隱私外洩的風險，像有學生的日記、心理健康相關對話，因為系統安全漏洞全都曝了光，研究也指出，這類監控工具特別常用在非裔和低收入學生多的學區，讓這些原本就比較弱勢的學生處境更辛苦，也讓校園到監獄的現象更加嚴重。

因為這種監控越來越失控，現在學生跟律師團體也開始提告，指控學校違憲監視學生，美國公民自由聯盟等組織也呼籲應該立法規範，讓系統更透明、避免過度警報，並要好好保障學生的隱私，這些AI公司自己也承認，誤判是避免不了的，但強調他們的初衷只是想快速預防危險，不是要懲罰學生。

資料來源：ABC News、Fortune、Ground News