掌控還是失控?中國政府對演算法伸出魔爪

中國高效的在線世界監管機構已邁出了開創性且具不確定性的當局努力形成網絡自動化程序的第一步。

本月早些時候,中國的國家互聯網信息辦公室(網信辦)公開了包含20 家中國最具影響力的網絡公司和30 種核心演算法的摘要,其中包括抖音所有者字節跳動、電子商務巨擘阿里巴巴集團和微信的所有者騰訊。

這一里程碑標誌著,中國監管機構為迫使網絡公司公開為其平台的應用科學的詳細訊息所做的努力,這使他們從流行文化到政治的所有內容都握有掌控權。然而,一些專業顧問表示,北京的這一步,很少有政府準備好應對。

圖/123RF

文件的公開版本用通俗易懂的語言解釋了給演算法使用的數據類型以及它對數據的作用。根據知情人士,未公開的完整文件包含對數據和演算法的更細節的描述,其中包含不能公開的商業機密。根據監管機構要求公司提供的公開文件,它們還包含對潛在安全風險的自我評估。

公司提交這些訊息是因為3月份生效的一項新法律要求監管機構清理演算法的負面影響,例如放大有害內容、侵犯用戶隱私和濫用零工。該法律還要求使用演算法來宣傳「正能量」,一個習近平時代用來提升公眾輿論和支持共產黨的內容的短語。

北京並不是唯一一個試圖限制演算法力量的國家。美國和歐盟的監管機構正在努力解決類似的問題,例如如何保護青少年的心理健康和杜絕病毒式錯誤消息。

然而,中國法律代表了監管演算法的最直接的嘗試。最終,他們將可以應用於該國使用演算法技術的任何服務。

史丹佛大學負責追踪中國數位政策發展的 DigiChina 項目負責人Graham Webster表示:「他們正在做其他人尚未嘗試過的事情,世界其他地區可以從有效和無效的方法中學習。」

演算法專家說,這項工作提出的一個重要問題是,政府對演算法的直接監管是否切實可行。

當今的大多數網路平台演算法都基於一種稱為機器學習的技術,該技術通過學習從龐大的數據資料庫中預測用戶行為來自動做出廣告定位等決策。與包含由工程師編寫的明確規則的傳統演算法不同,大多數機器學習系統都是黑盒子,因此很難破譯其邏輯或預測其使用的後果。

北京對監管演算法的興趣始於 2020 年抖音尋求美國買家以避免在美國被禁止之後。根據知情人士,在中國監管機構宣布對訊息推薦技術實施新的出口管制後,幾家抖音的競標者失去了興趣,這讓北京意識到演算法的重要性。

中國網信辦迅速起草了一部關於演算法推薦系統的新法律,特別是想了解本國的科技公司如何塑造在線話語以及如何遏制這種影響。

Webster說,到 2022 年 1 月,該法律已經準備在兩個月後生效。對於一個有時會在立法草案上多年的政府來說,此法律的節奏異常快速。

一直擔任白宮科技政策辦公室助理主任,直到本月的布朗大學計算機科學教授Suresh Venkatasubramanian表示,中國法律的範圍和激進性令美國科技政策圈的人們感到震驚。

跟據 Venkatasubramanian,在臉書告密者Frances Haugen在國會辦稱演算法被限制時,美國政府中的一些人被此引起了興趣。然而,監管機構擔心這將為國家控制訊息開創先例。

面臨同樣問題的歐盟監管機構更加嚴厲,但仍避免政府對演算法進行直接審查。

7 月,歐洲議會通過立法,要求Google和臉書等最大平台定期評估其系統性風險,例如是否傳播非法內容。公司可以選擇如何應對這些風險,包括調整演算法,但必須提交獨立審計以證明他們的解決方案確實有效。

政策專家說,歐盟法律的實施和執行細節含糊不清。而北京的做法也很模糊。從理論上講,中國法律可以讓政府完全控制協調在線空間以及越來越多的線下生活的關鍵機制。然而,技術專家說,北京很可能會被自己的野心絆倒。

社交媒體推薦引擎有著最複雜的演算法系統,臉書和抖音等應用程式使用數百甚至數千種演算法來確定誰看到了哪些信息。與美國政府機構合作審查公司演算法的演算法審計師 Cathy O’Neil 表示,擁有這些系統的詳細文檔甚至代碼還不足以了解它們將如何影響像在線討論這樣廣泛的事物。

根據O’Neil女士的說法,即使可以完全訪問這些數據,這些數據會隨著每個用戶的帖子和互動而變化,科技公司自己的工程師仍然難以精確調整其系統的行為。她說,諸如促進更多宣傳等有針對性的改變是可行的,但實際上推薦引擎的整體功能是不可能控制的。

技術分析師和業內人士也對網信辦是否擁有執行自身規則的技術專長提出質疑,因為他們最初只是一個宣傳部門。

在中國法律生效後不久,字節跳動的政府關係經理和演算法工程師會見了網信辦官員,解釋了他們提交的文件。其中一位知情人士說,在其中一次會議上,該機構的官員對技術細節知之甚少,公司代表不得不依靠各種比喻和簡化的語言來解釋推薦演算法的工作原理。而公司也沒有被要求提交代碼或用戶數據。

中國政府去年發布的指導方針呼籲多個機構擴大人員以監督演算法。

總部位於北京的戰略諮詢諮詢公司 Trivium China 的技術政策研究負責人 Kendra Schaefer表示,他們正在嘗試構建工具、僱用人員並獲得技術專長來解決這類問題。因此,在接下來的五到十年內,關於這方面的法律將會增加。(記者/莊閔棻)

參考資料:

https://mbdailynews.com/china-blazes-hazy-new-trail-to-tame-internets-algorithms/

瀏覽 559 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button