編者按

當今，在數智化浪潮中，算法已深入社會的各個角落，影響著人們生活的方方面面。結合此前四部委開展的網絡平臺算法典型問題治理專項行動，財聯社與《科創板日報》今日推出“算法治理”專題特稿報道。

報道旨在從算法領域的現象與問題，從對策到長久解決之道，全面深入地剖析當前網絡平臺存在的算法亂象，期望能進一步引發各界對算法合理運用與有效治理的關注與思考，助力構建健康、有序、向善的網絡生態環境。

本篇為“算法治理”特稿第二篇。

《科創板日報》12月10日訊（記者 張洋洋） 有關算法亂象和治理的討論，近期在農夫山泉創始人鐘睒睒炮轟短視頻平臺對謠言不作為導致其被攻擊，四部門聯合開展網絡平臺算法典型問題治理專項行動，達到了高潮。

曾在國內一家頭部互聯網公司擔任金融業務算法總監的王耀（化名），在后來的跳槽的過程中，拒絕了一家信貸企業高薪拋來的橄欖枝。

“他們算法落地的業務場景主要就是催收，這會有一定的道德壓力。”王耀告訴《科創板日報》記者。當算法介入業務，實施算法的人需要根據商業目標去做優化。這意味著算法是以商業利益為導向，而不能以實施者的喜惡或道德標準為準繩。

王耀說，部分被催收者本身已是金融營銷的受害者，再用算法去做這類工作，他覺得是“道德包袱”。但他也不可能與企業的商業目標對抗，將公司利益優先的算法變成有道德的算法，畢竟“我的道德不是別人的道德”。

王耀將算法導致的負面影響，總結為平臺商業目標導致的“系統冷漠”。

在平臺內，商業利益最后會轉化成員工的KPI考核，實施算法的人更要緊的是完成商業目標而無暇顧他。而無論是對算法的治理還是用于治理的算法，對商業組織是一種成本投入，這與平臺的商業目標間存在商業邏輯上的背離。

我國的算法治理自2021年開始，三年來，相關法律法規不斷完善。這期間各項政策措施陸續出臺，王耀早已習慣了算法的治理。對于四部門最新的算法治理專項行動，王耀等業內人士認為至少“游戲規則定下來了”，監管治理總是會讓算法朝著良性方向發展。

▍工具還是 “操控者”？

從瀏覽器搜索結果到醫療服務，從推薦內容并在一定程度上影響用戶審美趣味和消費行為，從金融投顧到實行投資決策在極短的時間內賺錢或賠錢，算法——解決問題或完成任務的指令集——如今已經應用在現實生活中的方方面面。

與生活息息相關的另一面則是，如今談論算法，隨之而來的也包括大數據殺熟、信息繭房、誘導沉迷等負面議題。

以推薦內容為例，批評者將負面后果歸因于，算法在不為公眾可見的背后“操縱”，放大或掩蓋某些審美趣味、影響用戶的消費選擇，從而導致過度沉迷和“信息繭房”等負面作用。

作為一項技術，算法并不是一開始就是眾矢之的的。

章駿（化名）曾在國內頭部物流企業擔任算法工程師，至今仍在算法一線從業。

作為從業者，章駿提到，算法產生的功能包含多種，如圖像識別、商品推薦、信息推薦等。以算法推薦信息為例，其最初是信息過濾的工具，在互聯網高速發展時期，信息爆炸的時代，起到注意力聚焦的作用。

“但在后來解決問題的過程中，從業者發現調一下指標或者參數，就能更好的讓客戶留在軟件里。”章駿說，對于公司而言，引流或者做利潤都是它的核心KPI，以業務為導向的話，就會驅使算法去優化，往留存用戶等方向做迭代。

章駿有一段從業經歷是在一家互聯網公司，他說，那時候公司每年要花上億資金購買數據，這些數據包括用戶的個人數據、行為數據等，算法要做的，就是對這些數據進行分析，最后進行推送。

章駿還有一段經歷是一家外賣平臺。他舉了個例子，具體的算法優化，此時要做的就是給用戶分組，做用戶畫像，比如哪些是價格敏感型，哪些是高客單價，這樣即便是同一個地區，甚至是同一個學校的兩個人，被推送的商品都是不一樣的。

當一個公司能夠捕捉到用戶大量行為和數據，并且帶來巨大的利潤，行業會自然而然的往這個方向走。在章駿看來，算法的應用深入，是互聯網行業這十幾年高速發展的商業自驅性行為。

“作為一項工具，算法本身是中立的，只是一些業務上的目標設置跟數據來源，會影響到它最后的行為結果。”他說。

▍商業自驅下的“系統冷漠”

算法從一個專業的技術概念到如今輿論爭議的焦點，大多數中國人對它的認知經歷了一個逐步深化的過程。2020年的《外賣騎手，困在系統里》一文，讓算法問題真正意義進入到公眾視野并使其成為眾矢之的。關于算法的各項監管政策，也在此之后逐步出臺。

在四部門最新的算法專項整治行動當中，重點整治的問題有，“信息繭房”誘導沉迷、違規操縱干預榜單炒作熱點、大數據“殺熟”、盲目追求利益侵害新就業形態勞動者權益、算法向上向善服務缺失侵害用戶合法權益等。

上述曾在國內一家頭部互聯網公司擔任金融業務算法總監的王耀把算法導致的上述系列問題，總結為商業目標導致的“系統冷漠”。

這里的“冷漠”，一方面是員工考核的KPI壓力。“在商業組織里的算法員工，他工作的優化的目標可能是點擊，可能是存留，也可能是用戶的互訪，他無暇顧及其他，比如復核平臺的內容是否符合事實。”

另一種“冷漠”來自平臺與依賴平臺獲取流量的人之間的博弈。平臺需要用戶帶來流量帶來點擊活躍生態，但與此同時，如果這些用戶生產的內容是劣質的，點擊都是低效率的，帶不來真正的用戶停留和用戶聯系，甚至違法亂紀，平臺又需要去處理低質內容。

王耀將此形容為，平臺就像開了一個集市，用戶來“擺攤”，平臺還得維護秩序，謹防“假冒偽劣”，以確保每一個擺攤的用戶都是“良心商家”。

“但平臺的優先項是盡可能做大總銷量，清除假冒偽劣并不是它的核心KPI”。王耀說，在互聯網行業，如今業務的比拼已是汪洋紅海，流量涉及真金白銀的收入，包括算法在內的各種治理是成本投入，這是一種商業邏輯上的背離，所以另一種“冷漠”的情況就會出現。

盡管如此，在當前的互聯網平臺內部，算法也不能沒有底線。

王耀說，最基本的合規要求，比如金融產品不允許承諾收益，不允許有一定的漲跌預測等。在內容平臺，大型企業也會配備專門的內容安全算法團隊，且規模不小，對違法亂紀問題進行審核。一部分企業如今還會越來越重視ESG（環境、社會和公司治理），這也是公司重視內部治理的一種。

▍“游戲規則定下來了”

我國的算法治理自2021年開始，當時國家互聯網信息辦公室、中央宣傳部、公安部等九部委聯合印發《關于加強互聯網信息服務算法綜合治理的指導意見》（下稱《指導意見》）。

按照上述《指導意見》，我國將利用三年左右時間，逐步建立治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局。

三年來，相關法律法規不斷完善，然而公眾對算法的感知與治理要求之間仍存較大差距。

對于四部門最新的《關于開展“清朗·網絡平臺算法典型問題治理”專項行動的通知》，作為從業者的王耀和章駿均認為對行業來講是好事，“至少把游戲規則定下來了” 。

根據這次專項行動安排，有關部門將在2025年1月底評估企業自查自糾情況。2025年2月14日前完成專項行動實施成效總結，“全面評估《指導意見》印發以來的算法治理舉措及取得的積極成效，深入分析難點問題，制定今后一段時期的務實舉措”。

在互聯網行業多年，見證《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等政策陸續出臺實施，對于涉及算法的各項治理規定，王耀說他已經“習慣了”。

怎么樣才是一個好的算法？算法的底線是什么？王耀說，現在還很難達成“好算法”的共識，或者說算法的“好”無法限定為一個單一目標。

“各平臺調性不同，利益標準不一，只要在遵守好監管的準則前提下，從不同角度出發優化的算法準則，反而能讓算法不在單一的方向跑出公序良俗的邊界，比如既要有提升活躍用戶活躍的目標，也要有提升用戶體驗的目標，還要有保障內容質量和合規性的底線要求等。”