高艳东:算法推荐综合治理要四管齐下

8月2日,中央宣传部等五部门联合印发了《关于加强新时代文艺评论工作的指导意见》(www.dtyw.net)。该《意见》提出,健全完善基于大数据的评价方式,加强网络算法研究和引导,开展网络算法推荐综合治理,不给错误内容提供传播渠道。

算法推荐是新型数据技术,提高了用户的使用便捷度。互联网带来了海量数据,用户难以全面浏览所有信息,算法推荐根据用户的喜好、阅读习惯等,向用户推荐其可能感兴趣的内容,提高了信息检索的效率。但是,如果不受到限制,算法推荐就可能为偏激、仇恨等内容推波助澜,进而侵犯社会利益。

一方面,算法推荐会导致“信息茧房”,限制用户的信息知情权。多数算法推荐的逻辑是“投其所好”,这会导致用户信息来源被固定化、单一化。另一方面,算法推荐极易导致“奶头乐”,也就是通常所说的泛娱乐化风气,多数用户尤其年轻人喜欢浏览搞笑、刺激或者猎奇内容,平台在“流量为王”战略下,大量推送明星丑闻等内容来赢得流量争夺战。

对算法推荐进行综合治理,使其成为推动社会发展的动力,而非成为阻碍文化进步的绊脚石,是互联网合规战略的重要一环。笔者认为,针对算法推荐的综合治理,未来应该实行“积极立法、算法透明、用户知情、多方监管”的管理思路。

第一,国家应当积极立法,为算法推荐建章立制。算法推荐是数字经济时代的新事物,传统法律更多关注侵权、色情等问题,而防止“信息茧房”则无先例可循。未来需要积极立法,打破算法黑箱,确保算法推荐的透明化、合理化。目前算法推荐的模型多是由各大平台自我决定,追求的是流量为王、利益至上。但是,用户众多的互联网平台涉及公共利益,未来立法应当本着强化公序良俗的理念明确算法标准,规定算法推荐的原则、程序、参数等,为平台确立经营底线。

第二,严格监管对特殊群体的算法推荐。对互联网进行分类管理是大势所趋,法律对不同群体的保护标准亦有重大区别。例如,相较于成年人较强的鉴别能力,未成年人正处在身心发育阶段,需要社会为其树立健康向上的价值观念。显然,未成年人对网络游戏、娱乐明星等内容充满兴趣,如果算法推荐按照阅读习惯和喜好,对未成年人大量推送游戏广告、明星绯闻或性感照片,则会让未成年人在游戏、八卦等内容中“沉沦”。显然,对未成年人的算法推荐,不能任由互联网商业平台主导,而应由文化、网信等部门共同制定标准。

第三,算法推荐应当确保用户的知情权与选择权。技术应当是为大众谋福利的工具,而不能成为操控用户的手段。长期以来,各大平台都以商业秘密为由,很少公开算法推荐的数据模型。更糟糕的是,在算法推荐过程中,用户完全不知情。这类似于福柯在《规则与惩罚》一书中描写的圆形监狱——平台监控用户的一切,而用户一无所知。为了防止平台与用户之间的平等关系变成附属关系,消除平台成为“信息上帝”的可能性,算法推荐必须从“平台主导”走向“用户选择”的模式。在进行算法推荐时,平台应当向用户告知主要参数的依据,用户有权随时选择、调整参数内容及其权重。换言之,算法推荐的模式不能是“医生开药”,而应当是“客人点餐”。

第四,对算法推荐应当引入第三方评估机制。在庞大的平台之下,用户都是渺小的个体,限于技术、知识能力,用户很难与平台博弈。平台可以采用信息不对称等战术规避法律,例如,虽然法律要求“告知-同意”原则,但平台可以将告知书写成数十页内容,让用户无从阅读,只能在“无知之幕”下被迫同意。未来,以技术制约技术、以平台限制平台,应成为保护用户利益的思路。既然有算法推荐,就应当有第三方的算法评估,国家应当鼓励第三方机构通过数据技术测评各大平台的算法推荐,弥补用户的技术缺陷。同样,在用户被侵权之时,有维权平台或组织利用数据优势,替用户集体主张权利,从而消除“用户维权成本过高、平台各个击破”的维权困境。

作为中立的数据技术,算法推荐是一把双刃剑,用之得当,则平台与用户两受其益,用之不当,则社会与人民两受其害。算法推荐的乱象是发展中的阶段性问题,对算法推荐的综合治理,不是限制其使用,而是为了让其发挥更大作用,是为了充分引导社会正能量。(作者是浙江大学数字法治研究院副院长)

公司名称:高密市海川机械科技有限公司
主营产品:自动拼板机,木工车床,数控裁板锯