“算法严监管”时代来临：四部委新规剑指平台“大数据杀熟、二选一”

原标题:“严格算法监管”时代来临:四部委新规提到“扼杀大数据，二选一”平台

“严格算法监管”的时代即将到来:四部委新规提到“扼杀大数据，选择一两个”的平台

中国时报(chinatimes)记者许云熙见习记者程阔北京报道。

大数据时代，算法成为连接人与虚拟世界的枢纽。但算法使用的不规范也导致了算法歧视、信息茧、扼杀大数据、饭圈文化、沉迷等问题。

1月4日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》)，自2022年3月1日起施行。

值得注意的是，算法推荐服务已经从互联网应用中分离出来，在国内也是首次建立自己的管理标准。

北京高勤律师事务所合伙人罗伊对《中国时报》记者表示:“算法在一定程度上决定了信息的内容，决定了用户能看到什么信息，这会对舆论和价值观产生影响。因此，有必要对算法进行分离和标准化。未来三年，算法将是监管的重点。”

“将算法单独标准化，是为了规范算法推荐行业的客观需求，这也和国外的做法是一致的。”西南政法大学数字经济与法治研究中心研究员邓若涵告诉本报记者。

此外，《条例》还对“扼杀大数据、诱导成瘾、二选一”等问题作出了相应规定。

为什么把算法分开是标准化的？

算法分离和标准化在国内尚属首次。

据了解，目前的算法推荐技术是指利用生成合成类、个性化推送类、排序选择类、检索过滤类、调度决策类等算法技术向用户提供信息。然而，算法本身的特点导致了一系列的问题。

该算法根据用户兴趣向用户推送大量同质化内容，用户长期只能获取来源有限、倾向性单一的信息，导致用户被束缚在“信息茧”中。但由于算法机制的不完善，外卖骑手被算法逼迫陷入“送餐越来越快，对自身安全关注度越来越低”的窘境。“电饭煲测试”的兴起，暴露了电商平台上的算法歧视。

邓若翰说:“算法系统由于在形成、运行、更新等方面的诸多特点，具有一定的独立性。”

他从技术层面向记者指出:“机器学习算法的培养更多是通过‘设计者输入训练数据，算法独立学习这些数据’的方式进行的。因此，即使是算法设计者也只能掌握输入的算法数据，而无法掌握算法学习的结果；其次，算法在运行过程中，通常会根据市场产生的新信息和自身输入的数据进行自我更新，以保证其对市场环境变化的适应性，但这也使得算法的更新和发展在一定程度上不受算法设计者和操作者的控制。但算法黑箱的存在，使得算法的设计者和操作者只掌握算法的输入数据和输出结果，而具体的分析和决策过程，设计者和操作者很难知晓。”

“如果不对算法进行单独监管，并根据算法系统的特点设计相应的监管措施和风险防范规则，那么只约束算法运营者的监管模式更容易陷入“隔山斗牛”的困境，即企业不仅不知道如何约束算法，反而倾向于将算法带来的问题归咎于“技术故障”，从而规避自身的管理责任。”邓若翰指出。

此外，邓若翰还认为，“算法推荐带来的信息茧和思维引导，逐渐影响了整个社会的舆论、文化和价值观，从而具有一定的公共属性，这也是监管部门应该直接对算法进行规范的重要原因。”

严禁大数据扼杀、诱导沉迷、二选一等。

作为互联网时代的产物，算法的双刃属性带来了积极和消极的影响。如何扬长避短，发挥其积极作用，成为人们关注的焦点。

目前，我国已经在网络安全、数据安全、个人信息安全等方面进行了相关的顶层设计。

在2020年发布的《法治社会建设实施纲要(2020-2025年)》中，提出要针对算法推荐、深度伪造等新技术的应用，制定完善规范化管理办法。随后，《网络安全法》、《数据安全法》、《个人信息保护法》等法律和《关于加强互联网信息服务算法综合治理的指导意见》等政策文件相继出台。

但此次《规范》从信息服务规范和用户权利保护两个方面制定了详细的规定，避免了算法带来的负面影响。

国家互联网信息办公室相关负责人表示:“《条例》的颁布主要基于以下两点考虑:一是需要进一步推进互联网信息服务算法综合治理。二是积极推动算法推荐服务规范健康发展。”

针对“二选一”的问题，《条例》第十六条明确，算法推荐服务提供者不得利用算法不合理地限制其他互联网信息服务提供者，或者妨碍、破坏其依法提供的互联网信息服务的正常运行，实施垄断和不正当竞争。

第21条也明确规定了“扼杀大数据”的问题。算法在推荐服务商向消费者销售商品或者提供服务时，应当保护消费者公平交易的权利，不得利用算法根据消费者偏好和交易习惯的特点，对交易价格等交易条件实施不合理的差别待遇等违法行为。

此外，《条例》第十八条、第十九条、第二十条明确了向未成年人、老年人、劳动者、消费者提供算法推荐服务的具体要求。如果不允许算法推荐服务诱导未成年人沉迷互联网，应方便老年人安全使用算法推荐服务，并建立和完善平台订单分配、薪酬构成与支付、工作时间、奖惩等相关算法，不得根据消费者偏好和交易习惯的特点在交易价格中使用算法。

算法驱动的行业将被洗牌

“《条例》的颁布，意味着与算法推荐相关的行业已经开始进入“算法严监管”的时代。”邓若翰说。

算法驱动的企业必然面临成本增加、利润压缩的局面。他表示:“《条例》提出的算法安全主体责任、算法评估验证机制、信息安全管理机制等算法管理机制，以及算法解释义务、自然搜索结果提供义务等义务，必将大大增加算法驱动型公司的合规成本。大数据扼杀和信息茧的约束，也在一定程度上限制了算法驱动企业的利润空

“企业正在从数据驱动向算法驱动转变。现在不是掌握了多少数据，而是谁的算法更先进、更有效。”罗伊向本报记者指出了此类企业的现状。

如何寻找新的、标准化的利润增长点，也成为算法驱动公司的难题。

邓若翰认为，“可以预见，相关公司将不可避免地陷入痛苦。在此期间，资本基础薄弱、盈利模式不成熟、算法体系不完善的企业可能面临被淘汰的可能。”

邓若翰还补充道:“《条例》的颁布只是算法规制走出的第一步，算法评估验证、算法解释等一些机制存在歧义。要充分发挥《条例》的制度效力，标准化必然成为下一步亟待解决的问题。比如算法推荐服务的‘基本原则’是什么，应该解释到什么程度，以及‘合适的方式’包括哪些方式等等，都需要进一步完善。”

贵州数据宝产品研究院院长李克顺对《中国时报》记者表示:“市场监管需要有效，企业的整个运营过程和数据需要足够透明。算法设计的技术多样性、计算过程的繁琐性，以及部分算法解读的不畅，都不够透明，会影响市场监管的有效性。”

不过，记者了解到，目前国内对于该算法还没有相应的标准和实施指南。因此，“算法监管”的时代已经到来，但还有很长的路要走。回搜狐多看看。

负责编辑: