下载客户端

专栏·评论｜于平：防止算法变“算计”，技术如何向善

2022-01-28 11:50

来源：澎湃新闻·澎湃号·媒体

原创于平民主与法制周刊

文/于平

来源：《民主与法制》周刊2022年第4期

防止算法变“算计”，技术如何向善

近日，国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》（以下简称“规定”），以此规范互联网信息服务算法推荐活动，并重申“平台不能想推什么就推什么”。网信办有关负责人指出，要推动算法推荐服务公正公平、规范透明，促进算法推荐服务向上向善。

算法推荐是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等技术向用户提供信息。在日益发展的人工智能和大数据时代，算法的触角几乎深入到互联网的每一个角落，深度改变了人们的生活。不过，算法在为人们带来便利、丰富信息的同时，也面临着被异化的危险。从备受诟病的算法歧视到“大数据杀熟”，从诱导沉迷到信息茧房，诸如此类算法变“算计”的现象，不仅恶化了网络生态，也侵害了消费者的权益。

去年年底，北大互联网发展研究中心发布的《中国公众“大安全”感知报告》显示，有高达七成的公众感到算法能获取自己的喜好、兴趣，进而能“算计”自己。在相关媒体报道中，也披露了不少算法变“算计”现象。比如，使用手机在网上订酒店、订飞机票，熟客将支付更高的价格；使用手机软件打车，使用苹果手机打车的用户，更容易被专车、优享等价格更高的车型接单；玩网络游戏时一旦无法通关，就会出现“放水”现象，导致游戏者如中毒一样无法停止；用户如果反复浏览某件商品，就会不断显示各种折扣优惠，诱导用户非理性消费……有调查显示，大量App向用户推送的各种内容，包括文章、短视频、商品信息等等，都有算法之手在精准投喂，一些互联网企业从中取得了惊人的利益。

另一方面，当用户遭算法“算计”时，往往只能无可奈何。因为，要想证明自身利益受到侵害，调查和举证都极为困难，甚至投诉无门。此外，不少涉及算法侵权的案例还常常存在着极大争议。比如，一些疑似“大数据杀熟”的个案被曝光后，涉事企业和平台总是矢口否认，把事由归咎于价格动态变化或者用户误解等等。而对于此类争议，监管部门通常难以介入，最终导致不了了之。

正因此，此次国家网信办等四部门联合发布的“规定”，无疑将极大改变算法的监管困境，进而为用户维权提供有力的后盾。具体而言，“规定”明确要求：算法推荐服务应遵循公开透明的原则；鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，优化规则透明度和可解释性；建立健全算法机制审核、科技伦理审查、用户注册、信息发布审核等管理制度，不得利用算法操纵榜单、控制热搜等干预信息呈现，等等。

可以说，“规定”对于掌控算法的企业，已设定了严格而清晰的规范。包括企业在提供算法推荐服务时，应具备怎样的资质，应承担怎样的义务，应守住怎样的边界等等，都有了较为明确的答案。如此，必然有助于扭转相关企业对于算法的操控和垄断，打破算法的黑箱，让用户不再只是被投喂的对象，而是能够掌握一定程度的知情权。此外，算法机制机理审核、科技伦理审查等制度的建立，意味着将算法的监管从事中提前到事前，这不仅能更积极有效地防范算法侵权，也迈出了“算法伦理”建设的关键一步。

不过也应看到，“规定”要想真正落地，并非易事。毕竟，对于许多互联网企业而言，算法已成为其核心竞争力，出于对商业利益的保护，算法的更加透明，监管的强势介入，很可能遭遇重重阻力。此外，监管者是否具备足够的专业能力，对提供算法服务的企业进行精准、有效的监管，也是不容回避的现实挑战。因而，在未来具体执行“规定”的过程中，还必须优化监管框架，形成各类可操作性的细则，进而为监管提供高水平的资源支持。

“规定”的真正价值，在于能够得到执行和落实。说到底，人们必须驾驭算法应用，而不能被算法应用所驾驭，让算法沦为失控的巨兽。引导相关企业在合法合规轨道中应用算法推荐，最大程度趋利避害，发挥新技术的魅力，需要各方共同努力。如此，才能使确保算法技术的健康发展，在尊重用户、造福社会的前提下，真正实现“技术向善”。

编辑：康齐贤芦佳琪