中国出台法规,管控歧视消费者或操控公众舆论的软件算法

2022年的第一个工作日,国家互联网信息办公室公布了《互联网信息服务算法推荐管理规定》(下称“《规定》”)。该规定自2022年3月1日起施行。

根据《规定》,“算法推荐技术”是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。尽管由于中文的模糊性,该定义在字面意义上可以被作出很宽泛的解释,但实践中,它实际上就是对在电子商务和在线服务中被广泛使用的“自动化决策”的监管尝试。

《规定》也可视为中国《个人信息保护法》出台后的一次具体实施,该法对自动化决策技术的使用作出了概括的规范。不过值得注意的是,《规定》的规范对象不限于对个人信息的自动化处理,也包括对非个人信息(例如新闻报道、经济数据、市场统计数据等)的自动化处理。

根据《规定》,算法推荐服务提供者至少需要采取以下行动以保障其算法的正当性:

  • 告知用户其提供算法的原理、目的和意图
  • 不得根据消费者的交易习惯实施不合理的差别待遇
  • 向用户提供关闭算法推荐技术和/或自动化决策系统的选项
  • 保护未成年/青少年、老年人、劳动者依法享有的权益
  • 设置便捷有效的用户申诉和公众投诉、举报入口
  • 不得操纵检索结果排序以影响公众舆论

《规定》对上述每个项目都提出了详细要求。只要一家公司在运营过程中,采用了数据分析(无论是针对个人数据还是非个人数据)、使用人工智能,或利用了AI机器学习技术,就应当重视此次新出台的监管措施。企业应当立即咨询有对信息技术原理有充分理解能力的律师,对公司产品和服务中所使用的算法进行专业的合规风险排查。

*        *        *        *

作者董皓系中国和美国纽约州执业律师、国际隐私从业者协会认证信息隐私管理人(IAPP/CIPM)。请通过电子邮箱donnie.dong@fujae.com联系作者。

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.