近期，美国多位参议员提出了《2022 年算法责任法案》（简称《法案》）。《法案》要求公司评估其使用和销售的算法自动化系统的影响，在何时以及如何使用算法自动化系统方面提高透明度，并授权消费者就关键决策的算法自动化做出知情选择。他山之石，可以攻玉。今年 3 月，我国《互联网信息服务算法推荐管理规定》开始施行。《法案》对于我国未来进一步完善规范算法应用的制度具有重要的启示意义。

一、法案旨在提升算法应用的普及性、精准性及透明度

1. 增强算法应用原理及程序的普及性

当前，算法自动化系统正越来越多地对美国人的健康、财务、住房、教育机会做出关键决策，并增大了公众面临来自有缺陷或有偏见的算法的重大新风险的可能性。虽然算法自动化系统可以带来好处，但目前还没有足够的保障措施来保护公众不受公司使用这些程序的影响， 这些程序可能会成倍地放大安全风险、无意错误、有害偏见和危险的设计选择。

2. 提高算法自动化系统决策的精准性

如果公司对其产品进行了错误的数据、偏差、安全风险、性能差距和其他问题的测试， 会造成存在缺陷的算法自动化系统，而这会对公众安全带来危害。现实中已经发生过多起案例。例如，某算法自动化系统拒绝向患者提供止痛药，导致一些患者痛苦不堪，因为它错误地将宠物的止痛药算作主人的。再例如， 某设计拙劣的抵押贷款批准算法莫名其妙地拒绝向之前刚刚获得批准的申请人提供贷款。

由此可以看出，如果公司适当评估了将算法自动化应用于这些关键决策的影响，这些危害本可以减轻。

3. 提升算法应用的透明度

虽然决策自动化在行业中很普遍，但消费者和监管机构对这些“ 自动化关键决策过程”的使用缺乏洞察力。这使得企业很难承担责任， 消费者也很难做出明智的选择。公众和政府需要更多的信息来了解算法自动化在何处被使用以及为什么被使用， 公司需要展现出清晰的应用过程来使影响评估过程有效。

二、法案的主要特征

1. 加强评估：确认“强化关键决策过程”（ACDP）的影响

《法案》要求联邦贸易委员会（FTC） 颁布法规，要求公司对影响消费者生活的任何自动关键决策， 以及为其他实体使用的任何“自动决策系统”（ADS）进行持续影响评估，以做出“关键决策”。还要求公司在部署结束后将此类影响评估的文件保存 5 年。

这些规定将要求公司：一是向为受保实体开发“ 自动决策系统”（ADS）的任何合作伙伴组织披露其作为受保实体的身份。二是向联邦贸易委员会（FTC）提交有关任何影响评估的格式化总结报告。三是尽可能与内部利益相关者和独立的外部利益相关者进行有意义的协商。四是试图消除或减轻可能产生的重大负面影响。

2. 制定流程：确认“覆盖实体” 内部影响评估涵盖的要素

《法案》确立了影响评估流程的详细信息，该流程是覆盖实体内的一个内部流程，包括应考虑并完成适用于每个覆盖实体的哪些类型的评估、文件和分析。

《法案》的大部分内容侧重于“强化关键决策过程”（ACDP）或“自动决策系统”（ADS）的评估要素， 包括任何当前流程是否会被新的“强化关键决策过程”（ACDP） 取代。同时，《法案》还要求覆盖实体：一是就可能对消费者造成的重大负面影响以及评估影响的方法，对相关员工、承包商或其他代理人进行培训。二是确定他们是否应该对“强化关键决策过程”（ACDP）或“自动决策系统”（ADS）的某些用途进行限制。三是辨别出哪些做法是可行的， 包括改进“强化关键决策过程”（ACDP）或“自动决策系统”（ADS） 的开发和部署， 政府提供的资金、数据集和其他资源是必要的或有益的。

3. 汇报情况：定期向联邦贸易委员会（FTC）提交简要报告

《法案》要求评估过程以摘要报告的形式记录，并定期提交给联邦贸易委员会（FTC）。

同时，要求联邦贸易委员会（FTC） 提供指导和培训材料， 以帮助覆盖实体确定其受保护实体的地位并进行影响评估。

具体包括：一是保留受影响实体自行决定发布全部影响评估文件的权利。二是要求每 5 年审查一次法规。三是要求联邦贸易委员会（FTC）与国家标准与技术研究院（NIST）和白宫科学技术政策办公室（OSTP）共享信息，以便制定标准。

4. 建立信息库：方便消费者查询

《法案》要求联邦贸易委员会（FTC） 每年发布一份关于趋势和从影响评估总结报告中吸取的经验教训的报告。

此外，还要求联邦贸易委员会（FTC） 根据总结报告，开发一个关于“强化关键决策过程”（ACDP）或“自动决策系统”

（ADS）的公共信息库，消费者可以在该信息库中审查哪些关键决策已由公司算法自动化，以及数据源、高级别指标和如何对决策提出质疑等信息。

三、启示

1. 加强对算法推荐服务的评估

一是评估用于开发、测试、维护或更新的任何数据或其他输入信息。二是测试和评估隐私风险和隐私增强措施。三是测试和评估当前和历史性能， 包括部署前和部署后的测试。四是记录开发和部署的重要日期以及关键联系点。五是对用户权利的评估， 包括用户对决定提出质疑、纠正或上诉或选择退出此类系统或程序的程度。六是识别对用户可能产生的重大负面影响， 并评估适用的缓解策略。

2. 向监管机构提供算法应用情况报告

一是列明正在做出的算法推荐服务的目的和需求，前提是遵守法律法规， 尊重社会公德和伦理， 遵守商业道德和职业道德。二是列明使用的数据和其他输入及其来源， 前提是必须采用正当渠道获得。三是列明算法推荐服务的性能。四是列明算法推荐服务的透明度和解释性条款，方便用户质疑、纠正或上诉， 自由决定或选择退出此类系统或流程。五是列明任何可能的重大负面影响，以及为补救或缓解而采取的措施， 包括对算法推荐服务的某些用途施加的任何公开声明的限制。六是列明哪些影响评估要求已经完成，哪些尚未完成，以及未完成的理由。

3. 提升对用户的知情权和选择权的保护

一是建立公共服务平台，要求互联网服务提供者上传相关产品及服务中推荐算法的基本原理及使用情况，方便用户随时随地查询。二是在互联网服务提供者尽到合理的告知义务的前提下， 将是否开启算法的选择权交由用户， 在市场竞争中，由用户用脚投票，在获取用户隐私和获得服务之间取得平衡。三是将用户关于推荐算法的申诉与投诉纳入企业的用户个人信息权利响应机制， 及时响应用户的权利请求， 并允许用户设置个人信息的处理方式。（文︱朱帅 赛迪智库世界工业研究所）