当今民主面临的巨大挑战之一是技术、数据和自动化系统的使用威胁到美国公众的权利。这些工具往往被用来限制我们的机会，阻止我们获得关键资源或服务。这些问题都有很好的记录。在美国和世界各地，本应帮助患者护理的系统已被证明是不安全、无效或有偏见的。人们发现，在招聘和信贷决策中使用的算法会反映和再现现有的不必要的不平等现象，或嵌入新的有害偏见和歧视。未经检查的社交媒体数据收集被用来威胁人们的机会，破坏他们的隐私，或广泛跟踪他们的活动——通常是在他们不知情或不同意的情况下。
这些结果是非常有害的，但并非不可避免。自动化系统带来了非凡的好处，从帮助农民更高效地种植粮食的技术、预测风暴路径的计算机，到识别患者疾病的算法。这些工具现在推动了跨行业的重要决策，而数据正在帮助全球行业发生革命性变化。在美国创新力量的推动下，这些工具有可能重新定义我们社会的每一部分，让每个人的生活变得更好。
这一重要进展决不能以民权或民主价值观为代价，这些是拜登总统确认为其政府基石的美国基本原则。上任第一天，总统就命令联邦政府全体努力根除不平等现象，将公平融入决策过程，并积极推进美国的公民权利、平等机会和种族正义。[i] 总统有力地谈到了当今民主面临的紧迫挑战，并经常呼吁有良知的人采取行动维护公民权利，包括隐私权，他称隐私权是“我们认为理所当然的更多权利的基础，这些权利在这个国家的结构中根深蒂固。”
为了推进拜登总统的愿景，白宫科技政策办公室确定了五项原则，这些原则应指导自动化系统的设计、使用和部署，以在人工智能时代保护美国公众。人工智能权利法案蓝图是一个保护所有人免受这些威胁的社会的指南，并以强化我们最高价值观的方式使用技术。根据美国公众的经验，并根据研究人员、技术人员、倡导者、记者和政策制定者的见解，该框架附有《从原则到实践》——这是一本手册，适用于任何寻求将这些保护纳入政策和实践的人，包括在技术设计过程中实现这些原则的详细步骤。只要自动化系统能够对公众的权利、机会或获得关键需求产生有意义的影响，这些原则就有助于提供指导。
安全有效的系统
应保护您免受不安全或无效系统的影响。应在与不同社区、利益相关者和领域专家协商的情况下开发自动化系统，以确定系统的关注点、风险和潜在影响。系统应进行部署前测试、风险识别和缓解，以及持续监测，以证明其基于预期用途是安全有效的，缓解不安全结果，包括超出预期用途的结果，并遵守特定领域的标准。这些保护措施的结果应包括不部署系统或停止使用系统的可能性。自动化系统的设计不应具有危害您或您所在社区安全的意图或合理可预见的可能性。它们的设计应主动保护您免受自动化系统意外但可预见的使用或影响所造成的伤害。在自动化系统的设计、开发和部署中，应保护您免受不适当或不相关的数据使用，并免受其重复使用的复合危害。应进行独立评估和报告，确认系统安全有效，包括报告为减轻潜在危害而采取的措施，并尽可能公布结果。
从原则到实践：安全有效的系统
From Principles to Practice: Safe and Effective Systems
算法歧视保护
你不应该面临算法的歧视，系统应该以公平的方式使用和设计。当自动化系统导致基于种族、肤色、民族、性别（包括怀孕、分娩和相关医疗条件、性别认同、双性人身份和性取向）、宗教、年龄、民族血统、残疾、退伍军人身份、遗传信息、，或任何其他受法律保护的分类。根据具体情况，这种算法歧视可能违反法律保护。自动化系统的设计者、开发人员和部署人员应采取积极和持续的措施，保护个人和社区免受算法歧视，并以公平的方式使用和设计系统。这种保护应包括作为系统设计一部分的积极公平评估，使用有代表性的数据和保护人口特征不受替代，确保残疾人在设计和开发、预部署和持续的差异测试和缓解以及明确的组织监督中无障碍。应以算法影响评估的形式进行独立评估和简明语言报告，包括差异测试结果和缓解信息，并尽可能公开，以确认这些保护措施。
从原则到实践：算法歧视保护
From Principles to Practice: Algorithmic Discrimination Protections
数据隐私
你应该通过内置的保护措施免受滥用数据的行为，你应该有关于你的数据如何使用的代理权。应通过设计选择来保护您免受侵犯隐私的行为，确保默认情况下包括此类保护，包括确保数据收集符合合理预期，并且只收集特定上下文严格必要的数据。自动化系统的设计者、开发人员和部署人员应寻求您的许可，并尽可能以适当的方式尊重您关于收集、使用、访问、传输和删除数据的决定；在不可能的情况下，应使用设计保护隐私的替代方案。系统不应采用混淆用户选择或给用户带来侵犯隐私的默认负担的用户体验和设计决策。只有在可以适当和有意义地给予同意的情况下，才应使用同意来证明数据收集的合理性。任何同意请求都应简短，语言通俗易懂，并为您提供数据收集和具体使用背景的代理权；目前难以理解的广泛使用数据的通知和选择做法应该改变。加强对与敏感领域相关的数据和推断的保护和限制，包括健康、工作、教育、刑事司法和金融，以及与青年有关的数据，应该把你放在首位。在敏感领域，您的数据和相关推断应仅用于必要的功能，并且您应受到道德审查和使用禁令的保护。你和你的社区应该免受不受检查的监视；监控技术应受到加强监督，至少包括对其潜在危害和范围限制的部署前评估，以保护隐私和公民自由。不应在教育、工作、住房或其他可能限制权利、机会或获取的情况下使用持续监测和监测。只要可能，您应该有权获得报告，以确认您的数据决策得到了尊重，并评估监控技术对您的权利、机会或访问的潜在影响。
从原则到实践：数据隐私
From Principles to Practice: Data Privacy
通知和说明
你应该知道正在使用一个自动化系统，并了解它是如何以及为什么会对影响你的结果做出贡献的。自动化系统的设计者、开发人员和部署人员应提供一般可访问的简明语言文档，包括对整个系统功能和自动化所起作用的清晰描述，注意这些系统正在使用，对系统负责的个人或组织，以及对清晰、及时和可访问的结果的解释。此类通知应保持最新状态，并应将重大用例或关键功能更改通知受系统影响的人员。你应该知道影响你的结果是如何以及为什么由自动化系统决定的，包括当自动化系统不是决定结果的唯一输入时。自动化系统应提供技术上有效、有意义、对您和任何操作员或其他需要了解系统的人有用的解释，并根据上下文根据风险水平进行校准。应尽可能公开报告，其中包括以通俗易懂的语言提供的有关这些自动化系统的摘要信息，以及对通知和解释的清晰度和质量的评估。
从原则到实践：注意与阐释
From Principles to Practice: Notice and Explanation
人类的选择、思考和倒退
在适当的情况下，你应该能够选择退出，并有机会找到一个能够快速考虑和解决你遇到的问题的人。在适当的情况下，你应该能够选择退出自动化系统，而选择人工替代。适当性应基于特定背景下的合理预期来确定，并侧重于确保广泛的可及性和保护公众免受特别有害的影响。在某些情况下，法律可能要求提供人工或其他替代方案。如果自动化系统出现故障、产生错误，或者您想上诉或质疑其对您的影响，您应该能够通过后备和升级流程及时获得人工考虑和补救。人的考虑和后备应该是可获得的、公平的、有效的、保持的，并伴随着适当的操作员培训，不应该给公众带来不合理的负担。在包括但不限于刑事司法、就业、教育和卫生等敏感领域内有意使用的自动化系统，还应根据目的进行定制，提供有意义的监督途径，包括对与该系统互动的任何人员进行培训，并将不利或高风险决策纳入人为考虑。报告应尽可能公开，其中包括对这些人类治理过程的描述以及对其及时性、可及性、结果和有效性的评估。
从原则到实践：人类的选择、思考和倒退
From Principles to Practice: Human Alternatives, Consideration, and Fallback
将蓝图应用于人工智能权利法案
虽然该框架中解决的许多问题源于人工智能的使用，但此类系统的技术能力和具体定义随着创新的速度而变化，即使使用技术不太先进的工具，其使用的潜在危害也会发生。
因此，该框架使用由两部分组成的测试来确定范围内的系统。该框架适用于（1）自动化系统，该系统（2）有可能对美国公众的权利、机会或获得关键资源或服务产生有意义的影响。无论自动化系统在我们的生活中可能扮演的角色如何变化，这些权利、机会和获得关键服务资源的机会都应该平等享有并得到充分保护。
该框架描述了应适用于所有自动化系统的保护措施，这些系统有可能对个人或社区的以下活动产生有意义的影响：
权利、机会或访问
- 公民权利、公民自由和隐私，包括言论自由、投票自由，以及在公共和私营部门免受歧视、过度惩罚、非法监视以及侵犯隐私和其他自由的保护；
- 平等机会，包括平等获得教育、住房、信贷、就业和其他方案的机会；或
- 获得关键资源或服务，如医疗保健、金融服务、安全、社会服务、有关商品和服务的非欺骗性信息以及政府福利。
附录中提供了应考虑这些原则的自动化系统示例列表。以下技术指南为创建、部署或监督自动化系统的任何个人或实体提供支持性指导。
综合考虑，《人工智能权利法案蓝图》的五项原则和相关实践构成了一套重叠的针对潜在危害的支持措施。这一有目的的重叠框架，作为一个整体，形成了一个有助于保护公众免受伤害的蓝图。为实现这一框架中提出的愿景而采取的措施应与人们的权利、机会和机会受到的损害或损害风险的程度和性质相称。
[i] The Executive Order On Advancing Racial Equity and Support for Underserved Communities Through the Federal Government. https://www.whitehouse.gov/briefing-room/presidential-actions/2021/01/20/executive-order-advancing-racial-equity-and-support-for-underserved-communities-through-the-federal-government/
[ii] The White House. Remarks by President Biden on the Supreme Court Decision to Overturn Roe v. Wade. Jun. 24, 2022. https://www.whitehouse.gov/briefing-room/speeches-remarks/2022/06/24/remarks-by-president-biden-on-the-supreme-court-decision-to-overturn-roe-v-wade/
- 登录 发表评论