公平

头条吹捧人工智能技术的快速进步。使用人工智能技术——机器和算法——进行预测、建议或决策，对提高福利和生产率具有巨大潜力。但它也带来了风险，如可能出现不公平或歧视性结果，或现有社会经济差异的持续存在。健康人工智能就是这种紧张关系的一个典型例子。最近发表在《科学》杂志上的研究表明，一种出于良好意图而使用的算法——将医疗干预目标对准病情最严重的患者——最终将资源输送给了更健康的白人人口，而损害了病情更严重的黑人患者。

好消息是，虽然人工智能和机器学习技术的复杂性是新的，但自动化决策并非如此，我们在联邦贸易委员会拥有处理使用数据和算法做出消费者决策所带来的挑战的长期经验。多年来，联邦贸易委员会提出了许多指控违反我们执行的涉及人工智能和自动化决策的法律的案件，并调查了该领域的许多公司。例如，1970年颁布的《公平信用报告法》（FCRA）和1974年颁布的平等信用机会法（ECOA）都涉及自动决策，金融服务公司几十年来一直将这些法律应用于基于机器的信用承销模型。我们还利用《联邦贸易委员会法》授权禁止不公平和欺骗行为，以解决因使用人工智能和自动化决策而造成的消费者伤害。