欧盟对人工智能的监管即将出台。这对您和您在瑞士的业务意味着什么？
简言之
- 《欧盟人工智能法案》提出了严格的要求，也适用于迄今为止不必处理模型管理的组织。
- 作为第一步，组织应该获得概述，构建所有模型的存储库，并实施模型管理。
- 尽管监管不是最终的，但它显然就在眼前，应该用时间来准备。
人工智能正在以前所未有的方式改变我们的世界。从个性化医疗到自动驾驶汽车和虚拟助理，人工智能正在我们的日常生活中无处不在。然而，人工智能的日益使用引发了人们对其对基本权利和自由影响的许多担忧。对此，欧盟（EU）采取了一项重要措施来监管人工智能。
《欧盟人工智能法案》，也被称为《人工智能法》，是世界上第一个监管人工智能的具体举措。该法案旨在通过制定统一的规则来管理欧盟人工智能的开发、营销和使用，将欧洲打造成值得信赖的人工智能的全球中心。《人工智能法案》旨在确保欧盟的人工智能系统是安全的，并尊重基本权利和价值观。此外，其目标是促进人工智能的投资和创新，加强治理和执法，并鼓励建立一个单一的欧盟人工智能市场。
谁受到影响？
《人工智能法案》为人工智能的不同参与者制定了明确的定义：供应商、部署者、进口商、分销商和产品制造商。这意味着所有参与人工智能模型开发、使用、进口、分销或制造的各方都将承担责任。此外，《人工智能法》还适用于位于欧盟以外的人工智能系统的提供商和用户，例如瑞士，如果该系统产生的输出打算在欧盟使用。
需要什么？
步骤1：建立库存模型——了解当前状态
为了理解《欧盟人工智能法案》的含义，公司应首先评估其是否有正在使用和开发的人工智能模型，或即将从第三方供应商处采购此类模型，并将已识别的人工智能模式列在模型库中。许多金融服务组织可以利用现有的模型存储库和周围的模型治理，并将人工智能作为一个附加主题。
到目前为止还不需要模型存储库的组织应该从现状评估开始，以了解其（潜在）风险敞口。即使目前不使用人工智能，这种情况在未来几年也很可能发生变化。最初的识别可以从现有的软件目录开始，或者，如果没有，可以向各个业务部门发送调查。
步骤2：模型的风险分类
基于模型库，人工智能模型可以按风险进行分类。《欧盟人工智能法案》区分了不同的风险类别：
该法案列举了构成不可接受风险的模型的例子。属于这一类的型号是被禁止的。例子包括在公共空间中使用实时远程生物识别或社会评分系统，以及使用利用特定群体脆弱性的潜意识影响技术。
高风险模型是允许的，但必须符合多项要求，并进行符合性评估。此评估需要在模型投放市场之前完成。这些模型还需要在欧盟数据库中注册，该数据库应建立。操作高风险人工智能模型需要适当的风险管理系统、日志记录能力和人工监督所有权。应对用于培训、测试和验证的数据进行适当的数据治理，并进行控制，以确保模型的网络安全性、稳健性和公平性。
高风险系统的例子包括与关键基础设施运营相关的模型、招聘流程或员工评级中使用的系统、信用评分系统、自动保险索赔处理或为客户设定风险保费。
剩下的模型被认为是有限的或最小的风险。对于这些人来说，需要透明度，即必须告知用户他们与之交互的内容是由人工智能生成的。例如聊天机器人或深度造假，它们不被视为高风险，但用户必须知道背后的人工智能。
对于人工智能模型的所有运营商，建议围绕道德人工智能实施行为准则。
第三步：做好准备
如果您是人工智能系统的提供商、用户、进口商、分销商或受影响的人，您需要确保您的人工智能实践符合这些新规定。为了开始完全遵守《人工智能法案》的过程，您应该启动以下步骤：（1）评估与您的人工智能系统相关的风险，（2）提高意识，（3）设计道德系统，（4）分配责任，（5）保持最新，以及（6）建立正式的治理。通过现在采取积极主动的措施，您可以避免在法案生效后对您的组织实施潜在的重大制裁。
请注意，本条所指的是正在进行的立法程序，可能会导致要求的变化。
不遵守规定的处罚是什么？
不遵守《人工智能法》的处罚意义重大，可能会对提供商或部署者的业务产生严重影响。根据侵权的严重程度，它们的金额从1000万欧元到4000万欧元不等，占全球年营业额的2%到7%。因此，利益相关者必须确保他们充分理解《人工智能法》并遵守其规定。
金融服务业如何受到该法案的影响？
金融服务业已被确定为人工智能可能产生最重大影响的行业之一。《欧盟人工智能法案》包含一个三级风险分类模型，根据人工智能系统对基本权利和用户安全构成的风险水平对其进行分类。金融部门使用多种模型和数据驱动的流程，这些模型和流程在未来将更加依赖人工智能。预计用于信用评估或评估客户风险溢价的流程和模型属于高风险类别。此外，用于运营和维护被视为关键的金融基础设施的模型将属于高风险分类，以及用于自然人生物识别和分类或就业和员工管理的人工智能系统。到目前为止，不包括在风险分类范围内的还有纯粹用于改善客户体验的人工智能系统、检测欺诈的系统、客户终身价值预测和模式分析（不直接影响单个客户的决策）。
总结
《欧盟人工智能法案》将成为人工智能监管和创新领域的一个重要里程碑。为了确保人工智能的好处在保护基本权利和用户安全的同时得到充分实现，组织必须立即采取行动，评估其风险，并开始为《人工智能法》将带来的变化做准备。通过这样做，组织可以走向一个更安全、更值得信赖的人工智能环境，这将使他们能够从这项变革性技术中获得回报。
- 登录 发表评论