欧洲议会批准《人工智能法案》要求披露生成式AI训练数据版权

  • 下一步是涉及成员国、议会和欧盟委员会的三方谈判。 争论的一个主要领域是面部识别的使用。 欧洲议会投票决定禁止使用实时面部识别，但对于是否应出于国家安全和其他执法目的允许豁免仍存在疑问。

  当地时间6月14日，在法国斯特拉斯堡举行的欧洲议会全员会议上，议员们参加了《人工智能法案》的表决会议。

  当地时间6月14日，欧盟《人工智能法案（AI Act）》迈出成为法律的重要一步：欧洲议会投票通过该法案，禁止实时人脸识别并提出点对点生成技术。AI工具。 新的透明度要求。

  在欧盟启动监管之前，AI 法案现在将进入最后阶段。 官员们将努力与欧盟执行机构和成员国就法律草案达成妥协，但分歧任旧存在。 如果该法案要在明年的欧盟选举之前生效，立法程序必须在一月份完成。

  “这是一个很重要的时刻，”Now 布鲁塞尔办事处专注于人工智能的高级政策分析师 Rufer 告诉时代周刊。 蓝图。”

  欧盟批准的法律版本提出，任何应用于就业、边境控制和教育等“高风险”用例的人工智能都一定要遵守一系列安全要求，包括风险评估、确保透明度和提交日志记录。 该法案不会自动将“通用”人工智能视为高风险，而是对“基础模型”或经过大量数据训练的强大AI系统施加透明度和风险评估要求。 例如，包括谷歌和微软在内的底层模型供应商将被要求声明他们是否使用受版权保护的材料来训练人工智能。 但是，没有类似的要求声明是否在培训期间使用了个人数据。

  欧盟《人工智能法案》于 2021 年首次提出，将适用于任何用AI系统的产品或服务。

  该法案根据 4 个风险级别对百思特网AI 系统进行分类，从最小到不可接受。 针对儿童的招聘和技术等高风险应用将面临更严格的要求，包括更高的透明度和使用准确的数据。

  欧盟的主要目标之一是防范人工智能对健康和安全造成的任何威胁，并保护基本权利和价值观。

  这意味着某些人工智能的使用是绝对禁止的，例如根据人们的行为判断人的“社会评分”系统，以及利用（包括儿童）或使用可能造成伤害的潜意识操纵的人工智能，例如鼓励危险行为互动对话工具。 用于预测犯罪者的预测性警务工具也将被禁止。

  此外，用于影响人一生进程的就业和教育等类别的AI系统将面临严格的要求，例如对用户透明，并采取措施评估和减少算法带来的偏见风险。

  欧盟委员会表示，大多数AI系统，如视频游戏或垃圾邮件过滤器，都属于低风险或无风险类别。

  争论的一个主要领域是面部识别的使用。 欧洲议会投票决定禁止使用实时面部识别，但对于是否应出于国家安全和其他执法目的允许豁免仍存在疑问。 另一条规则将禁止公司从社交媒体上抓取生物识别数据来建立数据库。

  同一天，欧洲议会一群右翼议员在最后一刻试图取消该法案提出的实时面部识别禁令，但遭到议员否决。

  规则的执行将取决于欧盟的 27 个成员国。 监管机构可能会迫使公司从市场上撤回应用程序。 在极端情况下，违规行为可能导致高达 3000 万欧元（约合 3300 万美元）或公司全球年收入 6% 的罚款，对于谷歌和微软等科技公司，罚款可能高达数十亿美元。

  该法案的最初措施对聊天机器人只字未提，只要求给它们贴上标签，让用户知道他们正在与机器互动。 谈判人员后来增加了条款，以涵盖像这样广受欢迎的通用人工智能，使该技术满足与高风险系统相同的一些要求。

  一个关键的补充是，该法案要求对任何用于训练AI系统生成类似于人类作品的文本、图像、视频和音乐的受版权保护的材料进行全面记录。 这将使内容创作者明白他们的博客文章、电子书、科学论文或歌曲是否已被用于训百思特网练为系统提供动力的算法。 然后他们可以决定他们的作品是否可以被复制并寻求赔偿。

  一些担心人工智能模型带来的安全风险的专家认为，该法案并未限制AI系统可以使用的计算能力。 随着每个新版本的发布，像这样的大型语言模型使用的计算量呈指数级增长，极大地提高了它的能力和性能。 “用于训练AI系统的计算越多，人工智能就会越强大。能力越强，潜在的风险和危险就越大。” 人工智能安全初创公司 Tee ( ) 的战略和治理总监 Mio 告诉时代周刊。

  指出，研究人员衡量系统的总计算能力相对容易，因为用于训练大多数尖端人工智能的芯片是一种物理资源。

  《时代周刊》指出，欧盟并不是尖端AI发展的重要参与者。 这一个角色是由美国和中国扮演的，但欧盟往往扮演着引领潮流的角色。 公司权力的先驱。

  专家表示，欧盟单一市场规模庞大，拥有 4.5 亿消费者，这使得公司更容易遵守规定，而不是为不一样的地区开发不同的产品。 通过为人工智能制定通用规则，欧盟还试图通过在用户中灌输信心来发展市场。

  爱尔兰公民自由委员会高级研究员克里斯什里 (Chris Shree) 表示，“这是可执行的法规，公司将被追究责任这一事实意义重大”，因为美国、新加坡和英国等地仅提供了“指导和建议” . “其他几个国家可能想要适应和复制”欧盟规则，克里斯说。

  其他一些国家也在加紧监管步伐。 例如，英国首相 Rishi Sunak 计划在今年秋天召开人工智能安全世界峰会。 “我希望英国不仅成为知识之家，而且成为全世界人工智能安全监督管理的地理之家，”苏纳克在本周的一次技术会议上表示。 英国峰会将汇集“学术界、商界和政府”人士，共同致力于“多边框架”。

  Ada (Ada) 代理主任 告诉：“加快速度进行发展和迅速变更用途的技术当然很难监管，因为即使是那些科技公司也不知道事情将怎么样发展. 但如果他们继续在没有适当监管的情况下运营，对我们所有人来说肯定会更糟。”

  然而，计算机和通信行业协会认为，欧盟应该避免会扼杀创新的过于宽泛的监管。 该机构的欧洲政策经理 de ( de百思特网) 表示，“欧洲的新 AI 规则需要有效解决明确定义的风险，同时为研发人员提供足够的灵活性，以便为所有欧洲人提供解决方案。AI 应用程序造福于大众。 ”

  该法案在大多数情况下要数年时间才能完全生效。 下一步是涉及成员国、议会和欧盟委员会的三方会谈，在他们试图就措辞达成一致之前可能面临更多变化。

  Ruffo 表示，在马上就要来临的三方对话阶段，代表成员国政府的欧洲委员会预计将强烈主张免除执法部门和边境部队使用的AI工具对“高风险”系统的要求。

  该法案预计将在今年年底获得最终批准，随后是企业和组织适应的宽限期，通常约为两年。 但领导该法案工作的欧洲议会意大利议员 表示，他们将推动制定规则，允许更快地采用加快速度进行发展的技术，如生成人工智能。

  为了在立法生效前填补空白，欧洲和美国正在起草一份自愿行为准则，官员们在 5 月下旬承诺将在数周内起草该准则，并有可能扩大到其他“志同道合的国家”。