欧盟立法者制定生成式AI透明度规则,同意禁止公共场面面部识别

来源:澎湃新闻

作者:吴天一

图片来源:由无界AI工具生成

·更新后的草案引入了旨在监管“通用人工智能”的新措施,适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统。大模型的创建者必须公开训练人工智能使用的数据,以确保其使用受版权法保护的数据训练。

·“鉴于人工智能将对我们的社会和经济产生深远影响,《人工智能法》很可能是这项任务中最重要的立法。这是全球第一项此类立法。”

欧盟草案:版权方或能从ChatGPT生成的内容中获利:金色财经报道,根据新的欧盟立法草案文本,AI服务提供商将被要求披露用于构建系统的版权材料。草案文本写道,生成AI模型的开发者必须公布他们所使用版权材料的“足够详细的汇总”。这意味着,当出版商和内容创作者的作品成为AI生成内容的材料时,他们可以依据这项拟议的法案条例获得利润。这也是自聊天机器人ChatGPT公布以来,欧盟方面最关注的商业问题之一。据了解,开发商在训练大语言模型时需要摄取网络上数十亿的文本、图像、视频、音乐、代码等,才能使模型导出营销文案、新的图像或新的歌曲。[2023/4/28 14:31:38]

欧洲议会两个委员会当地时间5月11日通过《人工智能法》提案的谈判授权草案。草案就对ChatGPT等生成式人工智能大模型的一系列要求达成一致,标志着欧盟对人工智能实施强监管方面又迈出了一步。

欧洲央行:欧盟银行应在BCBS制定的规范生效之前开始对比特币持有量设置上限:金色财经报道,欧洲央行表示,欧盟银行应在巴塞尔银行监管委员会(BCBS)制定的全球规范生效之前开始对比特币持有量设置上限。欧洲央行称,尽管加密货币尚未对欧盟银行产生重大影响,但银行应将这些资产视为风险资产并立即限制持有量。欧洲央行还表示,BCBS 标准尚未在欧盟具有法律约束力,但如果银行希望进入这个市场,他们应该遵守该标准,并在其业务和资本规划中考虑到规范要求。[2023/2/15 12:08:50]

新文本将严格禁止“对人类安全造成不可接受风险的人工智能系统”,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。

草案提出了新的保障措施,并禁止各种危险用例,包括禁止在公共场所进行大规模面部识别程序,以及禁止使用预测性警务系统。草案还要求建立一个公共数据库,记录政府部门部署的“高风险”人工智能系统,公开数据,以便公民能够了解他们将何时以及如何受到这项技术的影响。

欧洲五国财长呼吁欧盟委员会监管稳定币:来自德国、法国、意大利、西班牙和荷兰的财政部长周五在德国央行会议的联合声明中告诉欧盟委员会,需要监管稳定币以保护消费者并维护货币主权。财长们呼吁欧盟委员会发布稳定币法规,并对违反规则的提供商进行制裁。根据联合声明,私人稳定币提供商需要遵守欧洲法规,如果低于某个标准,则不应被允许在欧盟内运营。尽管没有提及名字,但部长们可能指的是Facebook支持的稳定币Libra。法国和德国政府已经表示,他们反对私人公司发行的可能挑战欧元的货币。(CoinDesk)[2020/9/12]

这一草案将于6月中旬提交欧洲议会全会表决,之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。欧洲议会的声明说,一旦获得批准,这将成为全世界首部有关人工智能的法规。

要求ChatGPT等承担新的义务

欧盟委员会希望最早于2020年Q3推出加密货币法案:8月21日消息,欧盟委员会新闻办公室透露,欧盟委员会希望最早在2020年第三季度推出一套方案,可能会简化其成员的加密货币监管框架。但欧盟也表示,法案推出时间也有可能因为新冠疫情而被推迟。而在此前欧盟委员会已公布了加密货币立法相关优先事项。欧洲加密技术联盟主席Bruno Schneider Le Sa??out(法国加密货币监管政策的架构师之一)对此表示,这些法律将在未来多年支持整个欧盟的数字金融发展。新立法将提供法律确定性,这对现有欧盟金融服务立法尚未涵盖的加密资产,以及分布式账本技术在金融服务和传统金融工具标记化中的应用都是必要的。

此前消息,欧盟委员会发布加密货币立法优先事项,其中明确了以下优先事项:1.所有类型加密货币的定义,包括稳定币和安全令牌;2.金融工具指令II市场变化,包括加密资产;3.基于区块链的平台制度。(Cryptocurrency News)[2020/8/21]

该草案由两个关键委员会批准:内部市场委员会和公民自由委员会。这些委员会由负责监督立法制定的欧洲议会议员组成。他们最终以84票赞成、7票反对、12票弃权批准了完成的草案。

动态 | Bottle Pay因即将生效的欧盟反法关闭:金色财经报道,比特币支付初创公司Bottle Pay已于周五关闭,理由是欧盟AML5法规将于2020年1月10日生效。Bottle Pay应用程序曾经允许用户仅使用社交媒体文本从Twitter到Telegram发送少量比特币。该项目的Telegram组群中大约有974名成员。[2019/12/14]

“在草案中,欧洲议会议员旨在确保人工智能系统由人监督,且确保其安全、透明、可追溯、非歧视和环保。他们还希望对人工智能有一个统一的定义,旨在保持技术中立,以便其可以适用于现在和以后出现的人工智能系统。”欧洲议会在一份新闻稿中说。

修正案包括扩大禁止行为清单,以禁止对人工智能系统的“侵入性”和“歧视性”使用,禁止行为包括:在公共可访问空间建立实时远程生物特征识别系统;使用远程生物特征识别系统,唯一的例外是执法部门起诉严重犯罪,并且只有在司法授权后;使用敏感特征的生物识别分类系统;预测性警务系统;执法、边境管理、工作场所和教育机构中的情感识别系统;从社交媒体或监控摄像头中抓取生物特征数据以创建面部识别数据库。

除了禁令之外,更新后的草案还引入了旨在监管“通用人工智能”的新措施,适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统,其中包括GPT-4和ChatGPT等语言模型,以及StableDiffusion、Midjourney和DALL-E等人工智能图像生成器。

根据拟议的立法,人工智能大模型的创建者需要在人工智能使用之前进行评估并减轻各种风险,包括评估训练人工智能系统可能造成的环境损害。相关公司必须公开训练人工智能使用的数据,以确保其使用受版权法保护的数据训练。

有业内人士认为,版权问题可能会在美国产生重大影响。在美国,版权所有者已经对未经同意使用其数据的人工智能图像生成器提起了一系列诉讼,许多科技公司,如谷歌和OpenAI,都通过拒绝披露训练系统的数据来避免这类法律挑战,若欧盟要求公开训练数据,则可能会产生新的诉讼。

《人工智能法》草案的另一个关键条款是创建一个“高风险”人工智能系统的数据库,以公开人工智能系统在欧盟的部署地点、时间和方式。“这个数据库应该是自由、公开且易于理解的。”草案中提到,“数据库还应方便用户使用,易于导航,至少具有搜索功能,允许公众在数据库中搜索特定的高风险系统以及相关的位置、风险类别等。”

创建这样一个数据库一直是数字权利活动人士的长期需求,他们表示,公众经常在不知不觉中被大规模监控系统进行实验,或在未经同意的情况下被收集数据来训练人工智能。

“其中一个大问题是,在伤害事件发生之前,我们对正在使用的人工智能系统一无所知。”非营利组织Access的高级政策分析师丹尼尔·卢弗说。他举了荷兰福利丑闻的例子,荷兰政府使用的一种算法错误地就数千张未支付税单发起诉讼。他表示,该数据库将帮助欧盟公民用信息武装自己,并使个人和团体更容易使用法律手段保护自身合法权益。

欧盟成员国还有重大分歧

对于人工智能监管的一系列想法已经在欧盟酝酿多年,投票结束后,联合报告员兼欧洲议会议员德拉戈斯·图多拉奇在一份声明中评论说:“鉴于人工智能将对我们的社会和经济产生深远影响,《人工智能法》很可能是这项任务中最重要的立法。这是全球第一项此类立法,这意味着欧盟可以引领人工智能以以人为本、值得信赖和安全的方式发展。我们一直致力于支持欧洲的人工智能技术发展,为初创企业、中小企业和行业提供成长和创新的空间,同时保护基本权利,加强民主监督,确保成熟的人工智能治理和执法体系。”

“该草案具有全球意义。”数字倡导组织欧洲数字权利的高级政策顾问萨拉·钱德告诉科技媒体TheVerge。正如钱德所说,这些法律很可能会影响世界各国。欧盟是一个十分重要的市场,许多科技公司经常在全球范围内遵守欧盟特定的法规,以减少同时遵守多套法规带来的损耗。

不过,该草案仍可能发生变化,在5月12日获得欧盟议会委员会的批准后,草案将在下个月面临全体会议投票,然后进入三方会谈,涉及欧盟成员国和欧盟政府机构的闭门谈判。

欧洲数字权利组织的高级政策顾问艾拉·雅库伯斯卡说:“许多成员国政府热衷于保留进行生物识别大规模监控的能力。但我们也看到了奥地利和德国的不同意见,他们都赞成在《人工智能法》中加强对生物识别数据的保护。我们听说有传言说,其他几个国家愿意在生物识别条款的方向上做出妥协。这给了我们希望,三方会谈将取得积极成果,尽管我们当然希望几个会员国作出强有力的反击。”

钱德表示,数字权利活动人士最看重的是对生物识别监控和预测性警务系统的禁令,将在三方会谈中引起“重大分歧”。“成员国认为,人工智能的这些用途对于打击犯罪和维护安全是必要的。”钱德说。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

银河链

比特币多链加密网络章鱼网络正式上线主网,并开放注册

巴比特讯,多链加密网络章鱼网络于10月8日8时正式上线主网,同时开放注册。主网上线之后,应用链项目会在章鱼网络进行审计、候选投票、验证质押,当应用链获得足够多的验证器节点,且质押OCT总价值达到200万美元即最低安全限制时,章鱼网络团.

[0:62ms0-1:697ms