人工智能监管进入倒计时?美国各界两极分化

来源:钛媒体App,作者:CraigSmith,编辑:林志佳

图片来源:由无界AI工具生成

随着超17亿月访问的AI聊天机器模型ChatGPT风靡全球,产品体验令人惊叹,但与此同时,这也引发美国各界对AI技术风险的担忧。

近日,美国联邦贸易委员会接到人工智能和数字政策中心的投诉,要求对OpenAI及其产品GPT-4进行调查。CAIDP在一份公开信中称,OpenAI违反FTC法案规定和AI治理规则,存在偏见、欺诈,并对隐私和公共安全构成风险,该机构要求FTC对OpenAI展开调查,并暂停GPT产品商业部署,直到符合FTC法案规定。目前该信已获得超过20000个签名。

在此之前,亿万富翁马斯克、苹果联合创始人SteveWozniak以及上千名专家联名呼吁暂停训练比GPT-4更强大的AI系统。

声音 | 京东数科张伟:逐步把人工智能加区块链追溯技术推广到茶叶市场:据人民网消息,京东数科区块链应用研发负责人张伟表示,对于普洱茶来说,最大的问题是难以鉴别是否具有收藏价值。近日京东数科推出的普洱茶区块链防伪追溯平台通过“茶脸识别”的人工智能技术识别茶饼的身份 ID,并根据这个 ID在区块链上获取普洱茶饼的身份信息。目前,京东数科“茶脸识别”的误差已经降到了十万分之一以下,茶饼匹配成功率达到了99.5%,技术已落地京东云(玉溪)新经济产业园。但当前,该技术仅适用于采用压成茶饼销售的普洱茶。张伟表示,接下来,团队会逐步把人工智能加区块链的追溯技术推广到更广泛的茶叶市场。[2020/1/7]

另外,5月4日,美国副总统哈里斯会见了微软、谷歌和OpenAI的CEO,讨论AI潜在风险。美国总统拜登则明确表示,这些AI企业必须在推出产品之前确保其安全性,“你们正在做的事不仅有巨大的影响力,还将带来巨大的危害。”

声音 | 潘云鹤:人工智能2.0与区块链等结合可能成为实体经济变革的核心驱动力:12月21日,在2019国际工程科技发展战略高端论坛上,中国人工智能产业发展联盟理事长潘云鹤院士指出,目前,大数据智能、人机混合增强智能、群体智能、跨媒体智能、自主智能系统等人工智能2.0发展的五个方向和5G、工业互联网、区块链等结合在一起,可能成为实体经济变革的核心驱动力。它将催生更多的新技术、新产品、新业态、新产业、新区域,使生产制造走向智能,供需匹配趋于优化,专业分工更加精准,从而引发实体经济结构重大变革,带动社会生产力的整体要素。所以中国需要抓住当前重要的时机,加快推进实体经济和人工智能的深度融合。[2019/12/22]

不过,尽管美国从拜登到学术界、产业界集体表达对AI技术监管和暂停的提议,但多份信息显示,目前美国各界对此仍有分歧。MetaAI实验室首席科学家LeCun直言反对暂停任何AI开发,他认为应该继续进行研究并负责任地开展AI研究工作。

无论结果如何,这场AI监管风暴即将打响。包括ChatGPT在内的全球AI新热潮正在迎来技术监管倒计时。

在此之前,欧洲和中国已抢先下场调查和监管。

3月31日,意大利打响调查ChatGPT第一,要求暂时禁止使用ChatGPT,并对OpenAI公司展开调查;随后法国、爱尔兰、西班牙跟进,欧洲数据保护委员会则成立专门工作组开展调查;4月11日,中国下发《生成式人工智能服务管理办法》的通知,并向社会公开征求意见。直到4月末,OpenAI宣布ChatGPT恢复在意大利的访问。此外,加拿大、德国和澳大利亚当局也在推进调查和规范AI发展。

动态 | 一项人工智能预测XRP价格有望在2020年涨至0.65美元:WalletInvestor网站的人工智能预测数据显示,到2020年,XRP的价格有望上涨至0.65美元左右。(News Logical)[2019/11/18]

几乎是同一天,美国也加入到了这场这场围剿ChatGPT的AI监管风暴中。

3月30日,CAIDP向联邦贸易委员会提交了一份长达46页的投诉信,投诉呼吁放慢生成式AI模型的发展,并实施更严格的政府监管。

诉讼全文截图

CAIDP称,OpenAI违反了FTC法案第5节,该条禁止不公平和性的贸易行为,而且违反AI治理规则,存在偏见、欺诈,并对隐私和公共安全构成风险。CAIDP要求FTC对OpenAI展开调查并暂停GPT产品的商业化部署。

动态 | 新加坡战略资本投资硅谷人工智能区块链身份认证项目:2018年12月3日,新加坡区块链风投基金新加坡战略资本Singapore strategic capital宣布对硅谷初创项目人工智能区块链身份认证项目进行200万美金的战略投资。据悉,此次投资的人工智能区块链身份认证项目是由硅谷几个区块链技术大牛成立并主导开发,该项目将人工智能算法和区块链技术相结合,用于社会系统的身份认证。[2018/12/3]

作为上述这封2万多名签署的控诉信之一,非营利性机构CAIDP总裁兼总法律顾问MarcRotenberg表示,OpenAI根本不符合FTC的指导方针,他声称担心GPT模型是不公平的和具有性的。

“FTC之前已经宣布,AI的使用应该‘透明、可解释、公平,并且在经验上合理,同时促进问责制’。我们认为FTC应该密切关注OpenAI和GPT-4。”Rotenberg表示,G??PT-4不满足这些要求,FTC应该对OpenAI展开调查,并确保建立必要规范以保护消费者、企业以及商业市场。

实际上,Rotenberg并不仅是一个机构负责人,他还是乔治城大学法学院教授、隐私法专家和AI政策倡导者,而且是《AI政策手册》的编辑、OECDAI专家小组的成员。他此前成功参与FTC与Meta和谷歌之间的监管过程。

声音 | 百度谭待:区块链可以与人工智能、大数据互相促进发挥更大价值:百度搜索首席架构师兼区块链实验室主任谭待认为,区块链浪潮的来临并不是要取代互联网,而是让互联网发展得更好,区块链可以作为价值互联网的重要基础设施去推动互联网新一轮的进化,而且在技术上区块链可以与人工智能、大数据互相促进发挥更大的价值。[2018/7/13]

2010年,他通过另一个非营利组织电子隐私信息中心(EPIC),曾指控谷歌于2010年推出的GoogleBuzz社交网络服务违反用户隐私规定,未经用户同意自动共享他们的电子邮件联系人。随后FTC调查此事,并在2011年与谷歌公司达成和解协议,谷歌同意实施全面的隐私计划并接受为期20年的定期隐私审计,并全面关停GoogleBuzz服务;此外,Rotenberg还曾向FTC指控Facebook侵犯用户隐私权,致使Facebook与FTC在2019年达成50亿美元和解协议,是该机构迄今为止实施的最大罚款之一。

因此种种迹象表明,Rotenberg并不是普通的反对者,而是能够参与拜登政府监管科技公司的一个关键性人物,一定程度上可以影响美国在AI技术监管与规范的走向。

如今,Rotenberg对准GPT-4大模型和它的OpenAI公司。他认为,AI创新和基本权利保护可以通过监管策略实现两者平衡。Rotenberg强调,这项行动并不是“反OpenAI”。

图灵奖得主、深度学习领域另一位先驱YoshuaBengio也同意暂停AI大模型技术发展。Bengio表示,一年前他可能不支持暂停,但是ChatGPT已经跨越了“图灵测试”的重要阈值,因此这可能会以非常危险的方式被利用,从而威胁到更多的人。

“然而,我不认为它应该只针对OpenAI,也不认为它应该只在美国进行。”Bengio警告称。

但截至发稿前,美国FTC官网并没有对外公布对于OpenAI的管控措施,以及未对上述控诉信发表评论,只承认正在调查此事。

“我们已经要求国会向联邦贸易委员会施压,了解我们的控诉进展情况。”Rotenberg强调,美国将会对AI行业公布规范措施与监管。

不过,尽管部分美国人认为OpenAI应受到更严格的审查和监督,但另一波人则对此反对,OpenAI及其支持者们认为这样做可能会扼杀AI行业快速发展和技术创新,而是应该努力开发可信赖、有益于整个人类的AI系统。

“我们应该迅速行动并构建事物,不要因为有很多好处和价值可以创造而暂停,”著名AI专家、斯坦福人工智能实验室主任、前百度首席科学家吴恩达(AndrewNg),与AI先驱、Meta首席科学家YannLeCun就此问题进行的讨论中这样表示。

LeCun称反对“暂停AI技术开发6个月”这种说法,而是应该继续进行并负责任地开展AI技术研究工作,包括考虑伦理影响。吴恩达则直言,AI研究暂停6个月,才是真正巨大的伤害。应该受监管的是AI产品,而不是背后的研究。

华盛顿大学AI研究员、《终极算法》作者PedroDomingos则在邮件中表示:“我认为暂停函是一个可怕的想法,而这个控诉更糟糕。应该被嘲笑出庭。”

总的来看,无论是支持,还是反对ChatGPT和AI大模型发展,毫无疑问的是,AI技术的发展速度比任何人预期的都快,令很多机构措手不及,同时也让FTC等各国机构开始加速AI技术监管。

随着谷歌、微软、Meta、阿里等科技巨头陆续发布AI大模型,这就像在潮湿的地方出现的蘑菇一样,这类工具正逐步广泛分布在社会当中。正如阿里云CTO周靖人所言,未来每一家企业都将拥有自己的专属GPT大模型。

而这种大模型、大数据背后的安全性有待质疑。据ViceMotherboard5月12日报道,一名犯利用AI生成了仿冒美国R&B歌手FrankOcean的歌曲,并在互联网音乐收藏社区和聊天社区Discord上以9722美元的价格售出,每首歌赚了约3000至4000美元。报道指,这些曲目全部由AI制作,并在一个地下音乐社区中作为泄露曲目出售。

无独有偶。据某地公众号5月8日消息,“AI换脸”新型频发,分子通常使用他人真实姓名及照片,冒充他人身份添加被害人微信,再利用“AI换脸”技术和被害人进行短暂视频通话,博取被害人信任后实施,日前,福州一市民也遇到了此事,被走48000元。

当AI变得更加聪明时,医生、律师、会计师、工程师等职位似乎会被取代,IBM已经宣布AI将替代7800名员工职位。但同时,如果发生了错误,谁会对这场错误负责。比如自动驾驶,一旦出现事故到底是乘客责任还是AI软件的责任。

AI最终的守门人是医生、律师或其他人等等。这些问题似乎目前没办法得到回答,需要时间的不断推移、技术的不断进步、法律法规的不断健全、AI技术会朝着安全可控的方向发展等。

如今,人类开始迷思,面对不可阻挡的技术发展趋势,我们是否要摧毁AI技术进步。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

银河链

[0:0ms0-1:825ms