抖音出手规范AI生成内容!全球监管呼声四起,数字水印会是一剂良方吗?

来源:《科创板日报》

作者:郑远方

图片来源:由无界AI工具生成

抖音今日发布关于人工智能生成内容的平台规范暨行业倡议。

其中提出,各生成式人工智能技术的提供者,均应对生成内容进行显著标识,以便公众判断。同时使用统一的人工智能生成内容数据标准或元数据标准,便于其他内容平台进行识别。

Gearbox Protocol将为Aura上的每个投票周期分配100万枚GEAR的投票奖励:4月25日消息,DeFi 可组合型杠杆协议 Gearbox Protocol 已通过社区提案投票,将为 Balancer 生态收益治理平台 Aura Finance 上的每个投票周期分配 100 万枚 GEAR 的投票奖励,以激励 Gearbox USD 流动性池,若获得成功,后续或将考虑增加激励金额。[2023/4/25 14:25:18]

具体来看,针对创作者、主播、用户、商家、广告主等平台生态参与者,抖音提出,在抖音应用生成式人工智能技术时,遵循以下规范:

美参议员:美联储主席的行为直接导致银行倒闭:金色财经报道,据加密KOL Mr.Whale披露,美国参议员伊丽莎白·沃伦表示,美联储主席鲍威尔的行为(暗示加息)直接导致了硅谷银行、Signature Bank这些银行倒闭。[2023/3/15 13:04:11]

1)发布者应对人工智能生成内容进行显著标识;

2)发布者需对人工智能生成内容产生的相应后果负责;

3)虚拟人需在平台进行注册,虚拟人技术使用者需实名认证;

4)禁止利用生成式人工智能技术创作、发布侵权内容;

矿企Core Scientific 1月自营挖矿业务产出1527枚比特币:金色财经报道,已申请破产重组的北美矿企Core Scientific宣布1月自营挖矿业务产出1527枚比特币。截至月底,该公司在乔治亚州、肯塔基州、北卡罗来纳州、北达科他州和得克萨斯州的数据中心设施运营了大约20.6万台用于托管和自营矿机,总容量为21.1 EH/s。(Business Wire)[2023/2/7 11:51:12]

5)禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。

抖音称平台也将提供统一的人工智能生成内容标识能力,帮助创作者打标,方便用户区分。

派盾:巨鲸再次在Curve上将1200万枚USDC兑换成USDT:金色财经报道,派盾监测数据显示,0x561f开头的巨鲸地址在Curve上将约1200万枚USDC交易为USDT。

此前报道,0x561f开头的巨鲸地址在Curve上将1000万枚USDC兑换成USDT,并将400万枚USDT转到Coinbase、600万枚USDT转到Kraken 7。今日上午0x561f开头的巨鲸地址曾在Curve上将1500万枚USDC兑换成USDT。[2022/11/28 21:07:11]

针对这一方面,抖音发布了《关于人工智能生成内容标识的水印与元数据规范》。

其中,标识水印规范旨在帮助AI生成工具和创作者可以使用统一样式和位置,来提示用户内容由AI生成;标识元数据规范则是通过规范人工智能生成内容的元数据格式,在相关图片和视频元数据中写入信息,达到行业通用识别的效果。

政策端,国家网信办不久前也就《生成式人工智能服务管理办法》公开征求意见,这也是国家首次针对生成式AI产业发布规范性政策。

其中,对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人的责任进行了规定;同时,也提出对于生成式人工智能产品,提供者需要按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识等。

▌AI生成内容亟待监管

日前,甘肃省平凉市局网安大队成功侦破一起利用人工智能技术制造虚假新闻的案件,抓获犯罪嫌疑人洪某弟。这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施后,该省侦办的首例案件。

伴随大模型AI发展,ChatGPT等类似应用越来越火热,因生成式人工智能引发的社会问题也开始出现。因此AI监管覆盖范围不断扩大、监管技术不断升级、监管主体逐渐国际化:

除了上文提到的我国《生成式人工智能服务管理办法》之外,白宫本月刚刚宣布首个AI监管计划,政府承诺发布指导方针草案,以确保对人工智能的使用保障“美国人民的权利和安全”;欧盟也表示希望对AI生成的内容进行强制性的规定,人工智能生成的一切,无论是文本还是图像,都有义务告知它们是由人工智能完成的。

安信证券认为,当前对AI生成内容的判别主要可以由两种技术途径来完成:1)通过算法识别AI模型生成内容的特征,从而鉴别相应的内容是否由AI生成。2)通过对AI生成的内容添加特定的标识,来区分相应内容是否由AI生成。

值得一提的是,数字水印或许也有望成为有效解决方案的一种。数字水印是将一些标识信息直接嵌入数字载体当中,但不影响原载体的使用价值,也不容易被人的知觉系统觉察或注意。通过这些隐藏在载体中的信息,可确认内容创建者、购买者、传送隐秘信息或者判断载体是否被篡改。

OpenAI方面此前也表示,考虑在ChatGPT中添加水印,以降低模型被滥用带来的负面影响。

据《科创板日报》不完全统计,A股中已布局AI生成内容识别的公司有:

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

银河链

[0:15ms0-1:772ms