在之前的文章（《热度“狂飙”的ChatGPT，亟待“合规刹车”》）中我们讨论了当红风头正盛的ChatGPT，分析了它的技术本质、应用场景和法律风险初探。而在近期的《流浪地球》系列电影中，“虚拟数字人”的概念博人眼球。这不禁让我想起另一个红极一时的概念，“深度伪造（DeepFake）”、“AI换脸”。
深度合成技术
事实上，“虚拟数字人”的构建离不开包括伪造技术在内的深度合成技术，而ChatGPT是深度合成领域下的一类模型。数据深度合成(Deep Synthesis)本身是一个中性概念，泛指借助深度学习算法模型等智能化方案自动生成文本、图像、语音、视频等数据内容的一系列处理技术。其中文本因为其较强的字符特征，只需满足空间序上的合理性，与视频、音频类型数据的处理思路略有不同。
奢侈品巨头爱马仕考虑试水元宇宙并认为元宇宙是很好的交流工具:金色财经消息，奢侈品巨头爱马仕（Hermès）执行董事会主席Axel Dumas在近日举行的年度股东大会上表示，尽管集团仍将聚焦手工艺传承，但也会考虑使用“元宇宙”与消费者进行交流。他表示“我们对元宇宙感到好奇和感兴趣”，并补充说它可能是一个很好的交流工具。（路透社）[2022/4/22 14:41:10]
在ChatGPT一类的大型语言模型中，包含预训练和下游任务训练两个部分。在预训练阶段，模型从大量的数据中学习复杂的上下文联系，并将这种联系向量化。Next-token-prediction 和 masked-language-modeling 是用于预训练语言模型的核心技术。在第一种方法中，模型被给定一个词序列作为输入，并被要求预测序列中的下一个词，而在第二种方法中，其输入句子中的一些词被替换为特殊token，例如[MASK]，模型被要求预测应该插入到[MASK]位置的正确的词。同时，在下游任务训练中，In-content Learning（语境学习）被提出以提升模型在各个场景任务下的表现能力。譬如标注者会给模型一个提示性的输入，让模型更加清楚的感知到应该输出的范式。
动态 | “时间银行”已在多地试水，区块链技术为养老服务提供了新的解决路径:金色财经报道，“时间银行”已在北京、南宁、南京、重庆、成都、遵义等多地试水。今年10月起，南京建邺区桃园居社区更是试点在支付宝里存储公益时间，为自己兑换养老服务，且整个流程被记录在区块链上。应用区块链技术，确保“时间”的存储和兑换公开透明，防止丢失或者被篡改，不仅永久记录在链，将来的某一天，还可以跨机构、跨区域通兑。很显然，这里有两个显而易见的亮点：一则，公共养老服务与公益志愿服务“无缝链接”，拉长了老年人养老服务供给侧的供应链。客观地说，至少也部分缓解了行政兜底的压力。二则，区块链技术为养老服务提供了新的解决路径，其真实社会场景的应用价值在“时间银行”上直观凸显。[2019/11/21]
泉州海关试水能源贸易区块链应用项目:据泉州日报消息，近日，在中化集团下属中化能源科技有限公司针对一船从中国泉州到新加坡的汽油出口业务中，泉州海关驻肖厝办事处成功参与了区块链应用的出口交易试点。除泉州海关外，试点参与方还包括中化集团旗下的泉州石化与石油公司、中检集团、汇丰及船东、货代公司等。据悉，此次试点经历的流程复杂，包含了大宗商品交易过程中的所有关键参与主体的区块链应用项目。利用区块链技术不可窜改、不可伪造的特点，将跨境贸易各个关键环节的核心单据进行数字化，对贸易流程中的合同签订、货款汇兑、提单流转、海关监管等环节信息进行全程记录，大大提高了各个环节效率，降低了交易风险。相比传统方式，区块链的应用能整体提高流程时间效率50%以上。泉州海关将继续参与各类区块链业务的验证性测试，对该技术在各领域的应用模式进行探索，实现海关监管和优化服务的有机统一。[2018/4/4]
在图像、音频类深度伪造模型中，生成网络”（generative network）或“生成器”（generator）负责制作复制原始数据集特征的合成数据如图片、音频记录、视频等，并制作“深度合成物”；鉴别网络（discriminative network）或者说鉴别器（discriminator）则负责识别合成的数据，检测该视频是否为伪造。通过反复的“无监督学习”过程，“生成网络”制作并修改“深度合成物”，直到“鉴别网络”无法再检测出该合成物系经“深度合成”，最终形成高保真的信息内容。
百信银行：试水区块链技术: 据证券时报报道，筹建一年、开业三个多月的百信银行首度公开了其三阶段战略规划。百信银行副行长兼首席信息官寇冠表示：“百信银行的战略规划分为三个阶段，科技金融、场景金融以及智能银行。“据报道，百信银行在区块链技术方面也有试水，百信银行首席架构师于浩瀚表示，“区块链热有市场的因素，也有技术本身的优势。但一项新技术一定要在场景中去磨练和验证，在实际的使用过程中发现问题。”他认为，对于银行业而言，并没有急需区块链来解决问题，但大家都在跟踪，同时积累技术、经验和团队，不能掉队。[2018/4/3]
总体而言，基于深度学习的数据合成技术随着算力的发展逐渐从研究型走向应用型，主要应用在文本合成、视觉合成、听觉合成等三大领域，因循数据收集、模型训练、伪造内容等核心步骤，创造虚拟数字人及其所处的生态环境。
试水区块链遭问询，金溢科技上市后业绩连降:金溢科技上市后业绩连降，对市场质疑声音认为，金溢科技有蹭热点“区块链”的意思。金溢科技则表示，针对投资者问题“公司在经过认真核实后做出了答复，答复内容符合公司实际情况”。金溢科技表示，公司目前已开展智能交通领域的区块链理论与应用研究，处在初步研究阶段，尚未形成相关业务，亦不存在相关产品情况、业务模式、盈利模式、前五大客户及供应商等信息。公司尚未做出重大投入，尚未产生直接经济收益，也尚未开发新产品、新发明或取得专利，对公司财务状况和经营成果不会产生重大影响。[2018/3/22]
相关戏仿性应用产品迅速迭代，一方面，数据深度合成的正向应用将创建的文本段落、虚拟角色、声音模拟、视频渲染等广泛应用到社交通讯、娱乐文化等众多场景之中，提升信息处理效率，增进临场体验。另一方面，深度合成内容难以精准及时地予以鉴识，部分主体传播虚假信息，操控受众反应，严重威胁整个社会的安全体系与保障机制，因此亟待构建和完善规模化的规制体系。
《互联网信息服务深度合成管理规定》解析
我国国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国部在2022年11月3日通过了《互联网信息服务深度合成管理规定》（下称“规定”），该规定基于深度合成应用的定性和风险的评估，从而提出包括内容标志、主体报备、用户实名制、内容审核机制、救济机制、个人信息保护和数据安全等方面的规制措施。
内容标志
深度合成服务提供者（下称“服务提供者”）对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的显著标识，从而防止公众混淆误认。
主体报备和用户实名制
具有舆论属性或者社会动员能力的服务提供者和技术支持者应当按照《互联网信息服务算法推荐管理规定》履行备案手续，并在网站、应用程序公示，同时按照国家有关规定开展安全评估（相关合规流程仍在摸索之中）；服务提供商需要对深度合成服务使用者进行真实身份信息认证。飒姐团队认为之后会出台针对深度合成内容专门的备案手续。
内容审核机制和救济机制
服务提供者应当加强深度合成内容管理。采取技术或者人工方式对输入数据和合成结果进行审核，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志。
服务提供者应当建立健全辟谣机制。发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。
个人信息保护和数据安全
服务提供者和技术支持者应当加强训练数据管理，采取必要措施保障训练数据安全，若数据集中包含个人信息，则需遵循个保法相关规定和配套标准。
算法安全评估
规定要求合成服务提供者和技术支持者应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理，强调了处理具有生物识别信息、可能涉及国家信息的模型、模板需要进行安全评估，相关审核、评估机制尚未明确要求。飒姐团队认为该类评估由于企业对核心技术披露的限制以及当前评估技术的局限性，困难重重。
写在最后
深度合成归根结底是人工智能技术，尤其是算力发展的产物，其独特的创造性注定会逐渐走入生产生活，因此监管体系和合规体系的构建是必然路径。
深度合成技术上的特殊性要求我们一方面做好深度合成配套法律法规、标准的制定和完善，企业逐步摸索出一条合规路径，另一方面投入到深度合成检测追踪技术的开发与应用，法律、技术双管齐下，为做优产业发展环境提供重要基石，最终促进整个行业的健康发展。
肖飒lawyer
个人专栏
阅读更多
金色早8点
金色财经
Arcane Labs
Odaily星球日报
欧科云链
澎湃新闻
深潮TechFlow
MarsBit
BTCStudy
链得得
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。