肖飒:AIGC创业 有哪些法律禁忌?

自chatGPT火遍全球之后,各国又掀起了一波AI领域的创业潮。马斯克在采访中也强调人工智能的发展可能会给人类带来空前灾难。结合欧盟人工智能法律提案和我国诸多法规,飒姐团队给诸位创业者一些法律提示。希望大家的创新应用能够开花结果。

一、欧盟在哪些领域明令“禁止的人工智能实践”

2021年4月欧洲议会和理事会制定关于人工智能的统一规则的提案,对于全球AI领域的监管规制给出了“样板间”。总结下来就是,AI研发不能涉及对人身心摧残的领域,不能歧视弱势群体,要尊重每个人的权利,对于3年以上有期徒刑的嫌疑人可以实时远程生物识别。具体如下:

不得在市场上投放、使用个人无法认识的方式来进行“潜意识教化”的技术,以这种方式严重扭曲人的行为并致使其身心受到伤害。

不得利用特定人群的年龄、身体、精神残疾等,以导致其身心伤害的方式,实质性扭曲与该人群有关的行为。

公共机构或其代理人在市场,不得投放在一定时期内对自然人的信誉进行评估或分类的AI系统,且其社交评分可能会导致如下一项或两项:在与原始数据生成或收集场景无关的社会场景,对自然人或群体有害或不公平待遇;对某些人或群体的社会行为有严重伤害或不公平待遇。

肖飒:预计未来几年涉币案件还会继续增加:北京大成律师事务所合伙人、中国银行法学研究会理事肖飒表示,从中国裁判文书网公布的判决情况来看,涉及比特币的相关法律案件,无论是刑事或是民事案件,都呈现逐年上升趋势,预计未来几年涉币案件还会继续增加。?但从目前司法实践来看,投资者对包括比特币在内的虚拟币相关法律规范的认知有限,风险防控意识低,该类案件呈现维权周期长、成本高的特点。无论是刑事还是民事案件,在实际案例中均存在较多难点。(证券日报)[2021/3/29 19:25:05]

出于执法目的在公共场所使用“实时”远程生物特征识别系统,排除下列行为之一,且有必要:针对性寻找特定刑事受害人,例如失踪儿童;预防对人的生命或身体有伤害的行为,或恐怖袭击;侦测、定位、识别、起诉特定罪名的犯罪嫌疑人,且该嫌疑人的刑期为3年以上。

声音 | 肖飒:所谓的小型虚拟币交易所风险可能会更高:据中国经营报消息,中国银行法学会研究理事肖飒强调:“不是只有ICO才会违法,虚拟币交易所即使不涉及ICO也会有风险,同时只是其中的一种风险而已。其他例如。非法吸收公共存款等罪名的风险,所谓的小型虚拟币交易所也会存在,而且某种意义上可能会更高,因为小型其要盈利,冒的风险也更大。”肖飒曾撰文指出,比特币为首的虚拟货币,无疑考验着世界主要国家的金融管理能力。虚拟货币及与之相关的配套平台和发行方式,有刑法规制的必要性。虚拟货币交易所的原罪,可能包括:非法经营罪、非法吸收公众存款罪、罪(如有内外勾结内幕交易行为多涉嫌此罪)、罪、盗窃罪、非法侵入计算机信息系统罪等。[2019/11/23]

二、中国法律法规对人工智能的规制

经过梳理,我们对于内地AI法律规制的大致地图是:《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》《互联网信息服务深度合成管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》等。但并没有对于AI领域的专门法律进行规制,随着文心一言和其他竞品的出现,飒姐认为,对于AIGC领域的规制可能会增多,但法律规制宜粗不宜细,倘若给从业人员和企业太多枷锁,就很难创造出伟大的产品。

声音 | 肖飒:数字货币循序渐进,稳步推行才是上策:中国银行法学研究会理事肖飒发表专栏文章《数字货币“中国队”,将如何改变未来?》。肖飒在文章中称:我国数字货币如果采取传统区块链单一架构,可以想象是无法满足“零售级”M0的交易需求。因此,我们发现DC\\EP采取的是双层运营体系:央行不直接向社会公众发放数字货币,而是由央行把数字货币兑付给各个商业银行或其他合法运营结构,再由这些机构兑换给社会公众供其使用。由此,我们可以判断一个商业机会,未来各大商业银行必然将争夺“数字货币二次发行权”,为此他们会采购金融科技服务、网络安全服务、存储性能提升技术,还会豁出去进行卖力“销售”以抢占数字货币零售高地。肖飒在文章最后还表示:相信未来数字法币将会被大力推荐给公众,相信这是大势所趋,谁也不能螳臂当车。但是,我们建议慎重加载智能合约,尤其是当下,钱就是钱,别把钱弄成不实实在在锚定某种确定价值的东西。一旦数字法币成了有价债券,成了不是钱的普通债权凭证,就没有人信它了。届时,我们可以预见黄金的价格又要疯长,因此,数字货币循序渐进,稳步推行才是上策。[2019/8/12]

从目前情况看,AI领域创业行为的监管部门主要有:国家网信部门;国务院电信部门;部门;数据局。

声音 | 肖飒:在中国,STO不仅是一种违法行为,还可能会构成犯罪:据新浪财经消息,中国银行法学研究会理事肖飒在清华x-lab公开课上作了《区块链应用创业的法律边界及案例分析》的演讲,分享了STO,中国法律将怎样对待、“区块链”新规解读与未来趋势、区块链项目落地需要注意细节、区块链项目到底能不能发币、区块链与ICO的风险五个部分。肖飒表示,在中国,STO不仅是一种违法行为,还可能会构成犯罪。未来如果中国的证监会对STO和ICO进行监管,将会是建立在一个前提上的,这个前提就是我们对证券的定义宽泛了。[2018/12/22]

具体的监管手段有:安全评估,对于具有舆情属性或者社会动员能力的,参照《具有舆情属性或社会动员能力的互联网信息服务安全评估规定》评估。履行备案,按照《互联网信息服务算法推荐管理规定》进行备案;开展监督检查,监管部门均有权力进行监管,具体事前、事中、事后根据各自分工进行。

秉承原则“向上向善”,飒姐凝练为:

声音 | 肖飒:此次投资者对OKex提供的非法期货交易的指控罪名在中国无法成立:据财新报道,对于此次OKex事件,部分投资者提出该交易所提供非法期货交易的指控,肖飒认为,这一罪名在中国是无法成立的,因为中国《公司法》《证券法》里证券是狭义的“证券”,交易的代币在中国法律内并不会被认可为“证券”(security token),这与美国证券法案里的广义“证券”不同。[2018/9/11]

具体边界

1.不得从事涉政涉黄;

2.不得合成虚假新闻,非持牌不得传播非国家规定范围内的单位发布的新闻;

3.不得违背公序良俗

4.不得生成违法和不良信息,这方面可以健全相应“特征库”,筛选健康信息;

5.不得恶意贬损他人名誉和企业商誉;

6.对于不可控的创作内容,采取及时删除降低社会危害。

飒姐认为不宜在禁止性条件中增加“其他行为”,因为这个“其他”会给创业者严重的不安全感,成文法就是要白纸黑字,清清爽爽,加上“其他行为也可处罚”一下子就把苦心经营的营商环境给戳破了,还有谁敢豁出命来搞创新、搞创业?!法律要给创业者一个软性保障,2023年3月23日国家互联网信息办公室发布《网信部门行政执法程序规定》对于行政机关的行政处罚等行为进行法律规制,明确“一事不再理”,明确程序和回避制度,减少网信部门滥用权力的可能性,直接而明确的回应了科技行业的呼声和需求,这种制度供给是各方都欢迎的。我们期待更多规制行政行为的法律法规,尽快出现,确保市场主体的明确预期。

三、AIGC创业公司的20个合规义务

根据2023年1月10日生效的《互联网信息服务深度合成管理规定》,截止目前,在中国内地进行类chatGPT业务需要遵守的合规义务有:

具体合规义务

健全用户注册制度;

算法机制机理审核;

科学伦理审查;

信息发布审核;

数据安全管理制度;

个人信息保护制度;

反电信制度;

应急处置管理制度;

在App或网站,公开管理规则、平台公约,完善服务协议,以显著方式提示各方承担信息安全义务;

健全勇于识别违法和不良信息的特征库,留存日志;

发现违法和不良信息,有向主管机关报告的义务;

发现违法和不良信息,对使用者依法依约,采取处置措施;

全辟谣机制;

设置便捷申诉和举报入口,及时反馈结果;

加强训练数据管理;

定期审核、评估、验证生成合成类算法机制机理;

依法自行或委托专业机构开展安全评估;

对生成内容,采取技术措施添加不影响用户使用的标识;

不得删除、篡改、隐匿深度合成标识;

按照《互联网信息服务算法推荐管理规定》履行备案、变更、注销备案手续。

同时,遵守新闻出版、文化和旅游、广播电视主管部门的规定。

三、政策风向和科技伦理

应该说AI领域的科技创新,是各方乐见其成的,因此,从政策层面讲,对AI行业是利好的,尤其是对标ChatGPT和欧美推出的各类技术应用。飒姐比较担心的是个别地方办案机关,还是有罚没和罚款冲动,对于创业者的一些利用数据的行为进行“严格解释”,从而导致数据犯罪案件的攀升。

对于大厂而言,也许不会亲自下场去打捞数据,但不可否认大厂具有集团优势,其产业集团内不同板块的数据集中到某个特殊目的公司进行深入加工,喂养AI,然而,数据在集团内部跨法人主体的转移,也有较大的法律争议,甚至在某些案件中,直接给予了负面评价。如果集团内部每个公司的数据只能用于自己的客户维护,那么,其优势就丧失殆尽。而如果购买外部公司数据,则有可能“放任”外部公司数据的“灰色”,上个月有几家南方的数据公司找飒姐谋求上市前的合规,我们也想帮忙,但现行法的规定不能置若罔闻,有些企业虽然很赚钱,但确实在犯罪边缘游走,对于爬虫技术的应用已经超越了法律边界。大厂用了这些灰色的数据,自身可能会背上教唆犯的十字架。如果不用这些数据,也许自身的成长就会慢些。

在选择GDPR模式还是人身权与财产权分离模式时,我国法律也在移植哪种法律技术更符合国情上有过考量。现实是法律规定很完备,但市场和技术没有如预期一样迅猛增长。各国企央企的数据还是牢牢攥在自己手中,宁可烂了,也不流动和分享。数据局的出现,也许就是为了打破“信息孤岛”,让数据真正流动起来,发挥生产要素的作用,提振实体经济。

在科技伦理方面,飒姐坚信:科技不应作恶,AI创业要尊重自然法的基本原则,不能戕害弱者,不能加深歧视,不可有意帮助犯罪,不宜提供自杀自残的方法,鼓励健康的生活方式,引导人们远离和暴力。法律,其实应该是从人们心里长出来的,每个人心里都有一杆公平秤。

写在最后

闲暇时,飒姐和团队伙伴也会在茶馆和咖啡馆听一听旁边的陌生人在谈论什么,让人觉得欣喜的是:人们不再悲观,而是现实地开始寻找新创业契机。我们中国人是韧性十足的,在AIGC方面也会有自己的展业思路。坚持长期主义,未来是美好的,无论如何。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

银河链

[0:46ms0-2:266ms