中国AIGC创业者，这4大法律问题需注意！
来源：刘红林律师
作者：刘红林
本文为刘红林律师应无界AI邀请，针对AI创业者需知法律风险的专题直播分享，以下为分享文稿。
01AIGC让生活更美好
大家好，我是上海曼昆律师事务所的发起人，刘红林律师。在开始分享之前，我更希望先以“真正的用户”这一身份，来聊一聊自己在使用AIGC这些软件的一些心得。AIGC对我最大的冲击，来自作为手残党我使用AIGC生成的三幅画。
第一幅是互联网上的流量密码，我比较喜欢的小猫咪，朋克风格。
第二幅是特斯拉公司的马斯克同学，他在90年代的天安门广场骑自行车。
第三幅是美国前总统川普大爷，他在中国农村开着拖拉机。
其实，AIGC之所以能够让我们感觉到这么“哇塞！”，是因为它能让我这样虽然不懂画画技巧，但是脑洞大、有想象力的人，通过一些指令生成一幅非常棒的画。我们可以以小见大，从互联网的发展历程来看待这件事：
Web1.0属于PGC，只有专业的人才能生产专业的内容。
Web 2.0时代是UGC，网友可以发微博、发朋友圈，但是如果我们想发一些非常炫酷的、非常专业的内容生产，比如文章、绘画有较高的门槛。
在Web3.0时代，我们可以通过AI的助力，实现自己能力的巨幅提升。
同样让我们工作效率提升的不仅是绘画，还有写作。如果熟悉红林律师的朋友会看到 ，我们每天会发布两篇关于区块链、Web3.0的原创文章。很多朋友都很好奇：“你们是如何保持这么高频率、高质量的原创普法文章输出呢？”今天我也借此机会，把自己关于写作的一些小的心得分享给大家。
差生文具多，这个画面，是我日常写作的工作台。左边的页面是飞书文档，右边的页面是微软浏览器中的“Copilot”的插件，它后台接的应该是OpenAI的API接口。之所以说在写作这件事情上我不是一个人在战斗，是因为我使用了目前比较先进的AI来帮助我创作。当我想到一个话题时，会先问一下机器人，然后我会根据这些框架性的回答，再让AI机器人帮我补充一些文章的细节。通过这样的方式， 可以快速提升文章优质内容的创作效率。
AI不仅能在画画、创作方面大幅度的提效，而是能从我们工作和生活的方方面面给我们支持。从上面这幅“AIGC”全产业图景可以看出，在这个AIGC迎来“应用大爆发”的时代，我们有大量的创业机会。
02AIGC的核心法律问题
我们来聊聊关于AIGC的核心法律问题，下图是我对AIGC在创业过程中可能遇到的问题进行的提炼。
AIGC这个产业链中有三个角色：第一个角色是中间主人公：AI产品；第二个角色是左侧AIGC的技术服务方；第三个角色是右侧的产品用户。
通过与很多关注AIGC的伙伴们交流，我发现大家的问题集中在以下几个方面：
对于创业者或者技术人而言，大家关心的是数据库的版权问题、担心的是使用海外的软件和API是否存在科学上网和数据跨境的问题。
对于终端的用户而言，大家关心的事使用产品的版权归于谁？能不能用商业使用？会不会跟别人的作品的相似从而产生一些侵权？
而对于创业者来说，对上面问题的考量还不足够，我们需要重点注意的是这四个方面：
1、知识产权问题
我相信很多第一次接触到AIGC的伙伴，在生成一个图片或者文章时，首先关注的问题就是：AIGC产出的内容有版权吗 ？如果有，版权属于谁 ？是属于AIGC的技术开发者？还是属于使用AIGC的用户？还是说属于AI ？
在这里我和大家分享两个真实的案例：
案例1： 2018年，北京一家律师事务所起诉了一家公司。起诉原因是这家律师事务所通过大数据检索的方式生成了案件检索报告，某公司未经其同意而使用，该律所认为公司的行为侵犯了他们的知识产权。北京互联网法院判决的观点是：AI不是真正的人，不属于中国著作法上的作者，所以不能认为AI生成的内容是作品。
案例2 ：2018年腾讯用自己的机器人写了一篇财经新闻，这篇文章被另外一家公司转载。腾讯起诉该公司，称其侵犯了著作权。法院对这个案子的判决却跟前面我们讲到的第一个案例不太一样。法院认为：腾讯机器人所生成的这篇文章具有一定的著作权法上的“独创性”。但是，该法院并没有说该机器人拥有该作品的版权， 而是非常“聪明”地说：该软件的用户协议中有约定，使用这个软件的人对于软件生成的内容享有著作权。所以，法院认为擅自转载的行为侵犯了著作权。这是一个非常聪明的一个判决，虽然没有直面问题，但是解决了问题。
除了AIGC生成物的法律风险，作为创业者的我们更应该关注的是“训练机器人”的数据库的版权风险 。
下面我再和大家分享两个案例，一个是国外的案例，一个是国内的案例。
国外案例： 华盖创意公司起诉了一个AIGC绘图软件，称其数据库里面大概有近500张作品的原素材没有经过其同意，就使用这些东西作为训练素材，涉嫌侵权。
国内案例： “AI大模型数据被盗的第一案”：这是前段时间红林律师接受媒体采访的一个案件，A公司是国内一家比较知名的文章创作公司，B公司是国内一个比较知名的教培机构，他们之间建立了一个业务合作，由A公司给B公司提供优质的文章模板数据服务。当他们合作终止之后，A公司发现B公司所开发的一款AIGC的软件里大量地使用了A公司的素材和文章。A公司认为B公司的行为构成侵权。
对于各位AIGC的创业者朋友而言，我们要关注的核心问题 有两方面：
一方面，当我们去整理大量的数据和素材来作为机器人训练数据库的时候，一定要注意有没有侵犯原有著作权人的权利 。
另一方面，我们从合规的角度上来说，如何去解决用户使用AIGC软件产生出来作品的版权问题 。
关于AIGC有没有版权、版权应该属于谁，我们可以从两个角度来讨论。
第一个角度，是法理学上的讨论。AI生成的内容是否有著作权，其逻辑上的核心问题是：AI是不是法律上的“人”。就像公司不是人，但却在法律上被“拟成了人”。如果认为AI拥有作品，实际上我们就要从法律上认定AI它是有人格的，类似“公司”这种拟制的人格是责任的主体。这是法律学上的一个讨论的视角，但这并不是我们创业者需要去关注的。
第二个角度，我们创业者需要去关注的是，如何在AI的这一波创业浪潮中，快速的赢得用户、快速占据市场份额、快速的拿到业务订单和现金流收入，围绕这个目标，我们需要做一个利益的权衡和取舍。
我个人认为无界AI在这方面，做了一个非常聪明的决策：无界AI在《用户协议》里面明确约定，使用无界AI创作出来的图片其版权是属于创作人（用户）的。同时，无界AI在协议里面又做了一个保留，如果使用了无界AI的产品，那么必须授权无界AI也能够使用这些作品。这是一个很好的利益共享，双赢的局面。
2、数据安全问题
众所周知，无论是Web3.0还是Web2.0，数据在当今这个时代就像是石油一样的存在。年初，我们国家也专门了成立国家数据局，由此可见数据对于一个国家、对于现代社会的重要程度。那么对于AIGC的创业者而言，大家需要去重点关注的数据安全问题有以下几个：
（1）收集、使用、管理、删除用户数据的问题
作为技术或者产品的提供者，在为用户提供服务时，我们采集了用户的哪些数据？如何合理、适当地使用数据？如何合理安全地保管数据？在用户要注销账户时我们应该如何删除数据？
我们以无界AI为例，这非常具有代表性地展示了AIGC的创业者，应该如何做好个人信息的采集和保管。
首先，进入到无界AI App里的第一个画面，就是用户服务协议以及隐私政策。下滑浏览后再点击同意，就会进入到下一个页面。在四次点击之内就能够看到用户的隐私政策，它非常详尽地描述了如何采集、保管、使用第三方数据的问题。
另外，无界AI还有提供“注销账户”的功能。如果有一天你不想再使用这个平台了，就可以点击“注销账号”，无界AI按照法律的规定应该将你的数据彻底删除。
（2）数据泄露问题
最近有一家国际安全公司制作了一份报告，声称有超过10万人在使用ChatGPT的时候，个人信息被泄露并用于暗网交易。我觉得这可能还是一个“保守估计”。
在中国想使用ChatGPT是需要有账号的，但是海外验证码这个环节就难倒了一大批人。在我们的某宝上面有一个功能，花几块钱就可以租用一个账号。但是，当我们登录到这个账号的时候，可以发现有大量的对话留存下来。有的人可能就会把一些敏感的个人信息留存到在这里。
普通用户或许没有很强的隐私或者信息安全意识，但是对信息比较敏感的行业，比如说金融行业、保险行业、一些政府单位，信息安全就非常重要，在使用ChatGPT的过程中很容易出现个人信息泄露的问题。2023年4月份的时候，中国支付清算协会专门发布了一个通知，提示ChatGPT有泄露国家机密或者行业机密的风险。
根据ChatGPT的使用规则来看， 我们作为一个用户在前端输入的所有信息先会回传到ChatGPT在美国的服务器，然后美国服务器会再把相应的信息回传回来。在这个过程中，中国一些核心的数据有可能会作为ChatGPT的用户数据直接流传到境外。
敏感数据的“出海”问题是我国近几年非常关注的热门话题。跨境数据的传输，无论是安全评估，还是数据备案，我国这几年都做的越来越精细化。我们作为AIGC的创业者也许会有“出海”的需要，我觉得大家一定要对跨境数据的问题非常关注。
（3）数据违法的成本
跨境数据的传输和科学上网问题是所有在使用海外AIGC软件或者服务所必然要面临到的两大风险。
也正因如此，像无界AI这样的中国本土的AIGC优秀产品有了很好的创业机会，希望大家能够抓住机遇。我们知道创业总是伴随着风险，所有的商业决策实际上都是一个风险和成本的权衡与考量。
违反数据安全，无论是数据跨境出海，还是没有保管好用户的数据，或者是过度获取用户的一些数据权限，成本都比较高，我这边也很贴心的为大家考虑了违法成本：
《个人信息保护法》规定最高可以处罚5,000万、或者是上一年度营业额5%。也就是说上一年度营业额有100亿，那么罚款数额将达到5亿，这个处罚数额是非常巨大的。
在《网络安全法》和《数据安全法》里，基本上是50万到100万的处罚数额。而且我们可以看到，一些新闻发布出的针对互联网公司的处罚，几乎都是顶格处罚，这个处罚力度还是比较大的。
最严重的处罚是直接吊销营业执照，相当于生意彻底没法做了，这是非常之严重的，作为创业者，我们需要衡量一下这个违法成本是否是自己所能承受的。
3、AI生产内容问题
AIGC被好人用是很好的，但是，也会有一些不法分子会使用它来做一些违法犯罪的事情。
我跟大家分享几个比较常见的使用AIGC违法犯罪的案例。
案例1： 5月7号甘肃公安发布通报：网络上忽然传出某个列车出轨的假新闻，甘肃当地的公安给发现后顺藤摸瓜找到了一个犯罪团伙，发现原来是一个年轻人使用ChatGPT制造了一些虚假新闻。
案例2： 前段时间B站上非常“火爆”的事件——“AI孙燕姿”。由于孙燕姿太久没有发布专辑或者单曲，网友就让她“被迫打工”，通过一些AIGC软件，把孙燕姿的声音复刻下来，训练机器人，让机器人以孙燕姿的声音来唱一些其他歌手的歌。虽然这个事情很简单，但是实际上侵犯了很多民事权利。比如，原来这首歌的作词作曲或者录音制作者的“复制权”、“网络传播权”，以及孙燕姿的“表演权” 、“肖像权”、“姓名权”、“声音权”等权利。
案例3： 国外的一个网红她将自己的声音、画面等做成一个付费的服务。用户每分钟支付一美元，可以获得一位“虚拟的女友”。大家需要注意的是，这有可能是一种“杀猪盘”来欺骗用户。AI生成的女朋友付出的是“假感情”，但是用户掏的可能是“真人民币”。
除此之外，AIGC可能会被用来“AI换脸”诈骗。比较常见的是，在打视频电话时，犯罪分子通过AI生产假面孔然跟我们聊天，说因为某些原因急用钱，让我们汇款。
我们作为创业者如何在生产内容这个环节降低一些法律风险，有以下三个方面：
（1）内容的审查和过滤
提前对内容进行审查和过滤，比如，我们在使用无界AI的绘图软件时，输入一些敏感词（如“血淋淋”）会触犯到视频播放规定。当提示词里出现这些类似的敏感词汇时，是无法提交视频的。
（2）用户协议明确使用规范
在用户协议里面提出一些要求。比如说像无界AI的用户协议里面就明确约定了，使用无界AI必须要遵守宪法、法律法规、以及社会主义核心价值观等。如果出现违规使用的情况，管理员可以把用户“关进小黑屋”。
（3）“AI标识”
这是我们一位知名的自媒体老师——刘润。不难发现，在他的所有短视频的边缘都附有一句话：“短视频部分画面使用了AI技术创作”。
按照互联网服务深度合成的管理规定，作为一个AI技术的提供方，需要在内容的合理位置放一个显著的标识，来表示这个东西是AI生成的，所有人不能篡改。
同时抖音作为国内短视频的一把手，它在前段时间刚更新了用户协议，很明确地提到，如果使用AI机器来生成一些视频，需要做一个AI标识以避免虚假短视频的传出。
4、科学上网问题
科学上网是指通过“翻墙”上外网。通过网络检索可以发现，有很多人因偷偷翻墙上外网被警察处罚的新闻。但是，也有朋友会说，“我翻墙好像也没有公安来找我呀。”
我们国家对科学上网的处理方式是：作为用户使用翻墙软件，只要不去浏览一些过于敏感的、政治不正确的内容，或者是传递一些负面消息， 国家一般不做处理。而是会去打击那些开发翻墙软件、协助科学上网的人，“与其一个一个地打击，还不如一端端一窝”。
所以说，个人用户使用海外的一些API接口还只是一个“违法问题”，而AIGC的创业者如果把这个东西做成商用，那就有可能构成“犯罪”了。如果被公安机关发现不仅要受到处罚，更严重的有可能构成非法经营罪。
那么，大家也会提问：有没有一个合理的、安全的解决方案呢？实际上是有的，但这也不太好明说。
之所以说“有”，是因为我们知道现在中国有很多的外资企业的总部在海外，在国内有子公司、分公司或者办事处。同样的，中国的一些企业可能因为某些原因要去海外去做宣传，这些公司在海外的媒体平台上有自己账号，他们通过“租用”别人的“专线”，或是“合法地申请使用VPN”。
之前我们也跟上海的相关主管部门交流过这个问题，主管部门明确答复，在中国如果想使用海外的API来面向国内做商业化的应用，这是很困难的。总而言之，就是如果大家真正的有使用海外AIGC或者是开发的需要，最好是跟一些经批准的运营商联合，或者直接租用VPN的相关服务。通过这样的方式，在实现我们商业目的的同时也能够降低风险，这也是一个比较务实的建议。
03分享总结
这篇文章略长，我们简单总结一下：在中国，AIGC创业者需要去关注的四个大的法律风险。
1.知识产权方面， 不仅要在用户协议中明确约定AIGC版权归属谁，更要确保自己的素材库不侵权。
2.数据安全方面 ，对于网站和App用户的数据信息的采集、保管、使用及删除，都需要进行精细化的合规设置。
3.生成内容的合规性。 AIGC可能生成虚假违规信息，我们需要从产品侧对一些敏感内容的屏蔽，同时对于AI生成的相关内容我们也需要附上AI标识，以确保符合相关的法律规定。
4.科学上网问题， 我们使用海外的AIGC软件和服务，会涉及数据跨境问题，科学上网也需要大家去格外关注，所以关注中国的大模型产品，是个好出路。