AI大模型如今是愈发成熟、高效，几乎能满足人们的各式各样的需求。飒姐团队的小伙伴们工作之余也会用用各类AI大模型，体验一下科技的力量。但在这个过程中，飒姐团队却发现，有的AI大模型似乎会把网络上公开的个人信息进行采集，甚至可能向用户输出这些个人信息。那么问题来了，倘若大模型搜集网上公开的个人信息并反馈给了用户，这种行为是否违法甚至于构成犯罪呢？飒姐团队今日文章便为大家分析一下这个问题。

01公开的个人信息便能随意使用？

众所周知，AI大模型的训练离不开大量数据的投喂，而网络上的公开数据当然是极佳的投喂材料，能够提供大量信息和数据供AI大模型训练使用。而公开的个人信息自然也在其中。一个问题在于，个人信息一旦在网络公开，是否就能够供他人随意使用，乃至于用于AI训练以及输出呢？

对此，《民法典》第一千零三十八条虽然明确指出，“未经自然人同意，不得向他人非法提供其个人信息，但是经过加工无法识别特定个人且不能复原的除外”，但是第一千零三十六条同样指出，“合理处理该自然人自行公开的或者其他已经合法公开的信息，但是该自然人明确拒绝或者处理该信息侵害其重大利益的除外”的情况下，行为人是不承担民事责任的。

除此之外，根据《个人信息保护法》第二十七条“个人信息处理者可以在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息；个人明确拒绝的除外。个人信息处理者处理已公开的个人信息，对个人权益有重大影响的，应当依照本法规定取得个人同意。”，以及《个人信息保护法》第十三条同样认为“依照本法规定在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息”的情况下无须取得个人同意。

因此，综合以上法律规定，针对公开的个人信息，使用的规则如下：

（1）个人信息处理者能够处理个人自行公开或者其他已经合法公开的个人信息；

（2）但前述处理行为必须在合理范围内；且

（3）不得处理个人明确拒绝处理的个人信息；且

（4）不得未经个人同意处理会对个人权益造成重大影响的个人信息。

可见，即便是公开的个人信息，也不意味着AI大模型能够随意作为训练素材使用。

02哪些公开个人信息不能随意使用？

如前所述，对于个人明确拒绝的公开个人信息以及未经个人同意会对个人权益造成重大影响的公开个人信息便是不能随意使用的个人信息。实践中，由于后者的范畴难以确定，必须进行个案分析，飒姐团队在此仅针对个人明确拒绝处理的公开个人信息进行举例。我们认为，如下三种情况下的公开个人信息，AI大模型是不能将其作为训练材料进行使用的。

其一，所公开网站上的Robots协议明确拒绝抓取的情况。一般而言，网站上的Robots协议可以禁止某些特定主体的爬取功能，如个人信息所公开网站的Robots协议明确拒绝了爬取，那么在一定程度上能够认为公开该信息的个人不愿意其个人信息被搜索引擎、AI模型等进行爬取。因此可以被认为是不能随意使用的情况。

其二，在公开个人信息的内容中明确声明不能用于AI模型训练的情况。对于此种情况，由于个人明确拒绝他人使用其公开信息进行AI模型训练，因此应当认为该公开个人信息不能被随意使用。

其三，所公开网站或平台上的用户协议、声明、公告等文本明确其网站或平台上的公开个人信息不得用于AI模型训练的情况。此时，由于个人信息主体系在同意该用户协议、声明、公告等基础上公开了其个人信息，因此，可以认为该用户协议、声明、公告等所表达的不得用于AI模型训练的说明代表了个人的明确拒绝，进而使得该公开个人信息不得用于AI模型训练。

03违法使用公开个人信息，可能构成什么犯罪？

在明确了前述公开个人信息不得随意使用的基础上，违法使用此类个人信息就可能构成相关犯罪。其中，最可能构成的，便是侵犯公民个人信息罪。

《刑法》第二百五十三条之一规定：

“违反国家有关规定，向他人出售或者提供公民个人信息，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三年以上七年以下有期徒刑，并处罚金。

违反国家有关规定，将在履行职责或者提供服务过程中获得的公民个人信息，出售或者提供给他人的，依照前款的规定从重处罚。

窃取或者以其他方法非法获取公民个人信息的，依照第一款的规定处罚。

单位犯前三款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照各该款的规定处罚。”

根据该规定，违反国家有关规定，向他人出售或者提供公民个人信息的行为和窃取或者以其他方法非法获取公民个人信息的行为均涉嫌构成侵犯公民个人信息罪。

而根据《最高人民法院、最高人民检察院关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》第四条的规定，“违反国家有关规定，通过购买、收受、交换等方式获取公民个人信息，或者在履行职责、提供服务过程中收集公民个人信息的，属于刑法第二百五十三条之一第三款规定的‘以其他方法非法获取公民个人信息’。”在前述所获取的个人信息虽然公开但系个人明确拒绝的情况下，该行为属于违反国家有关规定，获取公民个人信息的行为，因此应当属于“以其他方法非法获取公民个人信息”的情况，进而在满足相关司法解释对于“情节严重”的要求的基础上，应当认为涉嫌构成侵犯公民个人信息罪。

04写在最后

AI大模型训练是形成好用、高效的大模型的必要过程，因而不可避免地需要大量数据的投喂，但各大企业切不可因小失大，在进行训练的同时，也要注意各类数据来源的合规，保障自身合规性。以上是今天的分享，感恩读者！

5月3日，在海外著名技术社区Hacker News中有用户发帖指出：一个名为“search.chatgpt.com”的域名已经被创建并通过了安全证书，这一消息又一次引发了行业内对于AI搜索引擎的各种猜想。自从ChatGPT首次亮相以来，业界就一直对OpenAI是否会推出搜索引擎一事存在着众说纷纭的猜想，而随着越来越多的蛛丝马迹开始为这些猜想勾勒出具体的轮廓，一项基于AIGC技术的全新搜索技术似乎已经呼之欲出，并将颠覆性地改变人们对于搜索引擎的传统认知。

01AI将会怎样改变搜索引擎？

“AI技术将会为现有的信息检索方式带来深度的变革”，对于这一观点，业内几乎已经达成了共识。在2023年由高盛集团和SV Angel在旧金山举办的AI Forward 2023活动上，比尔·盖茨直言不讳地表示“顶级人工智能终将颠覆搜索引擎、生产力软件和在线购物网站的应用，并最终在IT技术竞赛中大获全胜”。实际上，如果单从应用的层面看，对话式的人工智能大语言模型已经在一定程度上满足了传统搜索引擎的全部用户需求，且其在用户交互等方面体现出的优势，更是大有将搜索引擎“取而代之”的趋势。在同样接入网络的前提下，具备深度学习能力的AI的确突破了许多传统搜索引擎的技术桎梏：

其一，是为用户提供的更为精准且具体的检索结果。通常情况下，限于搜索引擎的数据抓取逻辑，采用相同关键词进行检索的结果是近乎完全一致的，用户很难获取完全符合自身搜索习惯的客制化结果。实际上，在我们利用搜索引擎进行信息检索时，对于有用信息的最终筛选是需要主动依靠人力进行的。而生成式AI则可以根据用户的需求和习惯，通过对信息的总结呈现出更加准确的结论性成果，这将很大程度优化用户的搜索体验。

其二，是对于用户信息搜索效率的提高。传统搜索引擎的机制通常是将用户提供的关键词进行拆分，并针对其中有价值的信息进行抓取，这导致用户输入检索条件的文本长短与关键词精确度将很大程度影响获取结果的效率。而AIGC在文本处理上的优势则避免了这一弊端，AI在“理解”的基础上寻找用户所需要的信息，并在长文本的处理上具有先天性的优势，且通过一段时间的数据投喂，AI的检索效率也会随着训练量的增加而获得进一步的提升。

其三，是对用户交互方式的改变。传统搜索引擎与用户的交互方式大多仍限于文字或图像等较为单一的要素，而AIGC本身可通过复数大模型的训练整合文字、图像，甚至音视频等复杂媒介，如谷歌推出的AI搜索引擎SGE之类相关领域的先行者，就已经开始尝试在交互方式上做出改变。在未来，AI主导的搜索方式即便仍采取对话式的形式，其交互端的复合程度也将获得极大的提升，并与用户的应用需求深度融合。

02更加自动 = 更多风险？

以AI取代传统搜索引擎对相关行业而言将会是一场“革命”，其中的利弊或许一时还无法清晰辩驳，但上述的诸多优势背后，亦隐藏着不可小觑的风险。抛开AIGC本身可能存在的数据侵权和信息伪造等老生常谈的问题，以搜索引擎的使用逻辑应用AI将不可避免地面临自动化决策所带来的影响。如上文所述，AI为用户提供更为精准且高效的检索服务的基础是其对于用户检索系统的“深度学习”，而从另一个角度上看，这即意味着用户想要获得上述“贴心服务”，就需要同意将自身的搜索数据用于AI的训练。诚然，自动化决策赋予了相关应用“自我思考的能力”，是促进AI及大数据等信息技术联动，降低信息处理成本的同时提高决策效率的必要基础，但自动化决策的“自我意识”及衍生而来的“算法黑箱”等问题也为数据和个人信息的安全带来了巨大的风险。首当其冲的即最为人们所熟知的“信息茧房”所带来的综合性风险。“信息茧房”最早由哈佛大学法学院桑斯坦教授提出，意指公众在海量信息传播中，因非对信息存有全方位需求，而只关注自己选择的或能使自己愉悦的讯息，长此以往，将自己束缚在如蚕织就的信息“茧房”中的现象。[1]搜索引擎本身在应用中的“问答”属性已成为促成现代社会“信息茧房”形成的主要诱因之一，而自动化算法在生成式AI中的进一步的应用更可能引发“回声室效应”和“同质化效应”。换言之，在用户通过投喂搜索数据获得AI客制化服务的过程中，AI的学习本身即是对“茧房”的不断加固。其次，用户在搜索过程中无意间透露的用户数据与零散的个人信息，也将面临数据泄漏带来的风险。虽然严格意义上讲，使用搜索引擎并非对用户个人信息的收集阶段；用户在搜索过程中所透露出的检索内容、习惯等碎片化的个人信息亦不具有非常清晰的可识别性。但经过深度学习训练的AI多具备预测功能，通过算法的预测和推断，AI很容易完成对具体用户的画像，并生成具有识别性的个人信息。如美国研究者曾对“Facebook Likes”58000名志愿者提供的准确率高达80%-90%的个人信息，如性取向、种族、智力情况、宗教及政治观点、性格特征、幸福指数、瘾品使用、父母离异、年龄和性别信息进行数学建模，自动化算法在未获取志愿者其他任何信息和个性特征的情况下，可以相当准确地预测出该Facebook用户是否为同性恋者。[2]这些在使用过程中生成的个人信息亦面临着泄露的风险。此外，当前自动化决策所存在的算法歧视问题，亦有可能在AI搜索的过程中遭到扩大。自动化算法带来的歧视风险通常来源于两个方面：其一是设计者自身将存在的偏见以替代变量的形式编入了算法程序中；其二则是数据收集的非准确性导致算法出现了误判。而在AI自主学习的过程中，数据的获取和处理皆是自动进行的，这意味着上述两个方面的风险均陷入了“算法黑箱”中的不可控领域。因而，AI在提供降本增效的“贴心”搜索服务的同时，实际也迫使其使用者和设计者将一把不得不接受的双刃剑牢牢攥在了手中。

03AI搜索语境下用户对自动化决策的拒绝权

基于自动化决策可能引发的上述风险，当前，世界各国在相关立法中均对其设置了一定的限制，如欧盟《一般数据保护条例》(General Data Protection Regulation, 以下简称GDPR)第22条，与对其进行了学习的我国《个人信息保护法》(以下简称《个保法》)第24条第3款，就都赋予了个人信息主体算法解释权和自动化决策拒绝权。因而，在未来AI搜索取代传统搜索引擎的大趋势下，用户对自动化决策的拒绝权将成为规避相关风险的重要权利。

当然，我国《个保法》对相关权利的规定仍存在“律性质不明、概念内涵不清、利益关系失衡、程序性救济手段缺失”等有待解决的规范性法问题，[3]亟待立法机关及司法实践予以进一步地解释和明确。对此，一种可行的思路即通过参考欧盟《人工智能法案》的分级规则，对用于信息检索等强自动化决策的AI算法根据“不可接受的风险”“高风险”“有限风险”以及“最小风险”等四个等级进行分级，并依据不同等级的风险赋予用户相应的拒绝权。通过对AI自动化决策的合理定级，确定风险预防策略，从而更好地保护个人信息主体的相关权益。

04写在最后

诚然，对于新技术的促进与所涉权益的保护之间存在着某种天然的矛盾。但在法律的视角下，二者应当亦存在可探寻的平衡点。技术的发展不应为权益保护所掣肘，反之也不能牺牲主体的权益来为技术鸣锣开道。自动化决策拒绝权的明确只是应对风险诸多思路的其中一种，在技术变革到来之前，如何以更多样的保护手段避免合法权益遭受侵害，如何打开更加多元的AI法律治理格局，将会是科技界与法学界共同探索的深刻议题。以上是今天的分享，感恩读者！

[1] 参见[美]凯斯·R.桑斯坦:《信息乌托邦》，毕竞悦译，法律出版社2008年版，第8页。[2] 参见孙建丽：《算法自动化决策风险的法律规制研究》，法治研究，2019年第4期，第108-117页。[3] 参见：牛彬彬、陈永波：《自动化决策权利对抗体系的完善——<个人信息保护法>第24条的解释论进路》，湖州师范学院学报，2024年第3期，第86-97页。

2020年，作为我国知识产权法律体系两大支柱的《专利法》与《著作权法》先后进行了修订，与2019年即获得修订的《商标法》一并，对沿用了近十年的知识产权体系进行了与时俱进的完善。然而，2021年8月，OpenAI上线了其在今天已经深刻改变了业界生态的人工智能产品——ChatGPT，带领人工智能大语言模型（Large Language Models， 简称LLMs）站上了时代的风口浪尖。如今，世界范围内人工智能开发者的竞争已愈发激烈，世界各国与人工智能相关的立法活动也随之而愈发频繁。在这样一个充满了创新与探索的时代，我国知识产权领域的三部法律却微妙地错过了“时代的热点”，导致我国现行的知识产权保护体系并未将LLMs纳入考虑范围之内，让这位“百模大战的主角”坠入了法律保护的真空之中。关于生成式人工智能（AIGC）对现行知识产权法律体系的挑战，飒姐团队已经与大伙进行过多次探讨，今天，就让咱们从人工智能大模型的本身出发，聊聊这位“主角”的相关权益。

01LLMs也会面临侵权风险吗？

一直以来，在知识产权语境下，我们对于AGI技术，尤其是AIGC技术相关知识产权问题的关注，始终集中在其生成物的相关权属上。而事实上，AI本身亦属于人类智力活动的成果，当其被予以公开，也同样会受到一系列侵权风险的威胁。

1、数据窃取数据窃取是LLMs开发者所面临的最常见威胁之一，其可分为“抽取式攻击”和“复制式攻击”两类：“抽取式攻击”是指攻击者通过访问目标模型的接口或者采用黑盒攻击的方式，向模型输入一些特定的数据，从而提取和收集特定方向的输出结果。通过大量的输入-输出操作，攻击者便可从大模型中提取出模型的结构、权重以及其他重要参数信息，而将这些数据用于新模型的训练，则很容易就可以获得与原模型相似的“全新模型”。“复制式攻击”则是指攻击者假装对LLMs进行训练，获取训练过程中产生的目标模型的训练数据集或者中间结果，然后使用这些数据对自己的模型进行训练，从而获得与原模型相似的模型。经过大量的计算资源和时间的投入，攻击者甚至可以做到将原模型的数据“掏空”，直接复制出功能和性能别无二致的“双胞胎”。2、代码抄袭现阶段，绝大多数AIGC大模型的开发都采用了开源的方式。此前，飒姐团队已经在《开源才是未来？AI大模型，共享=共赢？》一文中开源大模型的优势进行了较为详细的论述。[1]而采取开源模式的开发团队高度依赖社区构建，其通常会主动将团队开发的代码发送至相关社群网站，供团队外感兴趣的研究者们随意下载，以共同完成AIGC的训练等后续开发工作。如著名的第三方软件项目托管平台GitHub，即汇聚了1亿以上的开发人员，400万以上组织机构和3.3亿以上数据资料库。但开放代码在一定程度也意味着开发者将自己的“命运”交给了不特定的业内同行，其中当然也包括对其研究成果虎视眈眈的竞争对手们。因而，开源开发者实际上不可避免地会遭受代码抄袭的严重风险。如2023年11月，国内“AI教父”李开复旗下的AI大模型创业公司“零一万物”就陷入了抄袭的风波之中，其发布的Yi-34B和Yi-6B两个开源大模型遭到了Hugging Face开源主页上其他开发者的质疑，认为其直接套用了Meta公司大模型LLaMA的架构，仅对两个张量（Tensor）名称进行了修改。虽然事后“零一万物”在社交媒体上对其“抄袭”行为进行了澄清，并解释代码相同只是其为测试模型目的沿用LLaMA部分推理代码后的疏忽。但这一事件也充分暴露出了开源大模型圈子内，利用他人代码“套壳”开发LLMs现象的普遍存在。此种情况下，开源开发模式变为了一把双刃剑，出于开源的考虑，开发者不可能在公开代码时遮遮掩掩，但一旦将代码全部公开，就犹如将自己的智力成果拱手让人。3、违规训练同样，在任何人都可以参与进来的开源开发模式下，训练LLMs所使用的数据亦是开发者很难完全掌控的。训练的数据越多，LLMs的开发效果也就越好，这对于所有开发者而言都是一个现实的需求问题。但其另一个老生常谈的方面则是：没有任何人能够确保用于训练的数据完全合法合规。倘若只是参与开发的用户使用了违法或侵权的数据进行训练，开发者尚可以通过“开源减免责任”等制度层面的优惠来豁免自身的责任，但若他人恶意对其LLMs进行“投毒”，开发者所面临的则可能是全部努力付诸东流的惨痛后果。如最为典型的“AI投毒攻击”，即攻击者通过在训练数据中加入精心构造的异常数据或虚假数据，破坏原有的训练数据概率分布，导致模型在某些条件下产生分类或聚类错误，以破坏其训练数据集和准确性，最终导致大模型在特定点上的功能失灵。

02现有体系能否保护LLMs开发者的权利？

这一问题的答案很大程度上取决于对另一个问题的回答，即知识产权法律视角下的LLMs是什么性质？

由于构成人工智能实体的基本元素是程序代码，从形式上可以将其看作是一种“算法”，但问题是，现行的知识产权法律制度框架之下，只有《著作权法》第三条分类中列举的“计算机软件”，却并没有对于“算法”这一客体类型的明确规定。在著作权法的框架下，受到保护的实际上并非是算法的核心思想，即为了通过计算机达到某种目的而进行的编程行为。其所关注的只是算法的表现形式，也就是那些被写在程序里，具有独创性的代码。因此，传统的版权保护在应对智能化时代对算法保护的需求时就显得捉襟见肘，当侵权者绕开算法的“代码表现形式”，而采用其他代码编译相同“算法”时，其即可绕开著作权的保护，肆无忌惮地侵害相关开发者的权益。而另一方面，在专利法的框架下，由于生成式人工智能的算法本身在概念与理论上具有抽象性，因而在传统实践中“算法”一般被归类于《专利法》第二十五条第二项中所规定的“智力活动的规则和方法”，其不能被授予专利。虽然国家知识产权局于2023年12月21日发布了新修订的《专利审查指南》，其中已经在第二部分第九章中增加了第6节，对“包含算法特征或商业规则和方法特征的发明专利申请审查”进行了规定，对涉及人工智能、“互联网+”、大数据及区块链等行业的规则和方法的发明专利申请作出了规定。在世界范围内，如欧洲《人工智能法案》（AIA）、日本2018年《著作权法》修正案等也专门就人工智能这一智力活动成果所遭受侵权的保护进行了先导性的规定。但从实践层面上看，当前对于LLMs采用专利方式进行保护的途径仍不十分明朗。整体上而言，人工智能的知识产权保护，在世界范围内仍是一个有待达成统一和司法共识的问题。为避免陷入“处罚诚实者，鼓励作假者”的道德困境，现有的知识产权法律体系框架需要进行较为全面的调整。

03LLMs的权利保护与知识产权体系的变革

人工智能的发展已经触及到了既有知识产权保护体系的核心，正如世界知识产权组织总干事邓洪森先生在2020年11月4日的讲话中所提到的那样，人工智能的发展对现有知识产权体系提出了大量相互关联的问题，需要采用横向的方法，不应该从单个知识产权的角度来看待人工智能带来的问题，而应从整个知识产权体系的角度来整体看待这些问题。实际上，知识产权法律体系始终处在扩张的过程中。从人类开始进行工业化的活动，现代知识产权保护的客体就随着机械、电子、化学、物理等技术与科学的研究而不断迭代更新。其中，著作权的扩张最为明显。受保护的客体不断增加，著作权的保护范围亦不断扩大。在世界上第一部保护著作权的法典《安娜女王法》中，受保护的客体还只限于文字作品，到美国1790年通过的第一步著作权法中,保护的客体就已经扩展至了图书、地图和图表，以防止作者的作品遭到擅自印刷。而后，著作权所保护的客体逐渐扩大至新出现的摄影作品、电影作品、录音录像作品、计算机软件作品等新的作品类型。这种客体的扩张在很大程度上是技术，特别是传播技术发展的结果。技术的发展产生了在先前著作权法中曾没有保护的客体,由于在新的环境下不受限制地自由使用会对这类技术的发展构成严重妨碍,各国都注意通过修改著作权法的方式扩大作品的保护范围。[2]加之我国著作权法的框架体系中已经包含了“计算机软件”这一广义上的“同类”，将相关技术理念与法学理论进行进一步的对应与啮合，就目前看来，似乎是一种较为实际的探索方向。立法不是保护的终点而是起点。通过扩张作品、发明类型，设立生成式人工智能系统使用费知识产权回馈机制、简历数字化内容使用集中清算制度，重构数字化合理使用制度，以及增加非人工智能生成举证责任负担方式平衡人工智能技术发展与知识产权制度的矛盾；鼓励在人工智能大模型保护中使用区块链、数字水印等技术。通过技术与法律结合，来解决新技术所带来的矛盾与挑战。

04写在最后

从知识产权制度400余年的发展历史上看，知识产权制度的核心在于促进知识和信息的运用和传播。本质上讲，知识产权制度的存在即鼓励人类智力成果创新与传播的工具。随着新技术的出现和应用，法律体系也随之进行迭代，法律的理解和适用也随之进行突破，在AI为我们开启的未来时代，这种倾向也愈发变得明显。无应用则无权利。

以上是今天的分享，感恩读者！[1] 参见肖飒团队：《开源才是未来？AI大模型，共享=共赢？》，https://mp.weixin.qq.com/s/KOnLuGxSIlYFOrK11IlIMA。[2] 参见冯晓青：《著作权扩张及其缘由透视》，政法论坛，2006年第6期，第74-87页。

随着AI技术的大规模应用，各类AI侵权事件层出不穷。既AI图片侵权事件之后，全国首例AI生成声音人格侵权案也“浮出水面”。对于AI生成声音侵犯他人人格权这一事项，飒姐团队早在对AI翻唱的分析中便已经做出过分析（见《“AI翻唱天王天后”，掀起赛博侵权潮？！》），而今日文章便借首例AI生成声音人格侵权案为大家简要分析一下其内的责任承担问题。

01案情简介

本案原告殷某系一名配音师，其偶然发现自己的配音被他人用于制作各类作品并在多个App平台广泛传播。经过溯源，殷某发现作品中的自己的声音均来自于被告一A公司运营的平台的文本转语音功能，只要输入文本就能够生成与自己声音一致的语音。由此，殷某对涉案的五个公司提起诉讼。

由于案情较为复杂，涉及五个公司作为被告，因此飒姐团队将原告与五个被告之间的关系梳理成如下图标，方便大家理解。

从上图可知，本案的侵权行为之所以发生，是由于作为录制制品著作权人的B公司擅自将录音制品提供给C公司，并允许C公司进行商业或者非商业的使用，从而导致C公司利用B公司提供的包含殷某声音的录音制品形成了AI语音产品，C公司方将该产品在D公司的平台上线销售，最终导致殷某从A公司处发现了涉案的产品。

经过审理，法院最终判决A公司、C公司向原告赔礼道歉，B公司以及C公司向原告赔偿25万元损失。

02案例评析

（一）声音侵权应当如何认定？

《民法典》第一千零二十三条第二款明确规定，对自然人声音的保护，参照适用肖像权保护的有关规定。由此，未经声音所有人的同意，除非法律另有规定，任何人不得使用声音所有人的声音。在此前提下，即便B公司系包含殷某声音的录音制品的著作权人，除非殷某授权，其也没有使用或者许可他人使用殷某声音的权利，因此，B公司擅自提供录音制品给C公司供C公司AI训练，从而生成AI语音产品的行为，当然侵犯了殷某对于自己声音的相关人格权利。

在本案中，值得注意的是，法院对于原告声音权益是否及于涉案AI声音进行了较为详细的论述。之所以如此，是因为如果该声音权益不及于涉案AI声音，那么除去直接侵权人B公司、C公司之外，其余被告因为仅使用了涉案AI声音，就不会构成对原告殷某声音权益的侵害。对此，法院认为，应当从涉案AI声音是否具有可识别性，能否关联到特定自然人进行考虑。

具体而言，法院指出，自然人声音以声纹、音色、频率为区分，具有独特性、唯一性、稳定性特点，能够给他人形成或引起一般人产生与该自然人有关的思想或感情活动，可以对外展示个人的行为和身份，在此基础上，声音的可识别性指“在他人反复多次或长期聆听的基础上，通过该声音特征能识别出特定自然人”。因此，如果涉案AI声音能使一般社会公众或者相关领域公众根据音色、语调、风格等关联到特定自然人，那么应当认为这个声音是具有识别性的。据此，法院结合案件事实，认定涉案AI声音具有可识别性，原告声音权益及于涉案AI声音。

因此，考虑到A公司、D公司、E公司均使用了涉案AI声音，因此在满足其他侵权行为的构成要件的基础上就需要承担一定的侵权责任。

（二）侵权责任如何确认？

对于本案所诉侵权责任，各被告均提出了抗辩，但法院并没有全部予以采纳，而是对各被告的抗辩进行了说理，妥善处理了各被告的责任承担问题，具体内容如下：

主体	抗辩理由	法院观点
A公司	系善意第三人，通过正规渠道购买产品，已尽到合理的注意义务，不构成侵权行为。	肯定该抗辩，认为A公司主观上不存在过错，无须承担损害赔偿责任。
B公司	作为录音制品著作权人，享有录音制品的著作权以及邻接权，其使用符合法律规定，不存在主观故意的侵权行为。	否定该抗辩，认为B公司虽然有录音制品的著作权，但该权利不包括授权他人对制品中原告的声音进行AI化使用的权利。
C公司	其通过与B公司签订协已经获得了涉案声音的授权，不存在任何侵权的主观过错，且涉案声音系AI化声音，不具有可识别性。	否定该抗辩，C公司虽然与B公司签订了协议，但是该协议系未经原告本人知情同意下签署，授权C公司AI化使用原告声音之行为无合法权利来源。
D公司	系云服务平台提供者，已尽到合理的注意义务，不构成侵权行为。	肯定该抗辩，认为D公司主观上不存在过错，无须承担损害赔偿责任。
E公司	既未使用涉案声音也未制作涉案声音，且对于侵权事宜并不知情，不应承担侵权责任。	肯定该抗辩，认为E公司主观上不存在过错，无须承担损害赔偿责任。

由此，在综合考虑侵权情节、同类市场产品价值、产品播放量等因素的情况下，法院最终判决B公司和C公司承担了25万元的损害赔偿责任。

我国《民法典》的侵权责任以过错责任为原则，因此行为人主观上是否存在过错系判断侵权责任的主要构成要件。在本案中，B公司作为录音制品的著作权人，其明显知晓自己并没有获得过原告的声音使用授权，自然难言主观上不存在过错，同理C公司作为与B公司的直接合作者，除非其要求B公司提供相关授权的证明，否则也很难否定C公司的主观过错。在此基础上，D公司作为平台服务提供者，其只需要尽到一般的注意义务即可，除非该声音侵权十分明显，以至于D公司知道或者应当知道该产品涉嫌侵权，否则其通常不需要承担责任。至于A公司和E公司，由于一方其仅仅只是受另一方委托购买C公司的产品，双方均不参与前述任何相关行为，因此难以知晓侵权事实，主观上自然不存在过错。

综上所述，本案对于侵权责任的承担的认定是极为合理的。

03写在最后

如前所述，AI技术的铺开在目前的法律框架下势必会有大量侵权案件出现，但如何确定侵权行为以及如何准确判断侵权责任的有无与大小仍然是一个需要仔细斟酌的事项，并非所有参与者都存在侵权行为，也并非所有参与者都需要承担侵权责任。

4月16日，《人工智能法（示范法）2.0》（以下简称“《示范法2.0》”）发布，2.0版本的文稿对2023年8月发布的《人工智能法示范法1.0（专家建议稿）》进行了一次重大的迭代升级。其中，最引人注目的内容之一，即在《示范法2.0》的第七十一条，首次规定了开源人工智能开发者的法律责任减免。根据《示范法2.0》的规定，“以免费且开源的方式提供人工智能研发所需的部分代码模块，同时以清晰的方式公开说明其功能及安全风险的，不承担法律责任。免费且开源提供人工智能的个人、组织能够证明已经建立符合国家标准的人工智能合规治理体系，并采取相应安全治理措施的，可以减轻或免于承担法律责任。”这意味着法学界在利用人工智能法律规范促进发展的问题上，态度鲜明地支持人工智能开发者采用开源的发展模式，并通过专门的减免责条款设计等措施，鼓励人工智能研发的技术公开和共享。在往期的专栏中，飒姐团队一直强调“公共”和“开源”是AGI的核心价值。随着人工智能逐渐开始赋能各领域生产力的发展，唯有通过规范的设计，对其基于知识产权的“私益”与基于全人类技术发展的“公益”予以平衡，才能够真正实现“共赢”，促进AGI领域良性发展。

01大模型的开源与闭源之争

在AI大模型研发领域，“开源”与“闭源”两派的争论由来已久。二者最近的一次激烈交锋，即2024年3月初的马斯克诉OpenAI案，标志着双方的矛盾已经由单纯的技术竞争扩展到了反垄断等法律与合规领域。作为闭源大模型开发者的代表，在马斯克的指控中，OpenAI在接受了微软的注资之后，已经在事实上成为了微软控制下的闭源子公司，令其所开发的GPT-4等系列产品成为了微软攫取巨额商业利润的工具。为了实现盈利目标，OpenAI已逐渐背离了最初对于公共开源人工通用智能（AGI）的承诺，并开始在相关领域中构建科技霸权。虽然马斯克的上述指控直到目前为止都没有充分的证据支持，且基于其长期以来的“网红人设”，提起诉讼似乎也只是其为了自家XAI公司新开发的开源大模型进行营销的手段。但从这一诉讼产生的影响中亦不难看出，新兴开源大模型的开发者与长期在业界占据领导地位的“不那么Open”的OpenAI之间，确实已存在利益与开发理念上的诸多冲突。双方冲突的存在一方面是由于OpenAI确实靠闭源大模型的开发获得了名利双收的成果。虽然在其2015年初创之时，OpenAI确实是以“确保通用人工智能造福全人类”为自身的核心使命，并试图构建一家与传统科技公司不同的非盈利性机构；但其真正在ChatGPT的开发上实现破圈却是建立在微软不断向其抛去橄榄枝的基础之上。根据公开资料显示，OpenAI成立至今，微软共向其投资130亿美元，并掌握了OpenAI营利业务部份49%的股权。可见，马克思的指控也并非空穴来风，OpenAI如今在AI大模型开放领域取得的成就与其背离初衷，坚持为微软进行闭源产品开发的事实之间确实难以分割。而另一方面，该冲突的存在则是由于GPT-4确实至今在业界仍旧占据着技术上的引领地位。在AI大模型研发的竞争于世界范围内愈演愈烈的背景下，包括XAI的3140亿大模型Grok-1与Meta公司于前日发布的4000亿大模型Llama 3都作为开源大模型的代表，在各自的优势领域上对GPT-4提出了挑战。但挑战者始终是挑战者，作为闭源大模型“唯一王者”的GPT-4 turbo依旧在语言类大模型领域中占据着绝对的领导地位。作为放弃了商业导向，以公益性的数据获取和研发作为首要目标的开源大模型开发者，让其看着闭源开发者赚得盆满钵满的同时在技术上仍保持行业领先，心中属实不是滋味。

02
制度对开源与闭源矛盾的平衡

于是，在技术和经济性层面尚且不能解决开源大模型开发者与闭源大模型开发者间矛盾的情况下，法律制度层面率先提出了这一问题的解决方案。本次《示范法2.0》中对开源人工智能开发者法律责任的减免所进行的规定，在很大程度上向世界分享了具有我国特色的人工智能治理思路。首先，从《示范法2.0》第七十一条的规定中可以看出，所谓“开源人工智能的开发者”即针对以“免费且开源的方式提供人工智能”的主体，这一定义直接排除了盈利性的人工智能开发者。而对于非盈利的开源人工智能开发者实际上又通过第七十一条的两款规定分为了两类，即“同时以清晰的方式公开说明其功能及安全风险的”和“能够证明已经建立符合国家标准的人工智能合规治理体系，并采取相应安全治理措施的”，前者直接不承担法律责任，后者则可以对法律责任酌情进行减免。这一思路，某种意义上是对民事法律“谁获益谁担责”原则的体现，对于没有利用开发的人工智能产品获得利益，且已经对自研产品的风险充分完成了合规工作的主体，法律应当予以鼓励，故视其合规程度的不同，对其予以不同程度的责任减免。其次，《示范法2.0》并没有明确列举减免法律责任的类型，而是直接采用了“不承担法律责任”与“减轻或免于承担法律责任”的表述。这意味着对于非盈利的开源人工智能开发者，在其完成了自身合规构建的前提下，对其法律责任的减免范围是非常宽泛的。采用这种方式的规定，既是对开源人工智能开发者个人利益与其为科研领域公益做出贡献之间的平衡，也是鼓励其加强自身合规构建，在技术研发过程中充分考虑可能存在的风险，并就安全风险等对社会进行公开说明。

03
技术开源与AGI的未来生态

实际上，虽然闭源大模型能够通过对知识产权的保护吸引更多的研发投入，并利用这一优势进一步稳固其在行业中的领先地位，但开源大模型本身亦具有许多闭源开发者所必须割舍的有利条件。如开源的开发模式依靠社区构建驱动创新，其允许全球范围内对领域感兴趣的开发者共同参与开发，在模型训练和数据获取上本身即更为高效。再如对代码进行开源可以很大程度提高程序的灵活性和可定制性，并使大模型具有更高的可审计性，通过社区成员对源代码和参数的不断审查，能够更好地降低AI的安全风险，提高大模型的合规程度。此外，闭源开发的代码始终具有反垄断审查的风险，相关开发者往往难以解释其无意通过技术垄断，达到限制市场的公平竞争的目的。因此，在未来，采用开源形式的开发者在法律风险规避、自身合规构建等方面是具有相当程度的优势的。

04
写在最后

实际上，从当前AGI领域发展的角度上，单纯讨论利益的平衡，对于智力成果“私益”的保护某种程度上是应当向人类技术未来的“公益”作出适当让步的。当然，这种“让步”并非是损害开发者因智力成果而享有的相关权益，而是通过《示范法2.0》中提到的此类方式，通过权利与责任的平衡，促进人工智能开发者能够更加理性地选择适合自己的赛道，无论开源或是闭源，最终目标都是促进AGI行业发展，推动全球科技创新和经济增长。

作者| 旭阳

来源 | 零壹智库

从ChatGPT到Sora，AIGC不仅在技术上取得了重大突破，更引领了商业模式和产业生态的变革。

AIGC的商业价值正在逐步显现。从几家上市公司的最新财报，或拟上市公司的招股书中，可窥其一斑。

出门问问，一家即将在港交所上市的人工智能企业，其2023年的AIGC解决方案收入达1.18亿元，约占总收入的四分之一，且在过去三年间实现了超过300%的年复合增长率。

“AI第一股”商汤科技，2023年生成式AI收入达到12亿元，占总收入的35%，同比增长近200%。预计在2024年，生成式AI业务将反超传统AI，占公司收入的比重增至50%左右。

在金融垂直领域，百融云创的2023年财报同样展示了AIGC的强大动力，其由AIGC驱动的BaaS业务收入达到17.9亿元，约占总收入的三分之二，同比增长38%。

科大讯飞2023年度业绩预报也显示，预计营业收入超过200亿元，较上年增长约7%；预计净利润6.45-7.30亿元，较上年增长15%-30%。这一增长得益于公司在大模型、核心技术和产业配套上的持续投入。

生成式AI业务的快速增长，正在改变上述公司的营收结构，为它们带来新的增长极。 01 

新的增长极

4月2日，已通过港交所聆讯的人工智能公司出门问问披露的资料显示，其2023年AIGC解决方案收入达到1.2亿元，占总收入的23.2%。而在2021—2022年，相应的收入分别为682.2万元、3985.7万元，2021—2023年复合年增长率超过300%。

智能设备曾是出门问问最为重要的一块业务，其营收在2021年占到85.0%的比例，2022—2023年逐步下滑至39.4%和32.3%。

相应地，另一块业务AI软件收入则从0.6亿元增至3.4亿元，复合年增长率达140%，收入占比也从15.0%上升至67.7%。

在出门问问的业务划分中，AI软件业务包括AIGC解决方案和AI企业解决方案。前者虽然营收占比相对最低，但增长迅猛，在与第一大客户大众汽车的知识产权协议到期后，有望成为主要的营收来源。

再往前，3月26日，AI领军企业商汤科技发布2023年财报显示，其生成式AI收入达到12亿元，占集团总收入的35%，同比增长近200%。这是公司成立十年以来，以最快速度实现从无到有，取得10亿元以上收入的新业务。

据悉，生成式AI业务中超过70%的客户在过去12个月内是商汤的新客户，而剩下30%的存量客户的客单价也录得约50%的增速。

2023年，商汤科技明确了新的三大业务板块：生成式AI，传统AI和智能汽车。商汤预计，生成式AI业务将在2024年反超传统AI，占公司收入的比重将增至50%左右，逐步成为核心业务。

为金融机构提供精准营销和智能风控服务的百融云创，也交出了几份不错的财报。

数据显示，2023年上半年由AIGC驱动的BaaS业务收入达到8.12亿元，占总收入的65.3%，同比增长36%；2023年全年，对应的收入则为17.9亿元，占总收入的66.7%，同比增长38%。

科大讯飞在人工智能赛道上深耕了20多年，其AIGC布局也较早，但没有专门披露AIGC相关营收。科大讯飞声称，“讯飞星火认知大模型”的发布对AI智能硬件销售的增长产生了显著推动作用。

业绩预报显示，科大讯飞2023年营业收入将超过200亿元，较上年增长约7%；预计净利润6.45-7.30亿元，较上年增长15%-30%。

从更广的视角来看，在AI领域持续大额投入多年，吃到生成式AI红利的百度、微软等巨头，以及“AI卖水人”英伟达，它们的业绩同样亮眼。

2023年是百度发力生成式AI的一年，其营收和利润均超预期。财报显示，百度2023年营收达1346亿元，同比增长9%；净利润287亿元，同比增长39%。

微软联合OpenAI引入生成式AI技术，智能云四季度收入258.8亿美元，同比增长20%，超过微软大盘。而得益于AI芯片需求暴增，英伟达2023年营收猛增265%，利润飙升769%。 02 

锚定业务场景

通用大模型群雄逐鹿，各大科技公司纷纷投入巨额资金以争夺市场的领导地位。它们在意的不是一城一地的得失（短期或者单项业务的盈利），而是未来的相对优势甚至赢者通吃。

这场竞争不仅仅是资本的较量，更是技术创新和业务应用的深度融合。以阿里为例，它投资了国内估值超过10亿美金的5家头部大模型创业公司，同时推出自己的“通义”系列产品，阿里电商、阿里云、钉钉等重要业务均集成了多种先进的大模型技术。

阿里没有披露与AIGC相关的业务营收或增长情况，但其部分投资以算力形式支付，即在投资协议中明确一定的额度用于购买阿里的算力，从而实现与被投公司的算力绑定。

相对而言，微软、百度和腾讯在基于AIGC的云业务或广告场景上，有明确的增量收入，或许可以提供一个参考。

微软CEO萨提亚·纳德拉透露，超过1.8万家公司正在使用Azure OpenAI服务，其中包括以前从未使用过Azure的客户。云计算产品Azure的收入增长，也有不少来自微软提供的GPT 4入口。

光大证券预计，2024—2026财年，Azure OpenAI收入将分别达到服务器产品和云服务收入的6.4%、9.8%、11.0%。

2023年Q4，百度智能云总营收84亿元，其中大模型为云业务带来约6.6亿元增量收入，这意味着约8.5%的增长率。百度还披露，其文心大模型重构后的广告系统也带来数亿元增量收入。

腾讯在2023年三季报也首次披露混元大模型为业务增收的效果——促进广告收入同比增长20%至257.2亿元。

前述几家公司中，出门问问的AIGC解决方案主要针对内容创作者，包括三大类产品：AI配音助手魔音工坊及其海外版DupDub；AI写作助手魔撰写作；AI数字人奇妙元，可提供一站式AI视频生成和虚拟直播解决方案。

出门问问官网显示，其AIGC解决方案合作品牌客户较广，包括抖音、快手、中国移动、中国电信、微信读书、工商银行、京东科技、江南布衣、Oracle等公司。

商汤科技的生成式AI建立在其“日日新”大模型体系之上，应用领域较为广泛，在金融、手机、医疗、汽车、地产、能源、传媒、工业制造等众多垂直行业，已与超过500家客户建立深度合作。例如，中国银行、招商银行、工商银行和上海银行等金融机构已采用日日新大模型，以构建其“数字员工”和“数字客服”系统。

百融云创的BaaS金融云，以交付KPI的模式获得佣金收入，促成的资产交易规模再创新高。

2023年，金融行业云撮合资产交易规模531.30亿元，同比增长93%；保险行业云促成总保费规模33.30亿元，同比增长56%。

BaSS金融云并非纯粹意义上的AIGC业务，而是以决策式AI进行用户筛选、再以生成式AI的智能语音机器人等工具触达客户。基于成熟的技术和业务，百融云创近几年业务向好。

从披露的信息来看，无论国内还是国外，大厂目前的AIGC营收主要来自云计算及广告，基础设施占了大头，且体量较小。

在部分TO B场景上，AIGC商业化落地效果显著，但基本都是建立在公司先前的资源或技术之上。没有长期的投入，就不会有奇迹。 03 

“大力”出奇迹？

人工智能属于典型的技术密集型行业，研发周期长，前期投入大，且需要持续不断的迭代，以适应市场需求。这也是绝大多数AI企业持续多年亏损的重要原因。

以商汤科技为例，2018—2021年研发投入分别为8.5亿元、19.2亿元、24.5亿元和36.1亿元；占营收比例分别为45.8%、63.3%、71.1%和76.9%，节节攀升，2022年甚至高达105.0%。

2023年上半年，商汤科技的研发费用17.8亿元，占营收比例的125%，继续走高。不过，2023年全年研发投入34.7亿元，同比下降了13.7%。

六年研发投入超过163亿元，累计亏损高达500亿元，不过近两年亏损有所收窄，均在60亿元左右。商汤AIGC的高增长建立在高投入之上，从体量上看，远未到盈利期。

再来看一下出门问问，其生成式AI业务起步也较早。2020年。出门问问开发出能够理解并生成文本的UCLAI，2023年在此基础上推出升级版“序列猴子”。后者除文本之外，还能够生成图像、3D内容和语音以及语音识别，具有利用更多数据训练及处理更复杂任务的能力。

2020—2023年，出门问问的研发开支分别为0.97亿元、0.92亿元、1.19亿元和1.55亿元，最近两年都在1亿元以上，且保持着30%左右的增幅。2023年研发投入占到营收的30%以上，但绝对数值依然很低，相对于市场上动辄数十亿的大模型训练成本，似乎不值一提。

出门问问在2022年扭亏为盈，当年经调整后的净利润为1.09亿元，2023年继续保持盈利，经调整后的净利润不足2000万元。

资金捉襟见肘，出门问问主打“小而美”策略，选择了一个相对容易变现的方向，专注于内容创作，同时为C端和B端用户提供服务。

数据显示，其付费用户及企业客户数量持续增加，已有超过900名累计注册用户和84万名累计付费用户。

不过，当前各大厂商及AIGC初创公司推出了多款免费好用的内容创作工具，用户的选择空间较大，出门问问的业务是否还能保持高速增长，需要打一个问号。

百融云创在技术上更注重于为具体业务服务，发布了多个大语言模型，包括适用于金融垂直场景的BR-LLM和适用于自动编程的BR-Coder，以及搭建大模型应用一站式开发平台Cybertron，最新的研发则瞄准低成本私有化部署的AI大模型、智能语音等B端应用。

2022年，公司的研发支出为3.7亿元，同比增长47%，占当年营收的18%；2023年研发投入继续小幅增长到3.8亿元。百融云创的研发投入规模持续提升，累计已达18亿元。 04 

展望

麦肯锡报告显示，生成式AI有望为全球经济贡献约7万亿美元的价值，而中国将贡献约2万亿美元，占全球总量的近1/3。

IDC也预计，到2027年，全球企业用于生成式AI解决方案的投资将达到1430亿美元。

生成式AI的未来毋庸置疑，但这个市场远未爆发，B端商业化逐步落地，C端才初露端倪。

人形机器人第一股优必选副总裁钟永认为，随着机器人与大模型的融合，未来C端的需求会有所增长。

在市场真正爆发之前，AIGC能赚钱吗？