腾讯道歉了，修改了腾讯元宝中的用户协议。霸王条款！我们使用的各种AI工具中，到底还有多少虎狼之词藏在里边等着我们？

大家好，欢迎收听老范讲故事的YouTube频道。首先，咱们先来看一看腾讯元宝原来的协议到底是怎么写的，这个律师的词语到底有多么犀利。

“您授予腾讯公司及其关联方一项不可撤销、可转让、可分许可、再许可的非排他的、无地域限制的、永久的、免费的许可使用权，以使我们对您上传内容以及本服务器生成内容进行存储、使用、复制、修订、编辑、发布、展示、翻译、分发上述生成内容，或制作派声作品等。使用包括但不限于模型优化、学术研究、市场营销、用户调研，以改善本服务及或腾讯的产品。”

我天，这句话念完了以后差点没憋死我。你们听完了以后感觉如何？什么叫分许可、再许可？就是你许可给我了，然后我把它分拆了以后给别人了，再去对别人进行授权，这都是可以的。还要无地域限制的、永久免费的，等于一把就把甭管是我上传的内容、写的提示词，还是他给我生成的内容，全都授权给他了。而且使用呢，不限于模型优化、学术研究、市场营销、用户调研，我想拿它干嘛干嘛。

整个这一份写下来就是：你的是我的，我的还是我的，我想怎么弄怎么弄，弄完了以后，我想拿它去干嘛干嘛。而且你是永久授权，还不可撤销，还免费。当时大家看完了就炸了，引起轩然大波。

其实腾讯并不是头一个这么写的人，只是呢，别的小公司干这个事没什么人在意，大家基本上都是这么写的。而且腾讯这个写的其实还不是最过分的，有的是写的比他还过分的。但为什么到腾讯这就不行了呢？谁让你是腾讯呢？不是有小说网站、有视频网站、有微信、有公众号，还有这么多游戏，从上到下没有什么东西是你不干的。那你写出一个这样的许可协议来，肯定是很瘆人的呀。

这个事情最早发酵，我记得是小红书上有篇帖子上说：“我再也不敢用元宝去给我的小说校正错别字了。”像我们以前看网络小说，上面各种错别字是很多的。

但是，你现在有了大模型之后，哪怕说我不让他写小说，你让他帮你稍微的润色一下，还是很方便的嘛。那现在润色完了，所有东西都归他了，这个就没法整了。腾讯的律师呢？你说怎么就这么狠？人家肯定也是做了功课的，别人都写得很严厉。如果我写得很松散的话，会被同行笑话的，而且呢也容易被腾讯内部的其他部门所攻击。

像我们以前去写很多协议，让法务部去改，那个特别有意思。我就觉得好像我们每一次协议，法务部都会改。没有修改意见下来的话，就感受到他们好像没干活似的。但是每次改呢，肯定是越改越严，没有哪一次说改完了以后变松的。因为对于他来说也很简单，你如果不层层加码，出了问题以后算谁的？你说，我发现你这个写的太严厉了，我给你把改的稍微松散一点点，那下次出事了以后，你可以说谁让你给我改松了的？出事了需要去进行诉讼，结果你里头有一些细节没有写对，他就会出现这样的问题。所以他们一定是越改越严。

原来疫情期间为什么往下走的时候，政策都会层层加码？因为你往下走一层，如果他给你放松了一点点，出了事算谁的？这是一个责任必须到人的一个社会，所以腾讯只能是在这个基础上，一层一层加码加下去。那为什么说他还不是最过分的呢？稍微还要点脸。那谁更过分一点？咱们看看360纳米搜索的用户协议，这个要更过分一点。上面写的360及其关联方、合作方，对用户上传、发布的任何内容，在全球范围内享有永久的、不可撤销的、免费的非牌他的著作权利，邻接权利，即对上述权利转授权的权利。同时，360会以用户的账号将其发表自动同步至360运营的其他产品和网站，并且360有权以用户或自己的名义对侵犯前述内容的知识产权之行为进行维权。

大家觉得好像差不多呀，永久免费、不可撤销全是这个。你光看这个了，咱们看看里边的细节。第一个他已经说了，说360是拥有著作权利的邻接权利，以及对上述权利的转授权的权利。腾讯这里头只是说唉，我把你这东西存了。

我可以拿去干什么事，但是并没有说我自己有注册权。第二个真正吓人的地方来了：360会以用户的账号将其发表，自动同步至360运营的其他产品及网站。他替你去发表了，还没有经过你同意。同步了以后还告诉你这是你说的，这个是非常非常吓人的。因为像我们知道，就是我们去说了什么话的时候，一定是有一定的适用范围的。我知道这是我自己在偷偷家里说的，出了家门我是不认的。但到360这儿，别，你只要是在360这用过的东西，我就用你的账号给你发表出去了，还不是用360的账号，我是用你的账号给你发表出去了。这个还不是最过分的，最过分的是最后一条：360有权以用户或自己的名义，对侵犯前述内容的知识产权之行为进行维权。下回他不需要经过你的授权，还可以以你的名义帮你去维权了。我帮你打官司了，你是一个原告，然后你压根都不知道，我去给你打官司了，然后输了赢了这人算谁的？360打官司其实是输的挺多的，他都把这些权利留在自己手里了。

但是，360这个事，为什么没有引起特别大的反响呢？大家也都知道，他是一个什么样的调性的公司，所以他写出什么来，大家见怪不怪了。而且360本身的用户量、影响力比腾讯还差远了。360自己至少没有什么小说网站，没有什么视频网站，这都没有吧，也没有微信这样的大杀器吧，所以他就写成这样了，大家就凑合了。但是到腾讯这不行了，你写的什么各种什么永久不可撤销、再分发什么这些权利，大家受不了了。别人怎么干没事，腾讯不行，你不能这么干。盯着他们的律师和竞争对手是非常非常多的，包括像360这样的公司，如果发现腾讯写了一个很二的用户许可协议，他也会出来踩两脚的。别看他自己那个写的更过分。那么腾讯翻车了，这个事情本身也是有一定传播性的。我现在出来说，360写一什么东西翻车了，大家说这不正常吗？这有什么问题吗？但是你说腾讯写了这么一个特别流氓的东西翻车了，我得瞅瞅他们干啥了。

他一定是这样的一个事情。最终呢，腾讯修改了两次，还出来道歉了。第一次修改呢，是去掉了“永久”和“不可撤销”。大家注意这个，“不可撤销”这件事它是违法的。因为很多的国家地区，包括咱们这儿，好像都是有这样的权利要求。我们可以去向这些社交媒体，或者是这种信息发布平台，去要求撤销，或者永久删除我们要求的一些内容。只要这个内容确实是我发布的，我都是可以去撤销的。你如果把这个“不可撤销”放在上面呢，他就违法了。所以他第一次把这个“永久”和“不可撤销”去了。

然后呢，发现舆情并没有消退，大家还在看他的热闹，赶快在同一周之内再做了一次修改。这一次呢就宽松很多了，只有用户参加了体验优化计划，才相当于是授权腾讯来使用内容。实际上就是他要拿你的内容，去训练大模型去优化模型，要干这个事。如果你不参加这个体验优化计划的话，他就不做这个事。其实我们现在用这个grok，或者是用很多的国外的模型也是如此的。你需要在上面去确认说，我要参与这个项目，你才可以用我的内容去微调模型。如果我不参与的话，你不可以做。

但是呢，腾讯呢比国外这些公司做的还稍微好了那么一点点。什么呢？因为国外很多的公司是你默认参加的，而这个腾讯呢是默认不参加。你要在一个地方去打勾，选中了以后，你才可以去参加这个体验优化计划。其实你的内容后边它到底怎么用，这个事谁也说不清楚。因为你一旦进到他的服务器里以后，那是个黑匣子。你就算想诉讼他，在中国都是很难的事情。

但是呢，至少从文字表面上，腾讯这次呢既然被人骂上热搜了，咱们好好的调整一下，把这个事情改的稍微的宽松一些。那你说有没有相对宽松一点的用户协议呢？也是有的。豆包的呢要稍微好一点点。豆包的写的是：“为了提升你使用本软件及相关服务的用户体验，使你的内容得到更好的分享与推广，你授权公司和或关联方一项免费的、全球范围内的、可转让的、可分许可、再许可的使用权，在法律许可的范围内使用你的内容。”

例如，用于模型优化、品牌推广与宣传，稍微呢看着柔和那么一点点。但其实我们应该说它是相对比较模糊的。他也是告诉你，你是要授权给我的，而且是在全球范围内。大家注意，你一旦写全球范围内这个事呢，中国也有互联网的数据安全法。你凭什么把中国用户的信息在全球范围内使用？这个事跟中国的数据安全法其实也是相违背的。像刚才我们看的腾讯的用户协议跟360的用户协议，都是要求在全球范围内。为什么会写这样的话？我万一用到国外去了，你告我这事，我先给你写着以防万一。但这句话其实也是违法的。你要到其他国家，你干这个事马上就被人告了。人家都是要，我的内容必须在本国服务器存储，不可以放到其他地方去。如果你要想把本国的内容放到其他地方去的话，那你是需要干嘛呢？需要去申请，还是需要经过同意的？而且这个申请过程非常非常的难，基本上过不去的。

还有一些，比如说DeepSeek，它是怎么写的呢？用户保留在提交的输入中拥有的任何权利、所有权和利益，并将服务输出的内容的任何权利、所有权和利益归属于用户。此外，还明确了用户可以将本服务输入输出应用于广泛的使用场景中，包括个人使用、学术研究、衍生产品、开发、训练、其他模型如模型蒸馏等。DeepSeek可是最松的，为什么？他们开源的。你一旦开源了以后，人家拿你大模型当你干嘛去，其实你压根管不着人家。所以他很明确的跟你说，你自己的输入输出中也都是归你的，你愿意拿它干嘛干嘛去。而且很明确的写出来，你想拿我这个输出内容再去做蒸馏再去干别的，都可以随便。这个呢，就跟OpenAI的用户许可协议形成了鲜明对比。OpenAI说了，你拿我的结果出去做蒸馏，我们是不允许的。但是DeepSeek说，随意，大家拿去玩耍吧。但是咱们要注意，DeepSeek呢是有两套的。一套呢，是他开源大模型出来，还有一套是什么呢？就是他自己的网站，Deepseek.com那个官网。

以及呢，Deepseek的这个APP在这块呢，Deepseek是保留了相当权力了。为什么呢？这个里头有一个内容审核和合规的问题，这是一个底线。你在中国运营，政府是有合规要求的。而且中国政府对于这样的AI大模型，或者是对公众服务的这种叫AI助手吧，它是按照对公众服务的社交媒体平台的方式去管理的。所以呢，你在这个上面产生了什么特别奇怪的内容，它就给你过滤掉了，你根本看不到。但是你在这边问了一些很奇怪的问题的时候，它是要保留下来的。如果政府需要去审查的话，他们会毫不犹豫地把你提交的内容拿出去审查。这个是所有对公众提供服务的AI助手，包括API的云端平台，都是要去遵守的。这是中国特殊要求的，其实各个国家应该都有，咱们这可能合规上要求的稍微的严苛那么一点点吧。

那么，AI时代内容的版权边界呢，本身其实是很模糊的。输入的提示词到底有没有版权，到底算谁的？按道理来说呢，输入提示词因为是我打进去的嘛，应该是我拥有版权，拥有著作权的。你如果要想使用，你必须要跟我商量，要得到授权，而不是说我打开服务了，你把这个提示词啪一个回车打进来了，那这东西就归我了，不能这么讲。AI生成的内容到底有没有版权，这件事呢其实全世界还在争吵过程中。按照中国的著作权法呢，AI生成内容是没有版权的。中国著作权法就是，这个事必须是人创造的过程，才是可以申请著作权申请版权的。如果没有人创造，只是你输入了提示词，人相当于是一个辅助的状态，我们提供了一些咨询，但是由机器生成的内容，那么这一部分呢，其实是没有著作权的。但是现在有些判例又维护了这样的著作权，就是国内也有些判例，你用AI生成的这种图片，他认为你依然是有版权的。所以现在这一块呢，应该是在一个比较灰色的地带。没有版权这个事怎么保护呢？我觉得保不保护这个事呢并不重要，因为有AI以后，你不需要去抄袭别人了，你直接让AI生成就完了。

所以，版权未来可能并没有那么重要。真正重要的会变成另外一个东西，是什么？谁承担责任？我说了一些话，或者是生成了一些图片，我伤害到别人了，或别人觉得我看着不舒服了，这个责任到底是谁来承担？如果我没有版权的话，那这事肯定不是我承担。这东西是AI大模型生成的，那个图片也是AI大模型画的，这跟我有啥关系吗？我只是提供了一个辅助而已。那这事行不行？这个其实是未来可能更多需要去思考的问题。内容生成平台、内容分发平台的责任到底应该怎么划分？这个也是现在需要想的事情。

现在，各个小说网站的编辑们都已经疯了。为什么呢？DeepSeek到底能干嘛？别的事情咱不好说，但是DeepSeek写小说这个事，效果还是可以的。原来这些编辑们，只要是看一下这个小说还可以，然后维护一些作者，甚至你还还需要出去抢作者，还要让大家定时更新，给大家发全勤奖。现在不用了，DeepSeek写的小说已经把他们淹没在滔滔洪流之中了。大量的小说冲上来，你都看不过来。我告诉你，阅读的速度绝对没有DeepSeek写的速度高。一帮人都是拎着各个平台的DeepSeek在那写小说呢。每一个编辑都要去思考，说这玩意到底能不能上架呀？这个里头有没有什么问题？而且DeepSeek写小说这事，原来我们试过比较百无禁忌，对于编辑来说，这就变得非常非常麻烦了。

编辑为什么要每一本小说都看呢？这个又是一个中国特色。所有上线内容必须经过人工审核，而且是责任到人的。我原来是盛大上班嘛，盛大文学的运营成本是非常非常高的，极多的编辑。那些编辑也很神奇，他们那个阅读速度极快，可能一两百万字的小说，对于他们来说半天都看完了。但是你即使如此，现在DeepSeek生成小说的速度也不是他们能够去审核的完的。哪些小说出了问题了？哪些小说写了一些很奇怪的话了？他们都得要负责任，不能说我看都没看，一摁确认就上线了。中国按照社交媒体平台的标准来管理AI助手。

那么，太多不能说的、不能碰的东西在里头。因为很多东西，这些编辑自己都搞不清楚到底能不能说、能不能碰。特别是一些比较年轻的编辑，比如90后，甚至有00后。90年之前发生的事，他们还没出生呢，他咋知道该忌讳啥？他也不知道。就很多这样的问题就会出来。有些东西呢，可能小范围内可以说，一旦传开了，或者是遇到某些特定事件，就会爆雷。比如我今天说了没事，然后等过一段时间，发生了一个很巧合的事情，人说：“你，你当时说这话什么意思？”你不能去跟人解释，说我当时说的时候也没想到后边会出这事。没人听你这解释，责任到人，一层一层抹到底完事。这个事情在国内还是很多的。

开源模型呢，会稍微的松散一点点。开源模型协议通常只规定模型自身的权利，你到底能不能用。比如像Llama，他规定说你可以拿去用，但是呢，超过多少用户以上的，你不可以拿去用。这个里头能够达到这个要求，还想用它模型的，大概只有字节跳动一家。这个也是深深的怨念，大家可以感受到。有些模型就规定了，说你拿我这个模型去使用没毛病，但是呢，你要说明你确实用了我的模型了。你不可以拿我的模型去训练竞争对手。也有人写这样。他们对于输入输出内容呢，通常是不负责任的。虽然Llama三以后，它也是有一定的安全性的。DeepSeek呢，也是有一点点安全性，只是不那么高而已。在这种情况下，你甭管输入什么东西，输出什么东西，甭管是Meta还是深度求索，概不负责。因为你在自己的服务器上跑，我都没看见你到底输入输出什么了，那这事我咋负责任嘛？没法负这个责任。

这个里头呢，就有一个灰色地带，是谁呢？就是开源推理平台。他们就比较麻烦了。比如说像国内的硅基流动，国外的Together，它就比较费劲了。这个模型是开源的，你在平台上部署了，你也收了钱了，那你如果吐出什么虎狼之词，你得负责任。我输入的所有信息，你也得负责任。万一政府说来：“你给我查一查，老范讲故事在你们硅基流动平台上，都输入了一些什么信息？”

你给我查一下，他也得拿得出来。所以在这块呢，稍微有一点点麻烦。他们是需要对输入输出的内容去负责的。那咱们呢，讲到这了，大家也知道，这就是一个时代发展过程中的阵痛。大家还是要在版权责任之间，去寻找一个新的平衡点。

那咱们回过来说，律师的这种文笔到底是怎么练出来的？刚才咱们看到这个文笔，是不是觉得脊梁沟发凉，凉气噌噌噌往上冒的这个感觉？律师呢，向来都是搞这种威严大义。看他写的文字来说，每一个字都认识，拼在一起不知道什么解。他有时候会出现这样的问题。他们有一套自己的遣词造句方式，用最简洁的语言获取最大的利益。

像刚才我们讲的什么分授权、再授权、永久有效，什么永久免费不可撤销，什么全球范围内，这个都是他们已经写习惯了的这种词语。而且还有一点什么好处呢？就是当他写这种简单易懂单词的时候，你就看一眼就过去了，压根没想明白，我到底授予了他什么样的权利。像360那种说，我有权利替你用你的账号去发布，我还有权利用你的名义去诉讼别人，这个多么吓人的一个事情。

律师之间的也是天下文章一大抄。就是很多东西呢，他们也不会说，我自己一拍脑袋就想。我们见过的很多律师都是说，我要看看别人是怎么写的。我相信呢，腾讯元宝去写这个授权协议的时候，也是如此的。因为他出的最晚嘛，别人都是早早就把东西拿出来了。那他最后一个出来，那肯定要看一下别人家是怎么写的。没准他还想着说，你看我还提升了一些自由度，我还给你放了很多权利。他会这样去想问题。

而且律师呢，写这种协议条款的时候，他们有一个很坏的习惯，叫做江湖越老胆子越小。这事怎么解释？就是他需要去应对各种各样的极端情况。你比如说吧，他前面写了说，我可以授权再去海外使用，我要在全球范围内使用。那他一定是见过某些案例，虽然这种案例发生的几率非常非常小，可能多少年就那么一次，但是他记住了。等到下一次再写的时候，一定要写上去。像我们以前写协议的时候，经常跟律师吵架，他就会语重心长的跟你讲。

哎呀，这个事你不知道。原来出过事情的谁谁谁，某一年就类似这样的一个案例，有这样的判例下来。以后的话，后来我们都加，所以他们的很多文字是这么来的，就是应对极其低概率的极端事件。而且现在呢，还有一个帮手，是谁？AI。你让DeepSeek给你写一个这种条款，你看看他写的也是这种风格，因为很正常嘛，他学就是用原来的这些律师文档去学的。

那么未来展望是什么样的呢？现在呢，是真的信息大爆炸时代了。原来我们都讲互联网信息大爆炸了，但是你在一个信息生成的AI平台面前，或者整个的一个AI行业面前，以前的那些信息大爆炸，都是小巫见大巫了。现在那个信息量，绝对是大家无法想象的。写小说原来一堆作者在这吭哧瘪肚的写，这些编辑还可以去应对。现在好了，我们只要给几句提示词，DeepSeek也好，grok 3也好，就大段大段的往外吐文字了。甚至很多人在小红书上，在抖音上就开始分享，说我怎么一天写100万字出来。起点中文腾讯文学上，日更4,000算是及格的，日更8千，你很厉害，日更一万二，神呐，现在都是日更百万，你这受得了吗？而且这百万还跟别人不重复，那这个你让编辑何以适从，完全没法弄。所以这是真的信息大爆炸了。

在现在这个时代呢，原来的版权法案和相关的法律肯定都会崩溃，这个是没有任何办法。你说这个东西有版权，那个东西有版权，不需要洗稿就完了。字节跳动原来是想把今日头条这个产品弄到国外去的，后来放弃了。他们当时弄出去的方式是什么？就是洗稿。CNN现场有记者去报导了，找一个西方，一般是在东欧这样地方呢，用英语把这个稿件重新写一遍。这个就是网络媒体或者网络自媒体供稿。人家说，我们据传怎么怎么样，也不告诉你是从哪来的。至于说你这个CNN的记者，BBC的记者，跑到前线去做一线报导，那这个成本就不见了。我也不需要去给你买版权，我直接去引用这些自媒体就完了。这样他就不需要再去向这些大的媒体去买任何的版权了。

你也没法去纠正我，为什么？我这个确实是从自媒体那引用的呀，不是从你那去抄的，或者我机器洗的，都不是。那是个真人，只是这个真人可能呃，跟他之间有一些服务协议。人家说，我们也不叫服务协议，我们也不是说我给你签个协议，你给我写稿。他们叫什么呢？他们叫自媒体激励计划。你把这个稿写完了以后放到我这来，我按照公开的自媒体激励计划，你这个文章写了多少了，更新的很勤快，我就给你钱，我给你补贴。他用这样的方式来去进行洗稿。那现在大家就可以AI洗稿了。那在这种情况下，你说这版权法案到底怎么去保护？完全就是扯淡了嘛。未来真正需要去制定的法律，不再是保护版权了，而是什么呢？合规、追责。第一个，你说的话是不是合规？这个其实不光是中国有这样的问题，全世界都有这样的问题。你到美国是不是有种族歧视，是不是有暴力伤害什么？这个东西他也是要去逮的。而且性骚扰什么的，他比中国逮的还严。咱们还可以讲个黄笑话呢，对于他来说你讲个黄笑话，还直接可以me too就可以告你了。这个事情其实是现在全世界都在头疼的问题。因为前面社交媒体平台就耍了个花招，说我只是提供一个内容分发的平台，内容不是我产生的。如果你觉得受到伤害，你告诉我，我把他删了就完了。剩下你该起诉谁起诉谁去，你别找我。原来是走了这么一个协议，让社交媒体直接发展起来了。但是现在呢，这个里头有写提示词的人，这个是个人，有生成内容的是大模型厂商，还有传播内容的，比如说抖音，TikTok，Twitter，YouTube，还有这种就是在转发内容的人。这个里面呃还有推荐算法，还有什么生成算法，一大堆这样的事情。这个责任到底谁担？这个是未来，大家真正需要去思考的问题。所以在未来大家不要再去想版权的事情了，多想一想如何去划归合规和追责的问题，这才是这个AIGC未来对于内容责任权利的一个正确的打开方式。好，这一期就跟大家讲到这里，感谢大家收听，请帮忙点赞，点小铃铛。

参加Discord讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

Llama3.1 405b突然开放，指标上全面超越GPT-4。中国厂商们是不是又可以充了呢？大家好，这里是老范讲故事的YouTube频道。今天咱们来讲一讲Llama3.1 405b 开放的事情。

Llama的开放，每一次都比较有戏剧性，都会有偷跑。什么叫偷跑？就不是由官方开了发布会，说我今天发布了一个什么产品，而是一般都是在Reddit这样的论坛里，突然就有人放出磁力链来，大家可以去BT下载Llama3.1 405B，包括Llama3.1 405B相关的各种测试数据，都是这么被发现的。头一天偷跑了以后，第二天梅塔说那算了，我开了吧。当时好像Llama2也是这么开出来的，现在Llama3.1 也是这么偷跑，完了以后就正式开放了。

他在跑分上已经全面地超越了GPT-4，基本上在各个指标上都超越了。这是非常非常难的，因为以前大家推出的各种模型里头，都是在个别指标里面超越GPT-4O或者超越GPT-4。那么在各项指标上全都超越的，这应该是第一次。当然了，它也是分很多版本的，分为8B、70B以及405B这三个版本。405B已经完全超越了，下面小一点的8B，应该比原来的Llama370B的效果还要再好一些。它的70B基本上针对前两天发布的GBT4OMINI，属于碾压状态。

Llama3.1 现在支持8种语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

这个里面没有中文啊，不用他们担心，中文我们自己会搞定的。这就是他们现在发布出来的模型，上下文窗口呢，从8K直接涨到了128K。Llama3是8K的，啊，现在Llama3.1 就直接128K，但是我还用不上，为什么呢？我想要去用这个Llama3.1 的，啊，405B这样的模型我肯定没法在本机上用，这玩意你肯定还是要很多的显卡，才可以把它刨起来的。所以一定是云端，用这么大的模型，你要给它这么长的上下文的话，通常那个压力是很大的。

所以现在我去看到的，比如像together AI上面的Llama3.1 的模型，里面啊，应该是8B的和70B的给的是32K，405B只给了4K，就是你超过4,400以上他就不干活了。超过了以后，我估计就会变得非常非常贵，工作的耗或者工作的成本就会变得很高。所以我现在能够用到的Llama3.1 ，405B只能是4K的，就是上下文4K。405B呢，也是Llama系列的第一个支持多模态的大模型，原来的都是纯语言模型，现在可以支持多模态了。

但是怎么说呢，如果只能用到4K的话，多模态意义不是很大，你塞不进去东西去。这还要看未来，是否有人愿意开放完全上下文的这种Llama3.1 的模型给大家去使用了。Llama到底算不算开源，对吧？我们刚才讲他开源开出来了，Llama是不是开源这件事情呢，也是有一定争议的。开源这件事情并不是说我把所有东西都开出来，你就随便去用就叫开源。

开源本身是一个在法律框架下，遵守一定的开源协议的商业模式。这个东西是要收钱的，大家可以去规定说我开哪部分，不开哪部分。当然了，也有一些原教旨主义者，他们其实是开放软件的一帮推崇者。他们认为Llama不算开源，为什么呢？

第一个，Llama只开放了部分代码，并没有把所有的代码都开出来；第二个，只开放了模型和参数，没有开源训练数据和完整的训练过程。如果是开放软件，这些东西都应该拿出来。而且只开放使用，他对使用还是有一定限制。开放软件这帮人说，你要叫开源，就得把所有的权利都拿出来，不能有自己任何权利保留。

这个是Llama在这块有一点点的小争议。对于Llama来说，它到底是限制了什么？在使用上，你说大家都下载了，都去用一下，我在本地上也下载了，它到底限制什么呢？

第一个，他不允许用Llama3训练新模型。这也很有趣，实际上现在国内大量的新模型都是拿Llama去训练的，但他这个是不允许的。第二个，用户超过7亿的，需要单独向梅塔申请。这其实就是针对中国的，全世界的公司里头，用户量超过7亿的，除了美国的那些之外，剩下的基本都在中国。他现在也有要求说我已经设置好了，超过7亿都不行。

但是，这个都属于叫君子协定。什么叫君子协定呢？就是我不告你，你也没办法。如果算告的话，可能也很麻烦，你去取证，做各种各样的法院诉讼的过程都会很长。但是，从道德制高点上来看……

他已经站在上了。你比如说，用户量超过7亿，还拿他去训练模型啊。假设是字节跳动吧，对吧？那个用户量肯定超过7亿了，而且跟美坦直接竞争啊。如果字节跳动拿着梅塔的Llama3去训练自己的模型了，这个事情对于Llama来说，他是可以告你的。

另外一个超过7亿用户，还去训练自己模型的是谁呢？天问啊，闻心眼，百度啊，都是在这个范围内。那么，Lama呢？如果不是走这个原教旨主义的判别标准的话，它算是开源的。但是，按照原教旨主义的标准来判定的话，它也算是个假开源吧。甭管是不是真的开源，但是Llama现在已经开始从开源受益了。很多人搞不清楚开源这事到底咋挣钱，正好趁着今天Llama3.1 405B的这个项目，来跟大家讲一讲开源到底是怎么盈利的。它为什么是一个商业模式啊？不是雷锋。

现在呢，Llama已经让时代的车轮滚滚向前，停不下来了啊，肯定是往前滚滚过去了。那些号称使用开源就是交智商税的CEO们，应该会在车轮下发出悲鸣了。Llama在Llama1、Llama2、Llama3到现在的Llama3.1 之间，一直在这开源模型里头是扛鼎的。他是做得最好的一个，做得最大的一个，其他人就会跟着他去做。对吧？我会在Llama的基础上进行微调。我在Llama的基础上准备微调Llama的数据，准备微调Llama的各种指令集，或者说准备使用Llama3微调一个什么呢？微调一个多模态的模型出来。前两天，斯坦福大学抄袭清华大学的那个模型，就是拿Llama3微调的多模态模型，还有很多人在Llama3的基础上……

去微调上下纹，让上下纹变长。所有的这些，你没有发现吗？就是从Llama3到Llama3.1 之间的这些变化，波太了啊，成上下文了。再加上什么？再加上各种各样的开源数据集，以及开源的指令微调数据集的参与训练，就从Llama3变成了Llama3.1 。它等于现在成为了一个潮流的标志，所有人做的这些数据也都是开放的。这些数据在哪呢？在HIKING face上啊，HIKING face上存了非常多的这种兼容Llama3格式的数据，兼容Llama3格式的指令微调数据集，以及各种各样的用Llama3已经微调成功的新的模型，甭管是长上下文的，还是多模态的都有。

好，现在Llama3说来，我把你们都收下来，我也开放了，你们也开放了，我收下来，然后我再把Llama3再重新训练一下，再把剩下的参数都堆进去，啊，堆一个405B出来，4,050亿参数啊，直接推出来。所以呢，他这个开源真正盈利的方式，大家听懂了没有？这两个字啊，叫做标准。Llama是通过成为标准，让所有在做大模型开源的人都依附于这个标准。这不是强制标准，这个是事实标准，大家依附于这个标准，然后做出生态来，整个生态的价值提升了。

Llama3直接把Llama3基础上的这些开放数据拎回来再去训练，就变成Llama3.1 。Llama3.1 出来以后，一定还会有很多人再在这个基础上，再去做大量的新的数据，再去微调，让Llama3.1 可以去适应更多的场景。那么是不是就快该有Lama 3.2了？就是开元战胜必元，或者开元。

整个的盈利方式就是这样。第一个叫做标准，事实标准；第二个呢，叫做生态。这两个东西一起往前走的时候，整个开源的系统就会快速地超越闭源系统。

很多人在讨论，开源到底便不便宜？咱们Llama3.1 的价格到底怎么算呢？我看了一下together上的价格，因为它是开源的，你可以把它拉到本地来自己去装。虽然我现在没有装这些东西的设备，斑马3在我的机器上可以跑8B，跑到70币已经跑不起来了。70币的话，至少是一块四零九零，再加上大量内存才可以跑起来。

像这种四零五币这样的模型，我已经不愿意去算我需要什么样的硬件它可以跑起来了。这个事情对于我没有意义了。所以呢，我们用云端可以跑Llama3服务或者Llama3.1 服务的这些服务器上给的价格为参考。他们给的是什么呢？就是Lama三点一的70币，每生成100万TOKEN是0.9美元，就是90美分；405B就是这4,050亿参数的这种大模型，生成100万TOKEN是5美金。

咱们呢跟其他人比一比，比如说open AI的。open AI现在当打的是GPT4欧，GPT4欧的输入是5美金，每100万TOKEN，输出的话是15美金。100万TOKEN desert上的这个TOKEN的价格应该是输入输出都一样的吧，但是5美金。统一的最新的呢是GPT4欧mini，是0.15美金输入，0.6美金输出，这个价格呢。

跟Llama3.1 的8臂的价格其实是差不多的，所以那个时候，为什么猜测GBT4欧MINI可能是一个8臂的模型，因为从价格上算的。Anceropic，那他们家的cloud是什么样的价格呢？3.5 sonit是输入3美金，输出15美金，也要比to get在上面Lama 3.1405币要贵。

至于Opus啊，就是Anceropic的cloud 3 Opus，这是它们最贵的、最大的一个模型。输入100万TOKEN，15美金，输出100万TOKEN居然要75美金，非常非常昂贵啊。Gemini呢，相对来说便宜点啊，Flash是输入两美金，输出6美金。Pro呢是一倍，输入是4美金，100万TOKEN输出呢是12美金。

所以啊，Llama3405B呢，相对来说还算便宜啊，就是输入输出是5美金，还算便宜。如果他的100万TOKEN在10美金，但是你让我使用128K的上下文，可以让我使用多模态，可以上传图片，可以进行识别，上传声音可以进行识别的话，那么我觉得这个价格也还是可以接受的。

在Llama3.1 405B发布之后，这肯定是一个诱化时代的产品发布了，代表着车历史车轮滚滚向前，把历史翻开了新的篇章。那么谁会挣钱啊？挣钱的呢，就应该是这种开放的云托管平台就会开始挣钱了，对吧？因为刚才我讲了，405B这种东西在我们本机是跑不起来的，哪怕是我一个单位里头自己有服务器，你想把它跑起来也是基本不可能的。

所以，一定是到云端去使用这种模型。那么，谁在干这个呢？刚才我们讲的 Together 就干这个的。另一个呢，是 Grop，专注于推理芯片的，他们也是在做类似的工作。现在，Grop 和 Together 上已经开始有Llama 3.1 的模型可以用了。这个刚才我查的Llama 3.1 的价格，就是在 Together 上查的。

然后，危机流动，也就是国内对标 Together 的这个项目，现在他们也可以在这种项目上受益。虽然这个上面没有Llama，因为Llama没有在中国进行过审核备案，但在中国使用的话，一定会有问题。不过，要相信我，中国团队会冲的。既然煤炭已经出了 405b，中国人就会出 410b，420b也会出现这样的模型。

那么，这种模型出来以后，也会到硅积流动上去跑。他也可以收到一个，比如说 100 万 TOKEN，十几美金的这样的一个价格。其他的这些云计算厂商，比如谷歌、微软、亚马逊，国内的像阿里云，都将受到这样的利好影响。

最后，我们讲一下中国团队是不是要冲锋。原来都讲人家一开源，我们就自主研发，自主知识产权。这个事一定会的。很多人说，中国的大模型就是自己研发的，跟他没有什么关系。这个你要相信，没有任何问题。我也可以相信。我们来看一看，中国最早的大模型，其实跟Llama是没有关系的。这个事一定要讲清楚。最早的是什么呢？最早的是拿 GPT2 开源的版本去修改，去使用出来的。

国内的某些最早期出大模型的大厂，他们的大模型里头有一定的GPT2的影子。后面Llama开源之后，国内才开始涌现了一批开源大模型公司，但他们都不承认使用的是Lama的模型。他们都说我们是在Lama的启发下，从头训练的。在Lama 2发布之后，各种应用公司就开始冲锋了，不再是模型公司了。很多应用公司也有一些新的模型出来可以用。这些模型到底是从头训练的，还是拿Lama 2去做的微调和修改，这个不得而知。

国内大量的企事业单位开始用上这些模型。等到Lama 3出来之后，各个开源模型公司纷纷更新版本。像Llama3发布后，影义万物、同一千问，包括很多这种不开源的模型公司，都在纷纷更新自己的版本，号称我们都去对标GPT4了。在中文领域里头可以超过Llama3了，英文里头稍微有一些偏差，也还是可以理解的。

这就会有这样的一个明确的时间划分，到底抄没抄，这事我们也没有明确的证据。我们只能说，这个时间点都非常非常的巧合，你爱信不信。而且在Llama3出来以后，中国的各个模型公司在做的一件事是什么？就是开始打价格战。咱们开卷吧，这个是为什么呢？因为中国大模型公司卡在100币这个位置上，因为Llama3开源出来的就是8币以及70币。所以中国很多是9币和72币，我在这个基础上再加一点点。你说我再往上训练，到底拿什么样的东西去训练，或者往哪个方向训练。

其实是不知道的，所以卡在100币，没有往上走的通道了。那我们先卷价格，等一等看看风向再说。现在风向又变了，405B出来了。而且405B并不是Moe。什么是Moe？就是专家模型。405B，它是一个单体的Transformer的模型。这样的话，大家就知道，原来大模型长这样，我们可以去搞一次了。这个是值得去借鉴的。

国内其实也出了一些Moe的模型，比如像千问自己，有一个五十几b的Moe模型。另外也出过一些100多币的这种Moe的模型。但这种100多币呢，它是由很多个小模型拼起来的。每一个小模型可能还是二三十币，或者这样的一个水平。拼起来的单体的上百币的模型，原来中国人是没做过的，现在有开放出来的。那么中国公司是必须充，方向都已经指明了，不冲等啥呢？咱们就看这个到底需要多长时间了。

但是，对于Llama3.1 405B来说，能够冲上去的公司并不多。为什么呢？咱们看一下，Llama3.1 8B呢，用的146万GPU小时。这个玩意儿怎么算呢？就是说用H100，我用146万个小时，就可以细算出来Llama3.1 8B。那你说这么多怎么弄啊？人家又不是一块在这算，对吧？人家一下上几万块。梅塔手里头号称有50万块GPU，他这个数据一除除的话，就很快就可以算出一个斑马3.18B。然后呢，Llama3.1 70b呢，用了700万GPU小时，也就是H100 GPU小时吧，应该这么讲。

然后，Llama3.1 405b 用了多少呢？3,084万H100 GPU小时。梅塔自己呢，是用了1.6万张H100进行的训练。他并不是说我分别训练8B、70B和405B啊，他们正常应该是训练了一个405B，蒸馏出70B和8B。但是，你还是要去用3,084万H100 GPU小时的这个时长去算。如果是1.6万张H100的话，那么是需要多长时间呢？80天，两个多月就可以把它训练完的。这个价格是很贵的啊，H100是4万美金一张。而你，比如说我能够有这么多钱，人家还不卖给你。就算人家卖给你了，你烧得起电吗？这个H100的功率是700瓦一张啊。你想，这一万多张，他有多大的功率，这是非常恐怖的一个数字。这还光算了H100，主机的这个电压、主机的功率还没算在里头。算完了主机之后，机房里头最大的耗电户既不是H100，也不是主机。那么，也有人说，难道是交换机吗？难道是路由器吗？难道是这些东西吗？都不是啊。我告诉大家，所有的机房里头，真正的耗电大户是空调。H100耗了700瓦的电，疯狂的发热了。以后，你不能等着它冒烟着火，对吧？一个封闭的机房里，你再要把这些热量排出去，你还要再用更大功率的空调来把这个热量交换掉。所以，这是一个非常巨大的工程。在国内，玩得起的公司基本上都被扎戈伯格限制了。第一个，人家想了说，你不可以拿Llama再去训练新模型了。第二个，所有用户量超过7亿的公司。

你要想去用Llama，你要跟雷塔申请特殊的许可证。咱们国内能够训练这样的模型，又有7亿用户的阿里、字节、腾讯，他们如果没有向美塔专门申请过许可证，那你就只能说这是我自主研发、自主知识产权，跟你没关系。但到最后，如果被海外应用的时候，被梅塔抓住把柄，说：“哎，你这个里头跟我那是一样的。”那么这个官司就有的打了。

那扎克伯格自己对于中国开源项目的看法是什么样的呢？你说他装没看见，这事肯定是不行的啊。在Llama的基础上进行开源、内容创作、进行微调、进行数据准备，最积极、干的活最多的就是中国团队啊。那么扎克伯格肯定不能装没看见。

所以扎克伯格也说了，开源可以让中国之外的盟友和小公司一起进步。如果我闭园了，大家去通过间谍、通过拷优盘拷贝、通过各种方式得到模型参数、得到模型数据的能力都还是很强的，并不是说我闭园了，中国团队就得不到了。我要开园了呢，中国团队也能得到，我其他的像什么法国、欧洲的盟友，还有很多的小公司，他们也可以得到这些数据，他们就可以跟我一块进步。

他讲的是这样的一个逻辑。这其实特别有意思啊，美国你去看看，现在美股七姐妹也好，或者是其他的比较靠上的这些美股科技公司也好，他们都是有大量的中国市场订单或中国市场份额的。每一家都是在这揣着明白装糊涂。你把这个东西开放出来了，一定是极大地刺激中国的大模型发展，而且现在已经没有天花板，没有任何问题。

我们就可以快速地达到，超越GPT-4的这个水平了。我相信，可能在未来的一到两个月里，各种模型就会再去更新升级，推出全面超越GPT-4的版本出来。现在这个压力给了OpenAI，如果比赛不更新，再拿不出GPT-5的话，就要彻底落后了。所以，扎克伯格自己心里是心知肚明的啊。他完完全全是为中国大魔星开绿灯。

至于其他的他的盟友，这些小公司到底有没有赶上，可能在努力追赶，但应该并没有。从梅塔的开源里，真正得到最大利益和实惠的事情是没有办法的。但是同时，他也抹了一个悉尼，说：“你看我开不开源，他们都能得到。”这个都是这么干。

另外，他也讲说闭源是让个别公司憋大招。他说：“我们从来不认为最后只有一种达摩型。”那些只认为最后应该只有一种达摩型的人，他们是在干嘛？他们是在自己偷偷创造上帝。这个事是非常可耻的啊。我不知道作为一个犹太人，他如何去解答这种，或者如何去看待这种自己偷偷创造上帝的这个过程。

总之，他说这事不行，非常可耻，一定要开源出来。而且现在看，开源正在超越闭源。这就是我们今天要讲的，拉嘛3.1405B的发布，如何搅动风雨，如何让中国团队冲锋，给中国团队指明方向，以及扎克伯克对于这个事情本身到底是怎么看的一个故事。

好，感谢大家收听，请帮忙点赞，点小铃铛，参加Disco讨论群。也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。