<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>AI商业机会 &#8211; 老范讲故事｜AI、大模型与商业世界的故事</title>
	<atom:link href="https://lukefan.com/tag/ai%E5%95%86%E4%B8%9A%E6%9C%BA%E4%BC%9A/feed/" rel="self" type="application/rss+xml" />
	<link>https://lukefan.com</link>
	<description>这里是老范讲故事的主站，持续更新 AIGC、大模型、互联网平台、商业冲突与资本市场观察，帮你看清热点背后的底层逻辑。</description>
	<lastBuildDate>Thu, 18 Sep 2025 00:51:34 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=7.1.5</generator>

<image>
	<url>https://lukefan.com/wp-content/uploads/2026/03/cropped-jimeng-2026-02-28-5245-用图一的人物形象，替换图二中的人物，使用图二的风格。文字替换：老范讲故事，Yo-32x32.jpeg</url>
	<title>AI商业机会 &#8211; 老范讲故事｜AI、大模型与商业世界的故事</title>
	<link>https://lukefan.com</link>
	<width>32</width>
	<height>32</height>
</image> 
	<item>
		<title>OpenAI的用户行为报告，隐藏哪些秘密？富人与穷人AI用法天差地别：一个当协作伙伴反复推敲，一个要一键生成不看不改，报告揭示残酷真相｜Social Impact of AI</title>
		<link>https://lukefan.com/2025/09/18/ai-user-behavior-chatgpt-work-life-social-business-impact/</link>
		
		<dc:creator><![CDATA[Luke Fan]]></dc:creator>
		<pubDate>Thu, 18 Sep 2025 00:51:34 +0000</pubDate>
				<category><![CDATA[AIGC]]></category>
		<category><![CDATA[AI与贫富差距]]></category>
		<category><![CDATA[AI使用技巧]]></category>
		<category><![CDATA[AI决策]]></category>
		<category><![CDATA[AI创业]]></category>
		<category><![CDATA[AI商业机会]]></category>
		<category><![CDATA[AI工作应用]]></category>
		<category><![CDATA[AI思维模式]]></category>
		<category><![CDATA[AI教育分层]]></category>
		<category><![CDATA[AI生产力]]></category>
		<category><![CDATA[AI生活助手]]></category>
		<category><![CDATA[AI用户行为]]></category>
		<category><![CDATA[AI社会影响]]></category>
		<category><![CDATA[AI聊天机器人]]></category>
		<category><![CDATA[AI赋能]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[ChatGPT]]></category>
		<category><![CDATA[ChatGPT报告]]></category>
		<category><![CDATA[OpenAI报告]]></category>
		<category><![CDATA[人工智能]]></category>
		<category><![CDATA[人机协作]]></category>
		<category><![CDATA[企业AI应用]]></category>
		<category><![CDATA[如何使用AI]]></category>
		<category><![CDATA[工作与生活平衡]]></category>
		<category><![CDATA[未来工作]]></category>
		<category><![CDATA[生成式AI]]></category>
		<guid isPermaLink="false">https://lukefan.com/?p=2539</guid>

					<description><![CDATA[🔥救命！AI时代真相炸裂💥 70%人用ChatGPT聊“今晚吃火锅还是烧烤”，打工人集体变生活家！🤯 富人让AI当智囊团反复抠报告细节，穷人只想“一键生成”糊弄老板——这差距比工资条还扎心！贫富线直接刻在聊天记录里🔍

笑死！问AI“相亲对象靠谱吗”“健身怎么不累”，这些“无用”对话才是暴富密码💰 企业听好：对内瞎自动化=作死，对外搞一键服务=躺赢！我写稿都让AI当合伙人：先自己动脑，再battle三四轮才定稿✅ 别当微波炉用户啊兄弟们！

AI不是家电，是脑力外挂！学会协作，你也能弯道超车🚀 速点赞！评论区晒你AI神操作（比如问“老板是不是在偷看我聊天”），抽3人送《AI躺赢秘籍》🔥 #AI真相 #打工人逆袭

OpenAI的用户行为报告，隐藏哪些秘密？富人与穷人AI用法天差地别：一个当协作伙伴反复推敲，一个要一键生成不看不改，报告揭示残酷真相｜Social Impact of AI

OpenAI与Anthropic的最新报告揭示了惊人的AI用户行为：ChatGPT的70%对话已与工作无关，正演变为生活伴侣。同时，数据暴露出不同社会阶层在人机交互上的巨大差异，富裕群体倾向协作，而另一部分人则偏爱一键生成。这种分化不仅预示着未来的工作变革，更深刻影响着AI的社会效应。]]></description>
										<content:encoded><![CDATA[
<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio"><div class="wp-block-embed__wrapper">
<iframe title="OpenAI的用户行为报告，隐藏哪些秘密？富人与穷人AI用法天差地别：一个当协作伙伴反复推敲，一个要一键生成不看不改，报告揭示残酷真相｜Social Impact of AI" width="900" height="506" src="https://www.youtube.com/embed/I1fvfzPwKJk?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
</div></figure>



<p class="wp-block-paragraph">OpenAI和Anthropic都发布了用户行为报告，这里面到底告诉我们了什么秘密？</p>



<p class="wp-block-paragraph">大家好，欢迎收听老范讲故事的YouTube频道。</p>



<p class="wp-block-paragraph">OpenAI跟Anthropic都发布了用户行为调研报告，最新的应该是OpenAI的，是9月15号发布的，Anthropic要稍微早那么一两天。我们为什么要去看这些报告呢？这里头会有很多很多的秘密。</p>



<p class="wp-block-paragraph">原来我们去研究过百度搜索关键词报告。大家知道百度里边搜索什么词最多吗？这个可能一般人想不到，百度里边搜索排名第一的词是“百度”，中文两个字“百度”。为什么是这样呢？因为百度购买了大量的搜索入口，或者是叫地址栏入口，你在地址栏里直接输入这个信息，就直接去搜索了。很多人呢，说“我要去百度”，就到地址栏里打“百度”中文两个字，然后一个回车，你就进去搜索了“百度”，等于在百度里边搜索了“百度”两个字，再去搜索自己想要的东西。这个是不是听着非常奇葩？这个反而也告诉我们，得屌丝者得天下。这么去使用百度的人，他们的文化程度和使用习惯到底是什么样的，大家心里要有一个数。以前每一个产品经理上来说“我要去做一个给聪明人用的产品”的时候，我们就都会给他讲这个故事，就是这么神奇。</p>



<span id="more-2539"></span>



<p class="wp-block-paragraph">从OpenAI跟Anthropic所发布的AI使用报告里头，我们也可以看到，到底是哪个国家人用、哪个州的人用、什么样学历的人用、有钱的人用还是没钱的人用、有钱人用跟没钱人用有什么区别。这个是值得去学习的，可能会给我们一些就像刚才我们讲“百度里边搜索百度俩字”这样的一些意想不到的启示。因为在我们去想说要创业，还是要去做一个什么商业的时候，我们都是在以自己为客户去思考问题的，这个是不对的。我们去看这种大的用户行为报告的时候，就会去打破这种桎梏。</p>



<p class="wp-block-paragraph">OpenAI的发现是，ChatGPT的非工作对话已经占到70%了，人们越来越把AI当做生活伴侣，而不是办公工具。虽然用ChatGPT解决工作问题的总数在上升，但是比例在下降。现在跟他闲聊天，问一些跟自己生活相关的事情，这些比例现在已经占到70%了。</p>



<p class="wp-block-paragraph">而Anthropic的结论是什么呢？越富裕、学历越高的群体用AI越多，也越偏好于协作；不是那么富裕和学历没有那么高的群体呢，用的肯定就越少嘛，而且呢他们喜欢什么呀？叫一键获得，或者一句话得到一个什么什么结果，喜欢这种不劳而获的方式。所以呢，AI使用的方式就像一面镜子，可以照出贫富差距、教育分层和未来的商业机会。</p>



<p class="wp-block-paragraph">今天呢，咱们就根据这两份报告，也就是OpenAI的用户行为报告和Anthropic的用户行为报告，来看看未来10年或者未来一段时间，哪些人会变得更聪明、更富有，哪些人会被甩在后面。</p>



<p class="wp-block-paragraph">首先我们来看一下这个数据。ChatGPT现在周活跃已经到7亿多了，这是一个非常吓人的数据。而且还要注意一点什么？就是在ChatGPT上，用户的单日使用时长是非常非常长的。大家知道谁长吗？TikTok长。TikTok跟抖音的日使用时长是接近一小时，50多分钟。ChatGPT的日使用时长可能比TikTok还长，所以这是一个非常非常恐怖的现象。我们要知道，在互联网时代、移动互联网时代，什么是财富？我经常会讲流量是财富，而流量这个东西的最明显的衡量工具，就是用户关注和用户时长。你有7亿人的周活跃，日活跃肯定是上亿了，应该可能在两三亿左右吧，日使用时长还能够接近一小时，或者是至少是30分钟往上吧。</p>



<p class="wp-block-paragraph">现在ChatGPT上每日的消息是25亿条，这个是2025年7月的数据。非工作信息占比呢，从2024年6月的53%，提升到2025年6月的73%，这是一个非常重要的数据，就是大家在里边去做很多跟工作没关系的事情。这个数据背后有很多很多含义，待会咱们再具体解释。</p>



<p class="wp-block-paragraph">现在呢，使用ChatGPT最主要的目的是有三个。第一个是实用指导，“我要干一个事儿，帮我指导一下”。第二个呢就是信息查询，这个可能是我用的比较多的一个。第三个呢是写作。这三个加一块大概占八成。写程序占的是比较少的，当然还有一个占的更少，待会我们再单独去强调一下，这个占的最少的这一项，未来可能是大家需要注重提升的。写程序这个呢，原来都被Anthropic 3.7或者4.0 Sonnet这样的模型占走了，现在的话GPT-5 Codex会慢慢地把流量再重新拉回来。</p>



<p class="wp-block-paragraph">我不知道你们是怎么使用GPT的，我现在使用GPT的时候都是在Chrome里头开一堆窗口。我其实很少使用ChatGPT的这些手机客户端或者是电脑桌面的客户端。为什么？因为它是个单线程的，你打开了以后有一个聊天窗口，你要一直跟它聊。我现在比较习惯的是在Chrome里头开一堆窗口，有一个、两个是在这办公的，剩下的都是在这聊闲天的。可能很多人是跟我一样的工作方式吧，一边去跟他聊说最近有一些什么样的事情，这个样的一个新闻背后有什么样的一些背景知识——这就是我的工作嘛；另外一边我可能也在问他说，最近上哪去骑行，周围有什么样好的景色呀，上哪可以去玩无人机。而且呢，因为你要跟ChatGPT去做这种深入研究，它很慢。你给他提了一个问题以后，他在那需要跑个20分钟，你就需要在这个时间里头去做一些其他的事情。以前呢，可能这些需求都是被什么抖音、小红书，都被这玩意满足了，现在不费这劲了，直接都在ChatGPT里头折腾了。而且我现在比如说看到抖音、小红书上讲到一些有趣的信息的时候，我也会回到ChatGPT上来问他说，这个事是怎么回事，那个事是怎么回事。</p>



<p class="wp-block-paragraph">所以我现在使用ChatGPT的话，大概也是有70%左右的聊天呢，是跟工作无关的。这个最主要的原因是什么？是跟工作有关的聊天需要字斟句酌地写一个很长的提示词，然后等着他去搜集信息，跑20分钟跑出来，然后我要再花十几二十分钟去阅读。而这个跟工作无关的信息呢，你可以快速地去跟他聊天，“今天这样怎么样”、“明天天气怎么样”，你可以快速地来回，所以跟工作无关的信息反而占比比较高。但是我相信消耗算力上来说的话，应该还是跟工作有关的问答消耗的算力要更多一些。</p>



<p class="wp-block-paragraph">所以现在呢，ChatGPT从它的角度上来分析呢，它已经逐渐地在从办公生产力转变成了生活小助手，而这里头呢是有很多的商机的。我相信可能有一些老板听到我讲前面这部分的时候，就已经想了，说我花了钱，特别是有一些公司花钱给员工买账号的这些人，还有一些人买这种叫做企业账号或者是团队账号的这些老板，他们可能会想说，我怎么能够限制他们？你花了我的钱买了账号，你就不要去跟他闲聊，或者我能不能检查一下你是不是用我的账号去跟他闲聊了。我建议这些老板不要这么想问题。为什么呢？因为闲聊的部分可能才是未来的商机。很多人都在抱怨说，这个ChatGPT出来以后，大家都在失业裁员，上升了用户量和用户时长没有增加，交易也没有增加，但是呢工作效率提升了，不需要这么多人了，降本增效了。我每一次出去做线下活动，或者说我们做直播的时候，都有人问在AI时代，我们干这个还行吗？干那个还行吗？问题在哪呢？就是在大量的新场景没有被发现，而这些新场景就在于我们跟ChatGPT聊的这70%多的无用信息，或者叫非工作信息上。把这些东西好好利用起来，就会有新的商机，就会有新的交易。如果一个老板光想着我怎么能让员工少占我点便宜，那这样的企业估计也混不了太长。</p>



<p class="wp-block-paragraph">那下一个问题呢，到底是穷人用AI多，还是富人用AI多？是高学历用的多，低学历用的多？他们到底有什么区别？很多人都在讲AI平权，AI平权，我们有了AI以后，所有人都在信息面前平权了。还有人在讲，说AI会赋能给富人和大企业以及国家机关，让他们可以靠更大的算力、更多的数据、更多的资源，然后让富人更富、穷人更穷。到底哪一个是真相呢？</p>



<p class="wp-block-paragraph">在这个里头，Anthropic的这个报告写的会更清楚一些。从国家层面上来说，人均GDP每增加1%，AI的使用指数增加0.7%，就是越有钱的国家用AI越多。这个其实大家能够理解吗？因为穷的国家你没有网，没有显卡，也没有数据中心，你用啥AI嘛，这个就不要费劲了。越是有钱的国家用的就越多，这个一定是如此的。从美国各州的情况来看呢，GDP每增长1%，Anthropic的Claude使用量会增加1.8%。美国原来也讲中间铁锈带了怎么样了，东海岸了，西海岸了，怎么样了，美国用Claude最多的三个州应该是华盛顿特区、加州和纽约，跟大家的想象应该也差不太多吧。当然了，低收入国家呢它基数也小，现在增长也是非常非常快的。到底是不是可以真正平权呢？可能还要再等一等看。所以从现在看呢，肯定是越有钱的人、越有钱的国家、越有钱的州，用AI的这个比例就越高。而他们使用了大量AI以后呢，一定会创造更多的价值。所以从现在这个发展趋势来看，应该是富人越来越富，有钱的国家和地区会变得越来越有钱。但是呢，并没有一个闸门或者界限说你们这些穷的国家、这些穷的州或者人，不可以用这个东西。所以现在这些低收入的国家，GDP比较低的国家呢，也在快速赶上，所以在这里并不能够得到一个很明确的结论。</p>



<p class="wp-block-paragraph">那你说学历对这个事是不是有差异呢？高学历的人是怎么用AI的，低学历的人是怎么用AI的呢？很多的人去问我们，AI来了我们还需要去上学吗？我还要去学计算机吗？我还要去学这个、还要去学那个吗？学文科还有用吗？虽然我每一次都会告诉大家说，努力去学习，这是非常非常有用的，学习了以后你会更好的使用AI，但是以前是没有数据支撑的。原来咱们在拍脑袋，在凭想象，现在数据来了。</p>



<p class="wp-block-paragraph">现在根据Anthropic的统计，高学历和高薪职业呢，更倾向于把AI当做工作助理。他们的核心任务是写作和语言加工，占最大比重。但是大家注意，这些让AI写东西的人，包括在ChatGPT里让AI写东西的人呢，他绝对不会说“请给我写一篇报告”，绝对不会干这种事情。因为你如果去说这个话的话，AI一定会给你吐出一篇口水文来。他们通常是什么呢？首先要自己写一篇文章，他们用的最多的是请AI帮他进行文章的润色。“文章我已经写好了，请不要去改变我的主题思想，不要去改变一些细节，但是呢请在语言上帮我进行一些润色，或者帮我提些意见。”这是最主要的用途。而且呢，他们会反复的去跟AI沟通，“我这儿觉得怎么怎么样，你那个地方给我提供的信息好像还稍微少一点，我哪个地方稍微觉得有一些……啧，读着不是很舒服，再帮我调整一下。”他们会跟AI反复地去沟通。反过来，低学历和低薪职业的人去使用AI的时候呢，他们更喜欢叫一键生成，“请给我生成一份报告”、“请给我一次性提交一个什么样的结果”、“请直接告诉我下个礼拜应该买哪只股票”，他们喜欢干这样的事情。</p>



<p class="wp-block-paragraph">从这个点上来看，学习怎么思考，学习怎么跟AI协作，这对于我们未来在AI时代是非常非常重要的。所以高学历和高薪职业的人更明白应该如何让AI帮助他们思考，他们是让AI来辅助他，而不是说让AI直接给我写一篇报告出来。而且相信我，那些一键生成的人，AI写出来的报告，他连看都不会看的，就会直接交上去。我记得前面还跟大家分享过一篇也是美国著名大学写的这个文章，让AI写的文章，参与者觉得一点参与感都没有，里边的内容完全不可复述。这是使用AI非常糟糕的一种模式。</p>



<p class="wp-block-paragraph">从Anthropic的数据来看呢，用的多的国家和群体更偏重于协作性，而用的少的国家和群体，也就是刚才我们讲这个相对来说GDP比较低的这些国家呢，更偏重于自动化、一键搞定。但是呢，全局自动化，也就是直接给一个指令出结果的比例正在上升，这是Anthropic发现的一个规律。这里边呢有两个原因，第一个原因是越来越多的比较穷的人现在开始使用AI了；另外一个规律是什么呢？就是企业大量使用API去包装AI的功能，他们呢其实面对的用户是喜欢一键得到解决方案的。这个是有一些差别的。</p>



<p class="wp-block-paragraph">如果我们在企业内部，比如说各种的报告、各种的文书，我们都让AI一键生成了，那么这个企业呢也就没有什么存在下去的必要了。如果说企业通过API封装了以后，为他的客户提供了一键生成的一个结果的话，那可能是一个未来的方向。这是有巨大差异的。为什么呢？因为企业所服务的用户，屌丝占大多数，得屌丝者得天下，一定要记住这句话。而企业内部如果大量的上下行文都使用一键生成的话，那说明什么？就是说内部全是屌丝，这样的企业没有存在的必要，完完全全可以解散开，由AI来替代它的功能就可以了。所以我们要想清楚，使用AI一键生成到底是好事还是坏事，看对谁说。如果我做了个工具，使用甭管是OpenAI也好、Anthropic也好，或者其他的这些AI API，然后去给客户服务，一键生成了，我是好样的。如果我是一个企业或者是政府机构，我内部大量的一键生成，哼，那就完蛋了。</p>



<p class="wp-block-paragraph">下面呢我们来讲一下这些非工作场景的问题吧。刚才我也讲了，我一边在工作的时候，一边会向ChatGPT提很多跟工作无关的问题，这些非工作占比已经超过七成了，而且还在快速增加。那么这个里面到底有什么样的商机呢？比如说个性化的学习，我经常会问他说，今天有人在去告诉我吉梦4.0有一些新的用法，帮我总结一下。这个ChatGPT就会帮我总结有哪些用法。我说Midjourney升级了，我在小红书上看人画的画可漂亮了，帮我总结一下到底有些什么样的新的功能和特性，让我去试一试。他就会帮我去总结。这对于我来说都属于娱乐，这不算工作。然后健身跟饮食，你像我经常说上哪去骑车呀，虽然我现在骑车还算不上健身，还算是一个小的娱乐。饮食我也很喜欢，吃饭这件事，你去了解它的历史和文化呢，可以让吃饭本身具有更大的意义，会觉得我虽然只吃了两口，但是真的得到了很好的情绪价值，这个是很重要的。还有一些数字秘书的工作，我也是会让ChatGPT去做的。比如说帮我去做一些订阅呀，或者是帮我总结一些八卦呀。因为我也会看到很多的八卦信息，今天还特别逗，看到有一个邮件给我写过来，说我们叫MetaGPT-X，说我们想请你给我拍广告，拍一条给6,755美金。我一看这名字，又是Meta又是GPT又是X，还给6,000多美金一条，这6,000多美金很多钱，我就去问ChatGPT，我说这个是骗子吗？因为起了这样的一个名字，还给了这么高的一个价格，你说他不是骗子也有点奇怪。ChatGPT大概用了5分钟的时间，搜索了各种的论坛、社区以后告诉我说，虽然没有直接的证据证明谁在里头确实丢了钱了，但是呢确实有很多人抱怨他们像是骗子，因为他们发了大量这样的垃圾邮件出来。而且你看他这个名字，又是Meta，又是GPT，又是X，把三个非常著名的AI公司的名字拼在一起了，一般不是骗子不干这事。而且呢，他们发邮件的域名呢也经常变来变去的，像是一次性注册了很多域名去给大家发这种垃圾邮件，骗着一个是一个。但具体他们是怎么骗的，谁真的上当受骗了以后出来骂了，到目前为止还没有看到。这就是数字秘书。我现在用GPT干这些事情，就刚才我讲的这些呢，都是有可能能够成为新的赚钱的方向或者创业的方向的。</p>



<p class="wp-block-paragraph">其实更多的人呢，通过AI呢是获得了选择权的，也就是获得了前所未有的自由。这意味着什么呢？就是非工作领域的很多商业价值是远没有被挖掘的。原来只能坐在这上班，现在我可以在工作的同时，在后边还去思考很多别的东西，甚至去玩副业。我记得原来有人去讲过说，中国人上班跟欧洲人上班有什么区别。说中国人上班的工作时间很长，但是呢工作效率其实没有那么高，因为我们一边上班呢一边还想着很多其他的事情，甚至呢上班的时候有大量的互联网流量是用来刷抖音、刷淘宝、刷小红书，真正拿来上班的时间其实并没有那么高。而欧洲人的话，他们上班的时候就是上班，想别的东西的比例要比中国人低吧，但是呢他们后边的休假很长，休假的时候他就彻彻底底去玩去了。在AI时代，可能中国人这种方式才是更适应AI的一个方式，就是一边你让AI干着活，另外一边你把后边所有这些副业的、后边所有的这些时间都去变成一个商业的活动跟行为，每一个人都可以有自己的选择，甚至说每一个人都可以有自己的副业了，这可能就是一个未来。</p>



<p class="wp-block-paragraph">关于企业的问题呢，在这里想再强调一下。企业如果能够用AI很好地实现一键服务屌丝用户的话，那这个企业会向前走。如果这个企业在内部大量的使用AI进行内部自动化和这种替代的话，那这个企业可能会被替代。那么企业，特别是很多这种大型企业，在AI时代到底会变成什么样呢？这种大型企业在AI时代可能会被小团队快速替代。原因呢很简单，因为越是大型的企业，他以前背的包袱就越重，它内部的这种流程、规章制度就会变得越复杂，而这些东西本身就是非常适合被AI所取代的。而原来这些大型企业里头又有非常多的人，他们不能失去自己的权利，他们要求说不可以上网，不可以把哪些数据外泄，不可以去使用哪些东西，他要保证自己的数据权利。什么叫数据权利？就是在一个企业里面，上层的领导通常要比下层的下属掌握更多的数据。在AI平权以后的话，他们是不愿意失去这种权利的。所以呢，在AI使用的过程中，这些大的企业反而容易被那些小型企业所替代掉，因为他们可以靠AI自动化把原来一个大型企业里边内部的各种的流程、什么自动化全都完成掉，然后直接向用户提交最终的服务。而对于最终用户来说，他是没法去比较说，大企业经过内部的层层审核得到的结果，和小企业通过AI直接得到的结果，到底有什么样的差异呢？甚至小企业通过AI得到结果可能还更好一些，因为它动作会更灵活、更敏捷嘛。</p>



<p class="wp-block-paragraph">最后呢，跟大家讲一下我们到底应该怎么用AI。以今天这个口播稿形成的过程为例，这口播稿是怎么来的？首先我看到了这样的一个主题，然后呢我得到了自己的结论。这个结论不是由OpenAI得出的，也不是由Anthropic得出的，而是我看完了以后，自己思考加工了以后得到了结论。然后我会把结论描述清楚以后，告诉ChatGPT说：“你好，我现在要看这两篇文章，就是OpenAI的这个ChatGPT的使用报告和Anthropic的用户使用报告，两个文章的链接在这里。我得出了哪些哪些结论，请帮我去写一个YouTube的口播稿。”他就去给我写去了。我还告诉他，“请从老范讲故事的这些博客里边去引用。”他把所有我给他的信息都读完了以后，给我做了一个这样的演讲稿出来。得到这个演讲稿以后，我还要不断地去看，“你把所有的故事都给我集中在最后了，这事不行，你要给我穿插到中间去，要让故事跟我要讲的内容有机的进行结合。”然后他就进行调整。调整完了以后说，“我还要再补充几个观点，请把我补充的观点糅合到前面的这些章节和段落里边去，重新再修改。”通过这样的一个过程，大家看到，第一，我自己先阅读了；第二，我得到了结论；第三，我让AI去把更多的信息和内容根据我的结论总结在一起，然后形成了稿件；第四，我对着这篇稿件阅读了以后，重新提出修改意见，反复修改了三四轮，得到了今天大家所看到的这样的一个口播稿。</p>



<p class="wp-block-paragraph">所以，这就是一个使用AI的方式。我也没有说这是一个富人、高学历、高薪职位的一个使用方法，我现在是一个无业游民，但是我觉得我使用AI的过程还是比较高级的。</p>



<p class="wp-block-paragraph">希望大家学习总结一下，使用AI呢要有五个步骤：</p>



<p class="wp-block-paragraph">第一步，要把AI当合伙人来用，不要把AI当个家电来用。什么是家电？把这个鸡蛋羹放到微波炉里按一下“叮”，然后鸡蛋羹好了，那玩意叫家电。但是你说我现在要去跟一个助手去一起讨论一下，这个鸡蛋羹应该怎么做更好吃，应该使用什么样的鸡蛋，怎么打发，使用热水凉水，加盐不加盐，怎么做更好吃一些，这个是真正使用AI的方式。如果你把它当一个微波炉，它就只能起到一个微波炉的结果。</p>



<p class="wp-block-paragraph">第二个呢，就是自动化过程只能在边界清晰的环节去使用，而且最好是对外的环节去使用。如果内部需要做自动化的话，要么就裁员，你就没有必要说让人在这个自动化环节里边再去占这个位置了；要么就干脆说，我们是不是可以把一些原来在这里有人可以做决定、可以盖章的这个职位去掉。</p>



<p class="wp-block-paragraph">第三个呢，非工作的场景会有很多新的机会，大家可以快速的去试水。我们就要去思考，说到底在哪些非工作场景上使用AI了，使用的效果还不错，那就可以想一想怎么在这里边去发现一门新的生意了。</p>



<p class="wp-block-paragraph">第四个的话，就是一定要保留人类的原创表达，避免直接被AI牵着鼻子走。而且AI产生的结果一定要进行一些调整和改变，一定要进行校验，绝对不能给AI一个开放的命令，然后拿到它的结果连看都不看就当成自己的内容就发出去了。</p>



<p class="wp-block-paragraph">最后一点，在ChatGPT里头有一个使用范围用的人很少，这个使用范围是什么？是自我改进和人与人的关系。这个在所有的ChatGPT的使用量里大概只占1.9%，而这一块呢可能才是未来最重要的一点。在AI可以更好的干好AI的事情的时候，我们这些人就要更好的成为一个人。在这个过程中的话，这些大型的AI助手都是可以为我们提供帮助的。</p>



<p class="wp-block-paragraph">这就是给大家使用AI的5个建议，是通过我们去阅读OpenAI和Anthropic两份用户行为报告得出的一个结论。</p>



<p class="wp-block-paragraph">好，这个故事就跟大家讲到这里，感谢大家收听。请帮忙点赞、点小铃铛，参加<a href="https://discord.gg/ppKsNkttTv" target="_blank" rel="noopener">DISCORD讨论群</a>，也欢迎有兴趣、有能力的朋友加入我们的<a href="https://www.youtube.com/channel/UCUGLhcs3-3y_yhZZsgRzrzw/join" target="_blank" rel="noopener">付费频道</a>。再见。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>Meta Llama3.1——405b大模型震撼发布——性能全面超越GPT-4o，中国AI厂商是否迎来春天？新的时代到来了，历史的车轮滚滚向前。</title>
		<link>https://lukefan.com/2024/07/25/meta-llama3-1-405b%e5%a4%a7%e6%a8%a1%e5%9e%8b%e9%9c%87%e6%92%bc%e5%8f%91%e5%b8%83-%e6%80%a7%e8%83%bd%e5%85%a8%e9%9d%a2%e8%b6%85%e8%b6%8agpt-4o%ef%bc%8c%e4%b8%ad/</link>
		
		<dc:creator><![CDATA[Luke Fan]]></dc:creator>
		<pubDate>Thu, 25 Jul 2024 01:00:20 +0000</pubDate>
				<category><![CDATA[AIGC]]></category>
		<category><![CDATA[Meta的故事]]></category>
		<category><![CDATA[OpenSource]]></category>
		<category><![CDATA[405B版本]]></category>
		<category><![CDATA[AI上下文窗口]]></category>
		<category><![CDATA[AI事实标准]]></category>
		<category><![CDATA[AI产业方向]]></category>
		<category><![CDATA[AI产业链]]></category>
		<category><![CDATA[AI偷跑事件]]></category>
		<category><![CDATA[AI公司发展]]></category>
		<category><![CDATA[AI创新挑战]]></category>
		<category><![CDATA[AI创新推广]]></category>
		<category><![CDATA[AI功率需求]]></category>
		<category><![CDATA[AI协议限制]]></category>
		<category><![CDATA[AI商业机会]]></category>
		<category><![CDATA[AI商业模式]]></category>
		<category><![CDATA[AI多模态]]></category>
		<category><![CDATA[AI多语言支持]]></category>
		<category><![CDATA[AI宏大模型]]></category>
		<category><![CDATA[AI市场分析]]></category>
		<category><![CDATA[AI应用前景]]></category>
		<category><![CDATA[AI开源协议]]></category>
		<category><![CDATA[AI性能测试]]></category>
		<category><![CDATA[AI性能超越]]></category>
		<category><![CDATA[AI技术合作]]></category>
		<category><![CDATA[AI技术商业化]]></category>
		<category><![CDATA[AI技术应用]]></category>
		<category><![CDATA[AI技术投资]]></category>
		<category><![CDATA[AI技术支持]]></category>
		<category><![CDATA[AI技术突破]]></category>
		<category><![CDATA[AI技术革新]]></category>
		<category><![CDATA[AI显卡需求]]></category>
		<category><![CDATA[AI未来趋势]]></category>
		<category><![CDATA[AI标准化]]></category>
		<category><![CDATA[AI模型优化]]></category>
		<category><![CDATA[AI模型开放]]></category>
		<category><![CDATA[AI模型电费]]></category>
		<category><![CDATA[AI法律框架]]></category>
		<category><![CDATA[AI生态价值]]></category>
		<category><![CDATA[AI生态系统]]></category>
		<category><![CDATA[AI生态系统发展]]></category>
		<category><![CDATA[AI硬件需求]]></category>
		<category><![CDATA[AI磁力链]]></category>
		<category><![CDATA[AI空调耗电]]></category>
		<category><![CDATA[AI能耗问题]]></category>
		<category><![CDATA[AI行业分析]]></category>
		<category><![CDATA[AI行业动态]]></category>
		<category><![CDATA[AI行业趋势]]></category>
		<category><![CDATA[AI计算能力]]></category>
		<category><![CDATA[AI训练成本]]></category>
		<category><![CDATA[AI训练数据]]></category>
		<category><![CDATA[AI训练时间]]></category>
		<category><![CDATA[AI语言支持]]></category>
		<category><![CDATA[GPT-4对比]]></category>
		<category><![CDATA[GPT-4跑分]]></category>
		<category><![CDATA[HIKING face数据集]]></category>
		<category><![CDATA[LLaMA]]></category>
		<category><![CDATA[Llama 3.1]]></category>
		<category><![CDATA[Llama 3.1 405b]]></category>
		<category><![CDATA[Together AI]]></category>
		<category><![CDATA[中国AI厂商]]></category>
		<category><![CDATA[中国AI厂商冲锋]]></category>
		<category><![CDATA[中美科技博弈]]></category>
		<category><![CDATA[多模态支持]]></category>
		<category><![CDATA[开源与闭源]]></category>
		<category><![CDATA[拉玛模型争议]]></category>
		<category><![CDATA[梅塔与中国]]></category>
		<category><![CDATA[梅塔公司]]></category>
		<category><![CDATA[模型微调]]></category>
		<guid isPermaLink="false">https://lukefan.com/?p=1432</guid>

					<description><![CDATA[Llama3.1 405b突然开放，指标上全面超越GPT-4。中国厂商们是不是又可以充了呢？大家好，这里是老范 ... <a title="Meta Llama3.1——405b大模型震撼发布——性能全面超越GPT-4o，中国AI厂商是否迎来春天？新的时代到来了，历史的车轮滚滚向前。" class="read-more" href="https://lukefan.com/2024/07/25/meta-llama3-1-405b%e5%a4%a7%e6%a8%a1%e5%9e%8b%e9%9c%87%e6%92%bc%e5%8f%91%e5%b8%83-%e6%80%a7%e8%83%bd%e5%85%a8%e9%9d%a2%e8%b6%85%e8%b6%8agpt-4o%ef%bc%8c%e4%b8%ad/" aria-label="阅读 Meta Llama3.1——405b大模型震撼发布——性能全面超越GPT-4o，中国AI厂商是否迎来春天？新的时代到来了，历史的车轮滚滚向前。">阅读更多</a>]]></description>
										<content:encoded><![CDATA[
<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio"><div class="wp-block-embed__wrapper">
<iframe title="Meta Llama3.1——405b大模型震撼发布——性能全面超越GPT-4o，中国AI厂商是否迎来春天？新的时代到来了，历史的车轮滚滚向前。" width="900" height="506" src="https://www.youtube.com/embed/GoMdjaKlIvE?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
</div></figure>



<p class="wp-block-paragraph">Llama3.1 405b突然开放，指标上全面超越GPT-4。中国厂商们是不是又可以充了呢？大家好，这里是老范讲故事的YouTube频道。今天咱们来讲一讲Llama3.1 405b 开放的事情。</p>



<p class="wp-block-paragraph">Llama的开放，每一次都比较有戏剧性，都会有偷跑。什么叫偷跑？就不是由官方开了发布会，说我今天发布了一个什么产品，而是一般都是在Reddit这样的论坛里，突然就有人放出磁力链来，大家可以去BT下载Llama3.1 405B，包括Llama3.1 405B相关的各种测试数据，都是这么被发现的。头一天偷跑了以后，第二天梅塔说那算了，我开了吧。当时好像Llama2也是这么开出来的，现在Llama3.1 也是这么偷跑，完了以后就正式开放了。</p>



<p class="wp-block-paragraph">他在跑分上已经全面地超越了GPT-4，基本上在各个指标上都超越了。这是非常非常难的，因为以前大家推出的各种模型里头，都是在个别指标里面超越GPT-4O或者超越GPT-4。那么在各项指标上全都超越的，这应该是第一次。当然了，它也是分很多版本的，分为8B、70B以及405B这三个版本。405B已经完全超越了，下面小一点的8B，应该比原来的Llama370B的效果还要再好一些。它的70B基本上针对前两天发布的GBT4OMINI，属于碾压状态。</p>



<span id="more-1432"></span>



<p class="wp-block-paragraph">Llama3.1 现在支持8种语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。</p>



<p class="wp-block-paragraph">这个里面没有中文啊，不用他们担心，中文我们自己会搞定的。这就是他们现在发布出来的模型，上下文窗口呢，从8K直接涨到了128K。Llama3是8K的，啊，现在Llama3.1 就直接128K，但是我还用不上，为什么呢？我想要去用这个Llama3.1 的，啊，405B这样的模型我肯定没法在本机上用，这玩意你肯定还是要很多的显卡，才可以把它刨起来的。所以一定是云端，用这么大的模型，你要给它这么长的上下文的话，通常那个压力是很大的。</p>



<p class="wp-block-paragraph">所以现在我去看到的，比如像together AI上面的Llama3.1 的模型，里面啊，应该是8B的和70B的给的是32K，405B只给了4K，就是你超过4,400以上他就不干活了。超过了以后，我估计就会变得非常非常贵，工作的耗或者工作的成本就会变得很高。所以我现在能够用到的Llama3.1 ，405B只能是4K的，就是上下文4K。405B呢，也是Llama系列的第一个支持多模态的大模型，原来的都是纯语言模型，现在可以支持多模态了。</p>



<p class="wp-block-paragraph">但是怎么说呢，如果只能用到4K的话，多模态意义不是很大，你塞不进去东西去。这还要看未来，是否有人愿意开放完全上下文的这种Llama3.1 的模型给大家去使用了。Llama到底算不算开源，对吧？我们刚才讲他开源开出来了，Llama是不是开源这件事情呢，也是有一定争议的。开源这件事情并不是说我把所有东西都开出来，你就随便去用就叫开源。</p>



<p class="wp-block-paragraph">开源本身是一个在法律框架下，遵守一定的开源协议的商业模式。这个东西是要收钱的，大家可以去规定说我开哪部分，不开哪部分。当然了，也有一些原教旨主义者，他们其实是开放软件的一帮推崇者。他们认为Llama不算开源，为什么呢？</p>



<p class="wp-block-paragraph">第一个，Llama只开放了部分代码，并没有把所有的代码都开出来；第二个，只开放了模型和参数，没有开源训练数据和完整的训练过程。如果是开放软件，这些东西都应该拿出来。而且只开放使用，他对使用还是有一定限制。开放软件这帮人说，你要叫开源，就得把所有的权利都拿出来，不能有自己任何权利保留。</p>



<p class="wp-block-paragraph">这个是Llama在这块有一点点的小争议。对于Llama来说，它到底是限制了什么？在使用上，你说大家都下载了，都去用一下，我在本地上也下载了，它到底限制什么呢？</p>



<p class="wp-block-paragraph">第一个，他不允许用Llama3训练新模型。这也很有趣，实际上现在国内大量的新模型都是拿Llama去训练的，但他这个是不允许的。第二个，用户超过7亿的，需要单独向梅塔申请。这其实就是针对中国的，全世界的公司里头，用户量超过7亿的，除了美国的那些之外，剩下的基本都在中国。他现在也有要求说我已经设置好了，超过7亿都不行。</p>



<p class="wp-block-paragraph">但是，这个都属于叫君子协定。什么叫君子协定呢？就是我不告你，你也没办法。如果算告的话，可能也很麻烦，你去取证，做各种各样的法院诉讼的过程都会很长。但是，从道德制高点上来看……</p>



<p class="wp-block-paragraph">他已经站在上了。你比如说，用户量超过7亿，还拿他去训练模型啊。假设是字节跳动吧，对吧？那个用户量肯定超过7亿了，而且跟美坦直接竞争啊。如果字节跳动拿着梅塔的Llama3去训练自己的模型了，这个事情对于Llama来说，他是可以告你的。</p>



<p class="wp-block-paragraph">另外一个超过7亿用户，还去训练自己模型的是谁呢？天问啊，闻心眼，百度啊，都是在这个范围内。那么，Lama呢？如果不是走这个原教旨主义的判别标准的话，它算是开源的。但是，按照原教旨主义的标准来判定的话，它也算是个假开源吧。甭管是不是真的开源，但是Llama现在已经开始从开源受益了。很多人搞不清楚开源这事到底咋挣钱，正好趁着今天Llama3.1 405B的这个项目，来跟大家讲一讲开源到底是怎么盈利的。它为什么是一个商业模式啊？不是雷锋。</p>



<p class="wp-block-paragraph">现在呢，Llama已经让时代的车轮滚滚向前，停不下来了啊，肯定是往前滚滚过去了。那些号称使用开源就是交智商税的CEO们，应该会在车轮下发出悲鸣了。Llama在Llama1、Llama2、Llama3到现在的Llama3.1 之间，一直在这开源模型里头是扛鼎的。他是做得最好的一个，做得最大的一个，其他人就会跟着他去做。对吧？我会在Llama的基础上进行微调。我在Llama的基础上准备微调Llama的数据，准备微调Llama的各种指令集，或者说准备使用Llama3微调一个什么呢？微调一个多模态的模型出来。前两天，斯坦福大学抄袭清华大学的那个模型，就是拿Llama3微调的多模态模型，还有很多人在Llama3的基础上……</p>



<p class="wp-block-paragraph">去微调上下纹，让上下纹变长。所有的这些，你没有发现吗？就是从Llama3到Llama3.1 之间的这些变化，波太了啊，成上下文了。再加上什么？再加上各种各样的开源数据集，以及开源的指令微调数据集的参与训练，就从Llama3变成了Llama3.1 。它等于现在成为了一个潮流的标志，所有人做的这些数据也都是开放的。这些数据在哪呢？在HIKING face上啊，HIKING face上存了非常多的这种兼容Llama3格式的数据，兼容Llama3格式的指令微调数据集，以及各种各样的用Llama3已经微调成功的新的模型，甭管是长上下文的，还是多模态的都有。</p>



<p class="wp-block-paragraph">好，现在Llama3说来，我把你们都收下来，我也开放了，你们也开放了，我收下来，然后我再把Llama3再重新训练一下，再把剩下的参数都堆进去，啊，堆一个405B出来，4,050亿参数啊，直接推出来。所以呢，他这个开源真正盈利的方式，大家听懂了没有？这两个字啊，叫做标准。Llama是通过成为标准，让所有在做大模型开源的人都依附于这个标准。这不是强制标准，这个是事实标准，大家依附于这个标准，然后做出生态来，整个生态的价值提升了。</p>



<p class="wp-block-paragraph">Llama3直接把Llama3基础上的这些开放数据拎回来再去训练，就变成Llama3.1 。Llama3.1 出来以后，一定还会有很多人再在这个基础上，再去做大量的新的数据，再去微调，让Llama3.1 可以去适应更多的场景。那么是不是就快该有Lama 3.2了？就是开元战胜必元，或者开元。</p>



<p class="wp-block-paragraph">整个的盈利方式就是这样。第一个叫做标准，事实标准；第二个呢，叫做生态。这两个东西一起往前走的时候，整个开源的系统就会快速地超越闭源系统。</p>



<p class="wp-block-paragraph">很多人在讨论，开源到底便不便宜？咱们Llama3.1 的价格到底怎么算呢？我看了一下together上的价格，因为它是开源的，你可以把它拉到本地来自己去装。虽然我现在没有装这些东西的设备，斑马3在我的机器上可以跑8B，跑到70币已经跑不起来了。70币的话，至少是一块四零九零，再加上大量内存才可以跑起来。</p>



<p class="wp-block-paragraph">像这种四零五币这样的模型，我已经不愿意去算我需要什么样的硬件它可以跑起来了。这个事情对于我没有意义了。所以呢，我们用云端可以跑Llama3服务或者Llama3.1 服务的这些服务器上给的价格为参考。他们给的是什么呢？就是Lama三点一的70币，每生成100万TOKEN是0.9美元，就是90美分；405B就是这4,050亿参数的这种大模型，生成100万TOKEN是5美金。</p>



<p class="wp-block-paragraph">咱们呢跟其他人比一比，比如说open AI的。open AI现在当打的是GPT4欧，GPT4欧的输入是5美金，每100万TOKEN，输出的话是15美金。100万TOKEN desert上的这个TOKEN的价格应该是输入输出都一样的吧，但是5美金。统一的最新的呢是GPT4欧mini，是0.15美金输入，0.6美金输出，这个价格呢。</p>



<p class="wp-block-paragraph">跟Llama3.1 的8臂的价格其实是差不多的，所以那个时候，为什么猜测GBT4欧MINI可能是一个8臂的模型，因为从价格上算的。Anceropic，那他们家的cloud是什么样的价格呢？3.5 sonit是输入3美金，输出15美金，也要比to get在上面Lama 3.1405币要贵。</p>



<p class="wp-block-paragraph">至于Opus啊，就是Anceropic的cloud 3 Opus，这是它们最贵的、最大的一个模型。输入100万TOKEN，15美金，输出100万TOKEN居然要75美金，非常非常昂贵啊。Gemini呢，相对来说便宜点啊，Flash是输入两美金，输出6美金。Pro呢是一倍，输入是4美金，100万TOKEN输出呢是12美金。</p>



<p class="wp-block-paragraph">所以啊，Llama3405B呢，相对来说还算便宜啊，就是输入输出是5美金，还算便宜。如果他的100万TOKEN在10美金，但是你让我使用128K的上下文，可以让我使用多模态，可以上传图片，可以进行识别，上传声音可以进行识别的话，那么我觉得这个价格也还是可以接受的。</p>



<p class="wp-block-paragraph">在Llama3.1 405B发布之后，这肯定是一个诱化时代的产品发布了，代表着车历史车轮滚滚向前，把历史翻开了新的篇章。那么谁会挣钱啊？挣钱的呢，就应该是这种开放的云托管平台就会开始挣钱了，对吧？因为刚才我讲了，405B这种东西在我们本机是跑不起来的，哪怕是我一个单位里头自己有服务器，你想把它跑起来也是基本不可能的。</p>



<p class="wp-block-paragraph">所以，一定是到云端去使用这种模型。那么，谁在干这个呢？刚才我们讲的 Together 就干这个的。另一个呢，是 Grop，专注于推理芯片的，他们也是在做类似的工作。现在，Grop 和 Together 上已经开始有Llama 3.1 的模型可以用了。这个刚才我查的Llama 3.1 的价格，就是在 Together 上查的。</p>



<p class="wp-block-paragraph">然后，危机流动，也就是国内对标 Together 的这个项目，现在他们也可以在这种项目上受益。虽然这个上面没有Llama，因为Llama没有在中国进行过审核备案，但在中国使用的话，一定会有问题。不过，要相信我，中国团队会冲的。既然煤炭已经出了 405b，中国人就会出 410b，420b也会出现这样的模型。</p>



<p class="wp-block-paragraph">那么，这种模型出来以后，也会到硅积流动上去跑。他也可以收到一个，比如说 100 万 TOKEN，十几美金的这样的一个价格。其他的这些云计算厂商，比如谷歌、微软、亚马逊，国内的像阿里云，都将受到这样的利好影响。</p>



<p class="wp-block-paragraph">最后，我们讲一下中国团队是不是要冲锋。原来都讲人家一开源，我们就自主研发，自主知识产权。这个事一定会的。很多人说，中国的大模型就是自己研发的，跟他没有什么关系。这个你要相信，没有任何问题。我也可以相信。我们来看一看，中国最早的大模型，其实跟Llama是没有关系的。这个事一定要讲清楚。最早的是什么呢？最早的是拿 GPT2 开源的版本去修改，去使用出来的。</p>



<p class="wp-block-paragraph">国内的某些最早期出大模型的大厂，他们的大模型里头有一定的GPT2的影子。后面Llama开源之后，国内才开始涌现了一批开源大模型公司，但他们都不承认使用的是Lama的模型。他们都说我们是在Lama的启发下，从头训练的。在Lama 2发布之后，各种应用公司就开始冲锋了，不再是模型公司了。很多应用公司也有一些新的模型出来可以用。这些模型到底是从头训练的，还是拿Lama 2去做的微调和修改，这个不得而知。</p>



<p class="wp-block-paragraph">国内大量的企事业单位开始用上这些模型。等到Lama 3出来之后，各个开源模型公司纷纷更新版本。像Llama3发布后，影义万物、同一千问，包括很多这种不开源的模型公司，都在纷纷更新自己的版本，号称我们都去对标GPT4了。在中文领域里头可以超过Llama3了，英文里头稍微有一些偏差，也还是可以理解的。</p>



<p class="wp-block-paragraph">这就会有这样的一个明确的时间划分，到底抄没抄，这事我们也没有明确的证据。我们只能说，这个时间点都非常非常的巧合，你爱信不信。而且在Llama3出来以后，中国的各个模型公司在做的一件事是什么？就是开始打价格战。咱们开卷吧，这个是为什么呢？因为中国大模型公司卡在100币这个位置上，因为Llama3开源出来的就是8币以及70币。所以中国很多是9币和72币，我在这个基础上再加一点点。你说我再往上训练，到底拿什么样的东西去训练，或者往哪个方向训练。</p>



<p class="wp-block-paragraph">其实是不知道的，所以卡在100币，没有往上走的通道了。那我们先卷价格，等一等看看风向再说。现在风向又变了，405B出来了。而且405B并不是Moe。什么是Moe？就是专家模型。405B，它是一个单体的Transformer的模型。这样的话，大家就知道，原来大模型长这样，我们可以去搞一次了。这个是值得去借鉴的。</p>



<p class="wp-block-paragraph">国内其实也出了一些Moe的模型，比如像千问自己，有一个五十几b的Moe模型。另外也出过一些100多币的这种Moe的模型。但这种100多币呢，它是由很多个小模型拼起来的。每一个小模型可能还是二三十币，或者这样的一个水平。拼起来的单体的上百币的模型，原来中国人是没做过的，现在有开放出来的。那么中国公司是必须充，方向都已经指明了，不冲等啥呢？咱们就看这个到底需要多长时间了。</p>



<p class="wp-block-paragraph">但是，对于Llama3.1 405B来说，能够冲上去的公司并不多。为什么呢？咱们看一下，Llama3.1 8B呢，用的146万GPU小时。这个玩意儿怎么算呢？就是说用H100，我用146万个小时，就可以细算出来Llama3.1 8B。那你说这么多怎么弄啊？人家又不是一块在这算，对吧？人家一下上几万块。梅塔手里头号称有50万块GPU，他这个数据一除除的话，就很快就可以算出一个斑马3.18B。然后呢，Llama3.1 70b呢，用了700万GPU小时，也就是H100 GPU小时吧，应该这么讲。</p>



<p class="wp-block-paragraph">然后，Llama3.1 405b 用了多少呢？3,084万H100 GPU小时。梅塔自己呢，是用了1.6万张H100进行的训练。他并不是说我分别训练8B、70B和405B啊，他们正常应该是训练了一个405B，蒸馏出70B和8B。但是，你还是要去用3,084万H100 GPU小时的这个时长去算。如果是1.6万张H100的话，那么是需要多长时间呢？80天，两个多月就可以把它训练完的。这个价格是很贵的啊，H100是4万美金一张。而你，比如说我能够有这么多钱，人家还不卖给你。就算人家卖给你了，你烧得起电吗？这个H100的功率是700瓦一张啊。你想，这一万多张，他有多大的功率，这是非常恐怖的一个数字。这还光算了H100，主机的这个电压、主机的功率还没算在里头。算完了主机之后，机房里头最大的耗电户既不是H100，也不是主机。那么，也有人说，难道是交换机吗？难道是路由器吗？难道是这些东西吗？都不是啊。我告诉大家，所有的机房里头，真正的耗电大户是空调。H100耗了700瓦的电，疯狂的发热了。以后，你不能等着它冒烟着火，对吧？一个封闭的机房里，你再要把这些热量排出去，你还要再用更大功率的空调来把这个热量交换掉。所以，这是一个非常巨大的工程。在国内，玩得起的公司基本上都被扎戈伯格限制了。第一个，人家想了说，你不可以拿Llama再去训练新模型了。第二个，所有用户量超过7亿的公司。</p>



<p class="wp-block-paragraph">你要想去用Llama，你要跟雷塔申请特殊的许可证。咱们国内能够训练这样的模型，又有7亿用户的阿里、字节、腾讯，他们如果没有向美塔专门申请过许可证，那你就只能说这是我自主研发、自主知识产权，跟你没关系。但到最后，如果被海外应用的时候，被梅塔抓住把柄，说：“哎，你这个里头跟我那是一样的。”那么这个官司就有的打了。</p>



<p class="wp-block-paragraph">那扎克伯格自己对于中国开源项目的看法是什么样的呢？你说他装没看见，这事肯定是不行的啊。在Llama的基础上进行开源、内容创作、进行微调、进行数据准备，最积极、干的活最多的就是中国团队啊。那么扎克伯格肯定不能装没看见。</p>



<p class="wp-block-paragraph">所以扎克伯格也说了，开源可以让中国之外的盟友和小公司一起进步。如果我闭园了，大家去通过间谍、通过拷优盘拷贝、通过各种方式得到模型参数、得到模型数据的能力都还是很强的，并不是说我闭园了，中国团队就得不到了。我要开园了呢，中国团队也能得到，我其他的像什么法国、欧洲的盟友，还有很多的小公司，他们也可以得到这些数据，他们就可以跟我一块进步。</p>



<p class="wp-block-paragraph">他讲的是这样的一个逻辑。这其实特别有意思啊，美国你去看看，现在美股七姐妹也好，或者是其他的比较靠上的这些美股科技公司也好，他们都是有大量的中国市场订单或中国市场份额的。每一家都是在这揣着明白装糊涂。你把这个东西开放出来了，一定是极大地刺激中国的大模型发展，而且现在已经没有天花板，没有任何问题。</p>



<p class="wp-block-paragraph">我们就可以快速地达到，超越GPT-4的这个水平了。我相信，可能在未来的一到两个月里，各种模型就会再去更新升级，推出全面超越GPT-4的版本出来。现在这个压力给了OpenAI，如果比赛不更新，再拿不出GPT-5的话，就要彻底落后了。所以，扎克伯格自己心里是心知肚明的啊。他完完全全是为中国大魔星开绿灯。</p>



<p class="wp-block-paragraph">至于其他的他的盟友，这些小公司到底有没有赶上，可能在努力追赶，但应该并没有。从梅塔的开源里，真正得到最大利益和实惠的事情是没有办法的。但是同时，他也抹了一个悉尼，说：“你看我开不开源，他们都能得到。”这个都是这么干。</p>



<p class="wp-block-paragraph">另外，他也讲说闭源是让个别公司憋大招。他说：“我们从来不认为最后只有一种达摩型。”那些只认为最后应该只有一种达摩型的人，他们是在干嘛？他们是在自己偷偷创造上帝。这个事是非常可耻的啊。我不知道作为一个犹太人，他如何去解答这种，或者如何去看待这种自己偷偷创造上帝的这个过程。</p>



<p class="wp-block-paragraph">总之，他说这事不行，非常可耻，一定要开源出来。而且现在看，开源正在超越闭源。这就是我们今天要讲的，拉嘛3.1405B的发布，如何搅动风雨，如何让中国团队冲锋，给中国团队指明方向，以及扎克伯克对于这个事情本身到底是怎么看的一个故事。</p>



<p class="wp-block-paragraph">好，感谢大家收听，请帮忙点赞，点小铃铛，参加Disco讨论群。也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。</p>
]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
