<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>合作伙伴 &#8211; 老范讲故事｜AI、大模型与商业世界的故事</title>
	<atom:link href="https://lukefan.com/tag/%E5%90%88%E4%BD%9C%E4%BC%99%E4%BC%B4/feed/" rel="self" type="application/rss+xml" />
	<link>https://lukefan.com</link>
	<description>这里是老范讲故事的主站，持续更新 AIGC、大模型、互联网平台、商业冲突与资本市场观察，帮你看清热点背后的底层逻辑。</description>
	<lastBuildDate>Tue, 15 Oct 2024 01:42:44 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=7.0</generator>

<image>
	<url>https://lukefan.com/wp-content/uploads/2026/03/cropped-jimeng-2026-02-28-5245-用图一的人物形象，替换图二中的人物，使用图二的风格。文字替换：老范讲故事，Yo-32x32.jpeg</url>
	<title>合作伙伴 &#8211; 老范讲故事｜AI、大模型与商业世界的故事</title>
	<link>https://lukefan.com</link>
	<width>32</width>
	<height>32</height>
</image> 
	<item>
		<title>字节跳动在马来西亚大裁员背后的深层次原因解析：AI与全球内容审核策略</title>
		<link>https://lukefan.com/2024/10/15/%e5%ad%97%e8%8a%82%e8%b7%b3%e5%8a%a8%e5%9c%a8%e9%a9%ac%e6%9d%a5%e8%a5%bf%e4%ba%9a%e5%a4%a7%e8%a3%81%e5%91%98%e8%83%8c%e5%90%8e%e7%9a%84%e6%b7%b1%e5%b1%82%e6%ac%a1%e5%8e%9f%e5%9b%a0%e8%a7%a3%e6%9e%90/</link>
		
		<dc:creator><![CDATA[Luke Fan]]></dc:creator>
		<pubDate>Tue, 15 Oct 2024 01:42:41 +0000</pubDate>
				<category><![CDATA[字节跳动，故事多]]></category>
		<category><![CDATA[20亿美金投入]]></category>
		<category><![CDATA[AI发展]]></category>
		<category><![CDATA[AI审核]]></category>
		<category><![CDATA[AI模型]]></category>
		<category><![CDATA[TikTok]]></category>
		<category><![CDATA[上市准备]]></category>
		<category><![CDATA[业务扩张]]></category>
		<category><![CDATA[中美关系]]></category>
		<category><![CDATA[互联网发展]]></category>
		<category><![CDATA[产品控制]]></category>
		<category><![CDATA[产品整合]]></category>
		<category><![CDATA[人事调整]]></category>
		<category><![CDATA[人力成本]]></category>
		<category><![CDATA[人工效率]]></category>
		<category><![CDATA[人工智能]]></category>
		<category><![CDATA[企业估值]]></category>
		<category><![CDATA[企业内控]]></category>
		<category><![CDATA[企业战略]]></category>
		<category><![CDATA[企业文化]]></category>
		<category><![CDATA[企业架构]]></category>
		<category><![CDATA[信息安全]]></category>
		<category><![CDATA[信息流通]]></category>
		<category><![CDATA[全球动向]]></category>
		<category><![CDATA[全球市场]]></category>
		<category><![CDATA[全球布局]]></category>
		<category><![CDATA[全球视野]]></category>
		<category><![CDATA[公司策略]]></category>
		<category><![CDATA[内容合规]]></category>
		<category><![CDATA[内容审核]]></category>
		<category><![CDATA[内容过滤]]></category>
		<category><![CDATA[合作伙伴]]></category>
		<category><![CDATA[合规管理]]></category>
		<category><![CDATA[员工调整]]></category>
		<category><![CDATA[商业模式]]></category>
		<category><![CDATA[国内团队]]></category>
		<category><![CDATA[国际业务]]></category>
		<category><![CDATA[字节跳动]]></category>
		<category><![CDATA[宏观经济]]></category>
		<category><![CDATA[审核团队]]></category>
		<category><![CDATA[就地审核]]></category>
		<category><![CDATA[工程方式]]></category>
		<category><![CDATA[市场份额]]></category>
		<category><![CDATA[市场动态]]></category>
		<category><![CDATA[市场竞争]]></category>
		<category><![CDATA[平台监管]]></category>
		<category><![CDATA[应用场景]]></category>
		<category><![CDATA[快速传播]]></category>
		<category><![CDATA[成本控制]]></category>
		<category><![CDATA[技术创新]]></category>
		<category><![CDATA[技术升级]]></category>
		<category><![CDATA[技术壁垒]]></category>
		<category><![CDATA[技术革新]]></category>
		<category><![CDATA[投诉机制]]></category>
		<category><![CDATA[抖音]]></category>
		<category><![CDATA[数字化转型]]></category>
		<category><![CDATA[数据保护]]></category>
		<category><![CDATA[数据处理]]></category>
		<category><![CDATA[数据隐私]]></category>
		<category><![CDATA[新加坡总部]]></category>
		<category><![CDATA[时间协同]]></category>
		<category><![CDATA[模型应用]]></category>
		<category><![CDATA[法律法规]]></category>
		<category><![CDATA[法规合理化]]></category>
		<category><![CDATA[法规要求]]></category>
		<category><![CDATA[用户体验]]></category>
		<category><![CDATA[知识产权]]></category>
		<category><![CDATA[破解法律]]></category>
		<category><![CDATA[社交媒体]]></category>
		<category><![CDATA[社会责任]]></category>
		<category><![CDATA[福利国家]]></category>
		<category><![CDATA[科技博主]]></category>
		<category><![CDATA[程序开发]]></category>
		<category><![CDATA[算力成本]]></category>
		<category><![CDATA[管理总部]]></category>
		<category><![CDATA[纽约时区]]></category>
		<category><![CDATA[聘用政策]]></category>
		<category><![CDATA[英语审核]]></category>
		<category><![CDATA[行业标准]]></category>
		<category><![CDATA[行业趋势]]></category>
		<category><![CDATA[视频标签]]></category>
		<category><![CDATA[资源调配]]></category>
		<category><![CDATA[资源配置]]></category>
		<category><![CDATA[运营模式]]></category>
		<category><![CDATA[雇佣政策]]></category>
		<category><![CDATA[风险管理]]></category>
		<category><![CDATA[马来西亚]]></category>
		<category><![CDATA[马来西亚裁员]]></category>
		<guid isPermaLink="false">https://lukefan.com/?p=1631</guid>

					<description><![CDATA[字节跳动在马来西亚裁撤700名员工，主要涉及内容审核岗位，标志着公司将更多依赖AI技术进行审核。字节跳动表示将投入20亿美元用于全球内容审核，确保内容质量和安全。裁员的背后有多个原因，包括成本控制、AI技术的成熟以及全球运营策略调整。马来西亚的审核团队主要负责全球TikTok用户内容的审核，尤其是英语内容。字节跳动在全球范围内进行审核团队的重新分配，可能将部分工作转移到成本更低的地区如菲律宾。本文详细分析了字节跳动此举背后的深层次原因及其对未来的影响。

大家好！今天我们要聊一个热辣的话题——字节跳动在马来西亚裁员700名员工的事件！🤯

啊啊啊，听说了吗？字节跳动决定聚焦AI审核，裁撤了大量内容审核员！为什么？因为他们要用AI来接管许多审核工作，这个转变真的振奋人心啊！！

首先，裁员的700人究竟是如何影响内容审核的？字节跳动表示，他们希望将审核工作从首都搬回到新加坡，而AI审查将成为重中之重！✨ AI的崛起意味着效率将大幅提升，但人力的流失也让人心痛不已...

想想看，马来西亚的700名员工不是只审核本地的内容！他们处理的是来自全球的TikTok内容！🥳 想知道后面如何？可能涉及到跨国法律和审查标准哦！

再谈谈马来西亚的优势！🌏 这里的人力成本适中，英语水平相对较高，地理位置也极佳。但面对全球市场变化，字节跳动为何选择重塑自己的团队结构，值得我们深思...

还有一个更劲爆的事情！字节跳动在AI领域的重金投入可能掀起一场技术革命，未来的审核或许只需少量人工配合AI，就能完成审核任务！🧠💻可想而知，这将对整个内容审核行业产生巨大的影响...

所以说，字节跳动的裁员其实是为了更大的布局！💪🏻 如何在成本控制中兼顾监管合规，才能保证内容的市场竞争力？未来的趋势我们拭目以待！

记得点赞、留言告诉我你对字节跳动裁员的看法哦！期待与你们的交流！💬🚀]]></description>
										<content:encoded><![CDATA[
<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio"><div class="wp-block-embed__wrapper">
<iframe title="字节跳动在马来西亚大裁员背后的深层次原因解析：AI与全球内容审核策略" width="900" height="506" src="https://www.youtube.com/embed/eD5FI1Y_f8k?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
</div></figure>



<p class="wp-block-paragraph">字节跳动在马来西亚开启了大裁员。这是什么样的情况？大家好，这里是老范讲故事的YouTube频道。近期传出消息，字节跳动在马来西亚裁撤了700名员工，而这些员工主要从事的是内容审核相关的工作。</p>



<p class="wp-block-paragraph">现在字节跳动也出面回应，表示：“我们确实进行了裁员，而且我们要去改变内容审核的方式，更多地依赖AI进行审核，而不是人工进行审核。”当然，字节跳动肯定还要出来立一个牌子，表示我们准备一年投入20亿美金。这一定是一个很巨大的数字，让大家看到诚意。那么，我们要投入20亿美金干嘛呢？在全球范围内进行内容审核，确保我们的内容质量以及一些安全的内容被传播。</p>



<p class="wp-block-paragraph">那么，这个裁员背后到底有什么含义呢？首先，大家要想一个问题：马来西亚有700名内容审核员工，这些人审核的内容都是来自于马来西亚吗？这肯定是不可能的。马来西亚一共几千万人，他需要700个人坐在这里做内容审核吗？这个不会的。那么，马来西亚的700名内容审核人员审核的内容是哪来的呢？其实是来自于全球的TikTok用户，至少是英语用户，应该都是在这里进行审核的。</p>



<span id="more-1631"></span>



<p class="wp-block-paragraph">你说不应该美国的内容在美国审核吗？欧盟的内容在欧盟审核？大家要注意，内容这个东西其实有两个所在地，一个是哪里产生的，一个是哪里播放的。那么，应该是哪里产生的内容，在哪里审核。而且，不管是欧盟也好，还是美国也好，也都是有相应的法律或者法规，有类似这种要求和规定的。</p>



<p class="wp-block-paragraph">但是，如果真的在欧盟或者美国设置这种审查机构的话，第一个，审核标准可能就会被泄露。因为很多的审核标准对于欧盟和美国来说，你是可以做，但不可以说你使用这样的一个标准。万一他的员工出去说了，字节跳动内部要求我们这么去审核内容，这个事肯定受不了。第二个，这些人离整个的管理总部非常遥远。字节跳动的管理总部是在哪里？至少TikTok对外宣称，他们的管理总部是在新加坡的。你说如果在美国设置了一个内容审核的分支机构……</p>



<p class="wp-block-paragraph">有大量内容审核人员在那里工作的话，那你管理起来是很麻烦的啊。你有点什么事说来，上我这边来一趟。如果你在马来西亚的话，可能如果在新山，过一个关口就到了。如果你要是在美国的话，那得飞十几个小时才能飞过来，还有时差的问题。你在马来西亚上班跟在新加坡、北京，其实是在同一个时区里，大家就可以说几点开个会，什么都不会有问题。你要在美国或者在欧洲上班的话，那就要去协调时差，应该如何去处理。因为一旦有这种时差的话，很多事情就以天为计了。今天大家交会的这个时间赶不上了，那么我们只能在明天大家都方便的时间再去开会。这对于像字节跳动这样非常高效率运作的公司来说，是比较难以接受的。</p>



<p class="wp-block-paragraph">而且马来西亚还有几个好处。第一个是什么呢？就是他的人力成本其实是比较适中的。虽然马来西亚这个国家并不穷，但是他们主要的财富是来自于石油。普通人的薪资并不是很高，肯定要比印尼、菲律宾、泰国这些地方要高，但是相对于欧美日韩，或者是国内的北上广深来说，还是比较有性价比的。你就更不要跟新加坡比了。在这样的一个薪资情况下，马来西亚人的英语水平还是不错的，因为英语也是他们的官方语言，从小受教育都是要去学习英语的，对吧？那么有一批人，距离新加坡管理总部很近，随时可以过个口岸就到那边开会，或者那边有个人坐公交车、坐地铁就可以过来开会了，还没有时差，直接进行沟通。工资不高，还讲英语，那么在这种地方就非常适合设立审核机构。</p>



<p class="wp-block-paragraph">因为大家知道，像TikTok也好，国内抖音也好，都是要依靠巨大量的人工审核来去满足各国政府对于内容的需求的。刚才我们讲了，谁可以放什么内容上来，是有一个地方会审核，然后哪一个国家可以放哪些内容出来，是另外一个的审核。但是一般播出的审核并不是需要那么多人力，他们是说在你上传视频的时候，对视频打了标签，说明这个视频应该是什么样的视频。</p>



<p class="wp-block-paragraph">在讲一个什么样的事情时，在播出的时候，他只需要过滤说：“我这个国家允许哪一个事情讲到什么样的级别，允许哪一个样的事情讲，还是不允许讲。”他只需要设置这个过滤条件就行。因为TikTok在马来西亚产生的内容、在美国产生的内容、在欧洲产生的内容，其实都是可以进行流动的。他是可以说在美国看到欧盟产生的内容，这是没有问题的。但是，假如美国做了一些内容出来以后，到了欧盟那边，可能相应当地的一些法律说这个内容是不许放，那个内容是不许放，他就可以进行这样的过滤。</p>



<p class="wp-block-paragraph">但是，内容本身的标签呢，都是在内容产生的时候就给你做好的。下一个问题是什么呢？就是各个国家都希望：“我们自己产生的内容，你不要拿走审核， 你就在我这审核。”他们也是为了进行用户的隐私保护。在这样的一个要求前提下，字节跳动说现在AI的能力已经变强了，我们准备重新分散。我们把马来西亚的这些审核人员干掉一部分，或者是很大的一部分。应该我相信这700人并没有把整个马来西亚的审核团队都干干净。</p>



<p class="wp-block-paragraph">字节跳动的这种审核团队，那个经常是以几千人、几万人计的，至少是在国内抖音上面的这个审核团队是非常庞大的。因为你想，你要审核视频，人的审核效率并没有那么高，真的是需要看很多视频。我记得以前我们在盛大的时候，下边有个公司叫酷6，他们那个时候的审核就跟看监控似的，一个人面前大概是9个窗口还是12个窗口， 一直在播放，然后你在下头看着那个，我觉得真的是要把人看傻的一个状态。</p>



<p class="wp-block-paragraph">马来西亚这个裁撤了以后，应该是有一部分的工作可以转到AI了。这一部分的工作可能就可以到当地，比如说到美国、到欧盟，你用比较少的人，比如马来西亚才撤700人，到欧盟你说：“我这增加了个二三十人，配合AI也可以基本完成审核。”这个可能性是存在的。那么AI怎么审核这些内容呢？AI审核的第一步其实是把你内容相关的所有文字都拎出来。你在里边加了字幕了，有语言了。</p>



<p class="wp-block-paragraph">然后写了这个标题，写了标签。他先把这些东西都拎出来审一遍，审完了以后呢，再去审里边的这些视频内容，真正的这种图像。因为这个审核算力的成本还是比较高的。你说我这个图像里头有没有一些色情内容，或者有一些歧视性内容，或者举了一些这种歧视性的手势，这个你要想把它认出来的话，成本非常高。</p>



<p class="wp-block-paragraph">像这种AI审核呢，其实更多的是什么？更多的是说，先看看你这个内容有没有人看。如果没有人看呢，我们就少分配一些算力，少分配一些人去看这个东西。一旦说你这个内容看的人很多，流传的非常广泛，他就会分配更多的算力，甚至是人力，直接去检查这个内容是不是有效，或者是不是有问题。</p>



<p class="wp-block-paragraph">怎么说呢，突然进行快速传播的内容里头，一定是有一些奇奇怪怪的东西的，一定会有一些擦边的内容。所以一旦发现有内容突然爆炸性传播了，快速的裂变了，其实这时候呢，不要再讲AI的事，上人力审核，可能绝大部分的情况都会判定内容本身有问题，直接把它干掉。这是一种。</p>



<p class="wp-block-paragraph">还有一种是什么呢？就是它这个内容上线之前，其实除了对文字之外，其他的并没有进行严格的审核。一旦有人投诉了，或者投诉达到几个以后，他们再去进行机器过滤。如果机器过滤的过程中发生争议了，再去进行人工审核。这实际上是一个工程的方式，就是通过如何有效的去分配审核成本，保证有问题的内容不会大量传播。</p>



<p class="wp-block-paragraph">他们不会说有问题的内容一个都不会出来，这没有人会要求这样的事情的。他们只是要求尽可能的把损失或者损害控制在可以接受的范围内，也就可以了。</p>



<p class="wp-block-paragraph">那么在马来西亚裁员呢，可能还有一个大家想不到的原因。马来西亚有一个特别有意思的规定，就是你一旦要在马来西亚去做公司的话，你要尽可能的雇佣马来西亚本地人。他们的要求呢，就是如果你是制造业企业，你至少应该有80%的员工是拥有马来西亚国籍的人。为什么会有这种要求呢？就是马来西亚其实是个福利国家，就是他自己产石油嘛，你在那里生活，他的米面粮油啊。</p>



<p class="wp-block-paragraph">特别是这种汽油什么的，是非常便宜的。他有补贴进去，这样的福利国家里头，肯定是希望把福利发给本国的公民。我不希望很多外国人上我这来蹭这个福利。他周围一个是印尼，一个是新加坡。新加坡人是不会跑到他那蹭福利去的，新加坡政府也不允许。</p>



<p class="wp-block-paragraph">比如说，你想开个车上马来西亚去加油，这事是不行的。你离开新加坡的时候，那个车里头必须加满了油才允许离开。那么会有很多的印尼人到马来西亚去打工，包括有很多华人中国人跑到马来西亚去工作，还有很多印度人跑到马来西亚去工作。这对于马来西亚来说，并不是那么欢迎。他们希望尽可能雇佣马来西亚人。</p>



<p class="wp-block-paragraph">像互联网公司，比如说字节跳动这样的公司，没有那么严格的要求，说你必须有80%是马来西亚籍员工。但是呢，马来西亚政府也希望你尽可能的去雇佣马来西亚人。这个事情跟刚才我们讲的700名马来西亚员工被裁撤，到底有什么关系呢？大家要知道，字节跳动肯定希望把更多的技术人员挪到新加坡去干活，去在那边完成TikTok的各种任务，而不是希望说这些人坐在北京给他们干活，因为这对于美国人来说就说不清楚了吧。</p>



<p class="wp-block-paragraph">你看，TikTok的各种算法还是在北京办公室修改的，这个很痛苦。那么弄到新加坡呢，也有一个新的问题。新加坡本身在去做工作签证、永居什么的，其实没有那么容易。他的门槛很高，而且新加坡的生活成本也很高。很多在新加坡的这种IT企业，或者叫互联网企业，他们就会想办法把一部分的员工放在马来西亚，因为很近嘛，就是过一个关口就到了一个地方。</p>



<p class="wp-block-paragraph">那么在这样的情况下，他们就需要一些配套的马来西亚人跟他去平衡。那怎么个配套法？假设不需要80%的马来西亚员工，这种互联网公司说，我们灵活一点吧，70%的马来西亚籍的员工就OK了，剩下30%你可以雇佣外籍员工。那么字节跳动在马来西亚可能就会有两三百名中国籍的员工，在那里进行一些算法运维或者编程开发方面的工作。咱们并不是说……</p>



<p class="wp-block-paragraph">马来西亚自己人不会做这个事啊。因为我当时去马来西亚也跟他们聊过，他们跟我讲，在吉隆坡还是有一些互联网公司，有些软件公司。但是里面的一些软件开发岗，可能更多的还是从中国大陆来的人。</p>



<p class="wp-block-paragraph">他们本地的这种培训、教育出来的软件人才，做得好的人就直接跑了，就是去新加坡了，或者去美国了。我以前有一个投资的案子，那就是一个马来西亚华人。他呢，计算机水平肯定是很高了，学好了以后呢，就直接去美国了，还在中国工作了一段时间，最终他是在印尼创业。</p>



<p class="wp-block-paragraph">所以马来西亚并不是本地不产这些计算机人才，他们本地产的人才都跑了。在马来西亚本地，你需要比较高精尖的编程算法，这样的事情的人呢，你就只能再去找中国大陆的人去做。可能是有两三百名字节跳动的中国级员工，或者是其他国级的员工在马来西亚上班。这些人有可能离开了，也会导致说我不需要再在马来西亚配置这么多的本地员工跟他进行平衡了，这个可能性也很大。</p>



<p class="wp-block-paragraph">那你说字节跳动在什么样的情况下会说我需要把中国级员工从马来西亚裁撤掉呢？这个我们只能猜测了。可能就是AI发生了一些变化，因为大家要知道，字节跳动在AI这个领域里头是进行重金的这种投入的，他在这里边投的非常非常大。字节跳动肯定希望在AI时代，能够发展成像梅塔、像谷歌这样的一种底层基础架构公司。</p>



<p class="wp-block-paragraph">最近在全世界范围内，AI有一些新的风潮，就是OpenAI做了O1，做了其他的一些，好像依然在GPT-4O这个水平上晃来晃去的产品。这个其实会告诉大家什么呢？就是模型继续往前走，其实方向并不明确，会有这样一个指导方针出来。大家可能对于进行大模型本身质量提高这件事呢，热情就会下降，更多的会把精力放在说，我们要去做应用，我们要去解决实际问题这件事情上。</p>



<p class="wp-block-paragraph">就是现在我们使用GPT-4O这样水平的模型，如果能够配合上很好的应用的话，可能就真的可以搞定很多的应用场景了，而不是说，我要想办法把GPT-4或者4O。</p>



<p class="wp-block-paragraph">推到GPT-5这样的一个高度上去，这才是现在大家要去努力折腾的事情。可能字节跳动就会说：“我们不需要这么多员工，在马来西亚去占这个坑了，你们都回来，回到中国来，咱们好好去做APP吧。”这个可能就会发生变化。而且，现在也有一些指标在印证这件事情。什么指标呢？H100的租售价格，因为大家知道，买英伟达H100是很难的。但是很多人买完了以后会对外出租，租每个小时多少多少钱。现在这个出租价格在快速下跌。所以，大家其实现在对于大模型在向下一个阶段推进是有一些顾虑的，而且也缺乏方向。可能真的要等OpenAI做出GPT-5，来说：“哦，原来方向在这里。”然后大家再去疯狂的租用H100或者以后的D200这样的芯片，再去推新的模型出来。</p>



<p class="wp-block-paragraph">字节跳动在这个时候进行这样的调整，背后的原因基本上是三个。第一个，跟美国的诉讼还在激烈进行当中，所以整个的审核团队的配置一定会发生调整，把原来集中在马来西亚进行审核的很多岗位分散到欧盟和美国各地去，这是要干的第一件事。第二个，它的AI审核现在已经相对比较成熟，可以一部分替代人工的工作了。第三个，字节跳动的AI战略也发生了一定的调整，在马来西亚不需要那么多的中国员工了，所以也不需要跟他们配套的那么多的马来西亚员工。如果可以在马来西亚减少一定的审核员工的话，他们完全可以把这些员工放到一些成本更低的地方去。什么地方的人又讲英语，成本还更低呢？菲律宾啊，那个地方的成本会比马来西亚还要再低一些。这也是有可能导致这一次人员移动的原因。</p>



<p class="wp-block-paragraph">这一次的马来西亚裁员，反映出字节跳动在全球进行成本控制以及技术发展监管合规之间的一种平衡。对于未来，大家可能可以看到更多的内容审核会用AI配合人工，或者配合少量人工的方式，分散在全世界各地进行本地处理。AI现在正在走向一个模型突破，看不到曙光，应用突破，大家努力投入的一个新的变化。</p>



<p class="wp-block-paragraph">字节跳动，甭管是抖音还是TikTok，肯定都是现在全球所瞩目的一个核心靶子。字节跳动应该是目前还没有上市的最贵独角兽，即使是刚刚完成融资的OpenAI，也就是1,500多亿，而字节跳动的估值现在是有2,000多亿。而且普遍认为，字节跳动的估值是被极大低估的。</p>



<p class="wp-block-paragraph">你说字节跳动如果真的是上市了，即使是TikTok和抖音分拆上市了，这两边加起来的市值应该是可以接近像梅塔，或者是接近上万亿美金的一个级别的。他的各种动作一定会被全世界的人，或者是全世界像我们这种科技博主所关注、所解读的。</p>



<p class="wp-block-paragraph">今天呢，我们也去解读一下字节跳动在马来西亚裁撤700名员工，可能背后隐藏的各种意义。感谢大家收听，请帮忙点赞，点小铃铛，参加Discord论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>OpenAI推出GPT 4o mini，这是要卷死谁？Sam Altman封禁中国 API IP后放大招，你就给我看这个？中国大模型是不是有机会弯道超车？</title>
		<link>https://lukefan.com/2024/07/23/openai%e6%8e%a8%e5%87%bagpt-4o-mini%ef%bc%8c%e8%bf%99%e6%98%af%e8%a6%81%e5%8d%b7%e6%ad%bb%e8%b0%81%ef%bc%9fsam-altman%e5%b0%81%e7%a6%81%e4%b8%ad%e5%9b%bd-api-ip%e5%90%8e%e6%94%be%e5%a4%a7%e6%8b%9b/</link>
		
		<dc:creator><![CDATA[老范 讲故事]]></dc:creator>
		<pubDate>Tue, 23 Jul 2024 00:48:07 +0000</pubDate>
				<category><![CDATA[AIGC]]></category>
		<category><![CDATA[100亿参数]]></category>
		<category><![CDATA[10亿参数]]></category>
		<category><![CDATA[70亿参数]]></category>
		<category><![CDATA[AI Agent]]></category>
		<category><![CDATA[AI模型策略]]></category>
		<category><![CDATA[Anthropic Cloud H3]]></category>
		<category><![CDATA[API代理]]></category>
		<category><![CDATA[API服务]]></category>
		<category><![CDATA[API调用]]></category>
		<category><![CDATA[GPT-3.5]]></category>
		<category><![CDATA[GPT-4o]]></category>
		<category><![CDATA[GPT-4o MINI]]></category>
		<category><![CDATA[OpenAI]]></category>
		<category><![CDATA[Plus用户]]></category>
		<category><![CDATA[Plus订阅计划]]></category>
		<category><![CDATA[个人服务器]]></category>
		<category><![CDATA[中国市场]]></category>
		<category><![CDATA[云端模型]]></category>
		<category><![CDATA[产品发布]]></category>
		<category><![CDATA[付费频道]]></category>
		<category><![CDATA[价格便宜]]></category>
		<category><![CDATA[价格策略]]></category>
		<category><![CDATA[低价模型]]></category>
		<category><![CDATA[免费用户]]></category>
		<category><![CDATA[函数调用]]></category>
		<category><![CDATA[分岔趋势]]></category>
		<category><![CDATA[功能集成]]></category>
		<category><![CDATA[参数未公开]]></category>
		<category><![CDATA[台式机模型]]></category>
		<category><![CDATA[合作伙伴]]></category>
		<category><![CDATA[商业模型]]></category>
		<category><![CDATA[商业策略]]></category>
		<category><![CDATA[大模型市场]]></category>
		<category><![CDATA[大模型替代]]></category>
		<category><![CDATA[封禁中国IP]]></category>
		<category><![CDATA[小模型]]></category>
		<category><![CDATA[小模型效能]]></category>
		<category><![CDATA[工作流]]></category>
		<category><![CDATA[工作站级别]]></category>
		<category><![CDATA[市场占有率]]></category>
		<category><![CDATA[市场反馈]]></category>
		<category><![CDATA[市场竞争]]></category>
		<category><![CDATA[市场趋势]]></category>
		<category><![CDATA[市场需求]]></category>
		<category><![CDATA[应用开发]]></category>
		<category><![CDATA[开源模型]]></category>
		<category><![CDATA[微型模型]]></category>
		<category><![CDATA[技术优势]]></category>
		<category><![CDATA[技术创新]]></category>
		<category><![CDATA[技术挑战]]></category>
		<category><![CDATA[技术程度]]></category>
		<category><![CDATA[技术进步]]></category>
		<category><![CDATA[技术领先]]></category>
		<category><![CDATA[数据调用]]></category>
		<category><![CDATA[未来计划]]></category>
		<category><![CDATA[本地部署]]></category>
		<category><![CDATA[模型升级]]></category>
		<category><![CDATA[模型性能]]></category>
		<category><![CDATA[浏览器插件]]></category>
		<category><![CDATA[用户体验]]></category>
		<category><![CDATA[用户分叉]]></category>
		<category><![CDATA[用户反馈]]></category>
		<category><![CDATA[用户吸引力]]></category>
		<category><![CDATA[用户满意度]]></category>
		<category><![CDATA[用户粘度]]></category>
		<category><![CDATA[用户需求]]></category>
		<category><![CDATA[田忌赛马]]></category>
		<category><![CDATA[移动端模型]]></category>
		<category><![CDATA[竞争对手]]></category>
		<category><![CDATA[竞争策略]]></category>
		<category><![CDATA[端侧使用]]></category>
		<category><![CDATA[端侧竞争]]></category>
		<category><![CDATA[经济考量]]></category>
		<category><![CDATA[经济高效]]></category>
		<category><![CDATA[视觉多模态识别]]></category>
		<category><![CDATA[训练成本]]></category>
		<category><![CDATA[谷歌Gemini Flash]]></category>
		<category><![CDATA[输入100万TOKEN]]></category>
		<category><![CDATA[输出100万TOKEN]]></category>
		<category><![CDATA[高性能模型]]></category>
		<category><![CDATA[高效模型]]></category>
		<guid isPermaLink="false">https://lukefan.com/?p=1426</guid>

					<description><![CDATA[OpenAI在封禁中国IP访问其API之后，第一个大动作居然是发布了一个GPT4o mini。你发布了个小模型 ... <a title="OpenAI推出GPT 4o mini，这是要卷死谁？Sam Altman封禁中国 API IP后放大招，你就给我看这个？中国大模型是不是有机会弯道超车？" class="read-more" href="https://lukefan.com/2024/07/23/openai%e6%8e%a8%e5%87%bagpt-4o-mini%ef%bc%8c%e8%bf%99%e6%98%af%e8%a6%81%e5%8d%b7%e6%ad%bb%e8%b0%81%ef%bc%9fsam-altman%e5%b0%81%e7%a6%81%e4%b8%ad%e5%9b%bd-api-ip%e5%90%8e%e6%94%be%e5%a4%a7%e6%8b%9b/" aria-label="阅读 OpenAI推出GPT 4o mini，这是要卷死谁？Sam Altman封禁中国 API IP后放大招，你就给我看这个？中国大模型是不是有机会弯道超车？">阅读更多</a>]]></description>
										<content:encoded><![CDATA[
<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio"><div class="wp-block-embed__wrapper">
<iframe title="OpenAI推出GPT 4o mini，这是要卷死谁？Sam Altman封禁中国 API IP后放大招，你就给我看这个？中国大模型是不是有机会弯道超车？" width="900" height="506" src="https://www.youtube.com/embed/NlHlullCcvA?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
</div></figure>



<p class="wp-block-paragraph">OpenAI在封禁中国IP访问其API之后，第一个大动作居然是发布了一个GPT4o mini。你发布了个小模型，这究竟是要卷死谁啊？中国团队是不是有机会弯道超车呢？大家好，这里是老范讲故事YouTube频道。Open AI第一次发布微型模型，以前的Open AI都是一个比一个大，因为原来人家讲的叫Scaring Law，就是这种伸缩法则，只要是变大，我一定会变强。而且，也嘲笑那些小模型说你们肯定不行啊，一定是大的好使。我自己原来也是很喜欢使用大模型，有大的不识小的，这是我原来挑选模型时候的基本原则。但是现在，Open AI开始卷小模型了。</p>



<p class="wp-block-paragraph">Open AI的这个GPT4O mini有什么特点呢？第一个，快啊，小模型一定是比大模型跑得快的。另外，就是极其便宜，它这个里面输入的信息，100万TOKEN，15美分啊，非常非常便宜了。输出的信息呢，是100万TOKEN，60美分，也就相当于是100万4块多人民币啊，已经快要接近国内的这些模型的价格了。效能呢，也应该是比GPT3.5要强一些啊，这是GPT4O MINI的一个基本情况。</p>



<p class="wp-block-paragraph">那么，这样的一个鼓励越大越好的公司，原来更多的人力肯定是去研究更大的模型去了。现在说不，我要上一个小的，而且这种小模型呢，跟一般的小模型还有区别。区别在于它可以支持Function Call，可以支持视觉多模态的识别。那么，这是GPT4O MINI比其他的普通小模型所独有的特点。</p>



<span id="more-1426"></span>



<p class="wp-block-paragraph">以上就是关于Open AI发布GPT4O mini的全部内容，如果你对这个话题感兴趣，欢迎在评论区留言。我们下期节目再见！</p>



<p class="wp-block-paragraph">型U的地方，那么MINI到底有多大呢？并没有说。其实啊，大家出的这种小模型，这种必原厂商出的小模型，都是不会对外讲说“我到底有多大”。包括一些开源厂商自己去出的一些啊，闭园小模型，也不会告诉外边到底有多大。比如说吧，灵异万物对吧，他的对外模型是开源的，告诉你这个是6B的，9B的，34B的。但是呢，它自己内部壁源的这些模型，就是你直接通过商业方式去买的啊，它就分什么medium，large，是这样分的啊，你不知道它到底有多大。包括像谷歌啊，Gemini Flash到底有多少个参数，你也不知道。Gemini Pro你也不知道有多少参数啊，cloud三个版本，其实各个参版本有多少参数，都是不说的啊。所以啊，Open AI的GPT4O mini到底有多少个参数，也不知道。现在呢，大家普遍猜测应该是在10币以内，大概也就是7币，也就70亿到100亿之间的参数，应该算是最小一个档次的。</p>



<p class="wp-block-paragraph">怎么用这个模型呢？免费用户跟plus用户，已经可以跟GPT3.5说再见了。那就是我们现在打开了啊，Open AI的聊天网站之后，能够看到的三个模型：一个叫做GPT4O，一个叫GPT4，一个叫GPT4欧mini。三点五已经彻底成为过去式了。API的用户，你现在依然可以使用3.5，因为这个是不可能马上取消的啊，大家都写在程序里头了啊。模型的名字叫GPT3.5，特本什么什么的叫这样名字，你要说我直接把这个模型关闭了。不过，这通常不会发生，因为很多用户和开发者都依赖于它。</p>



<p class="wp-block-paragraph">然后，上1GPT 4O mini一下替代掉的话，这事肯定不行对吧？那个程序会报错的。所以啊，GPT4O mini啊，现在已经可以为啊，直接使用Open AI API的这些用户开放了。啊，但是呢，3.5还是可以用的，现在我还没法使啊。为什么呢？因为我没有办法，直接从Open AI去买它的API服务的啊。它会识别出来，我在中国大陆不会为我服务的。所以，我现在的CPT相关的API，是通过扣子或者是一些Open AI代理服务去购买的。但现在，这个上面都没有GPT4O MINI的这个模型。为什么在这样的一个时间点，出了这么一个产品呢？他把中国大陆的API的IP封掉了以后，本来想着，他是不是专心的做个GPT5出来，或者做一点啊，把这个前面吹过的牛稍微能还上一点啊。怎么现在整了那么个小东西出来？</p>



<p class="wp-block-paragraph">首先，大家要想清楚一个问题啊，Open AI就是行业里边的老大。老大最怕什么啊？老大怕竞争吗？啊，现在没有人跟他竞争啊，谁也竞争不过他。虽然现在号称御三家，就是谷歌、Siropic和Open AI里头，已经可以打个有来有回了。但是，从市场占有啊，从整个技术的程度上来说，Open AI还是绝对领先的。那么，他到底怕什么呢？他害怕的东西叫分叉啊。什么叫分叉呢？就是有很多的人是不会去看别的服务的，也不会去用任何其他的大模型，上来就用Open AI家的啊，其他所有我都不用。那么，这个呢，就属于忠实铁粉。但是一旦分岔了以后，可能会出现一些小的分支，这些分支会逐渐壮大，最终可能会影响到Open AI的市场地位和影响力。为了避免这种情况的发生，Open AI可能会采取一些策略，比如推出GPT4O MINI这样的产品，来吸引更多的用户，保持其在市场上的主导地位。同时，通过限制某些地区的直接访问，Open AI可能也在试图保护其技术和市场，防止技术的过度扩散和滥用。</p>



<p class="wp-block-paragraph">大家说：“哦，不，我不能只用Open AI的，我所有的都要用一下。我要在不同的场景里头，找到不同合适的模型来使用。这个过程要分叉了，老大最怕的就这件事情。他现在已经看到了有分叉的这种方向了啊，或者说，他现在已经看到了有分叉的趋势了。所以，必须要冲出来说，我要把所有分叉的趋势，掐死在萌芽状态啊。这就是GPT4O MINI发布的一个大的前提。因为GPT4和GPT4欧，包括GPT4 Turbo所有的这些模型呢，它比较贵。越来越多的人呢，就希望转型。像我现在做很多这种AI agent，这种工作流，我会把最费劲的一个点交给GPT去做。对于理解能力，对于推理能力没有那么强的节点，我都尽可能去选择更便宜的，这种大模型来工作，或者更小一点的大模型来工作。这个是经济的考量啊，而且我们发现，在这种稍微小一点的大模型，你让他做简单的工作，效果其实是很好的，并不比GPT4差啊。这个是现在Open AI不能允许的啊，你们就老老实实的，你要想去用这个小模型，我也给你提供上啊。这个是要注意。</p>



<p class="wp-block-paragraph">而且呢，现在所有在跟Open AI竞争，或者说在Open AI这条道路上，追赶他的这些人呢，目标都很明确。怎么叫目标明确呢？每一个人上来说，我现在都是接近GPT4对吧，没有人超过啊，就很少有人超过，或者可能只是在个别指标上超过。整体超过的，现在还没有，或者说不多吧。但是呢，我们现在甭管国内的大模型，国外的大模型，都在努力地追赶，试图在某些方面超越Open AI，这是一个非常明显的趋势。</p>



<p class="wp-block-paragraph">都说我现在已经接近GPT4了，然后呢，遥遥领先于GPT3.5。对吧，这也是现在的一个时间点。而且，很多的小模型，甚至是这种70亿、100亿、300亿、几百亿这种模型，都已经超过GPT3.5了。GPT3.5有多少个参数呢？当时是1750亿个参数，这么多的参数，怎么还这么差呢？这么多年了，时代在进步，而且AIGC大模型的发展，真的叫日新月异，每一天每一个小时都在发生变化。</p>



<p class="wp-block-paragraph">这么长时间过来以后，你用原来这种架构，GPT3.5的这种架构，它确实是效能比较低了。所以现在很多的这种1000亿以内的，700亿的，或者是更小一点的，几百亿的，都可以超过GPT3.5。那么GPT3.5就已经必须退役了。</p>



<p class="wp-block-paragraph">退役的原因也很简单：第一个，原来GPT3.5一直挂在那，不是说Open AI没有更好的模型给大家用，而是什么呢？他希望让你去买它的Plus，让你说，哎，你看这个实在是难使吧，你直接升级，一个月20美金就可以有GPT4用了。GPT3.5跟GPT4之间，一定要有一个很明显的，个人可以直接感知到的差异，你才会觉得我这20美金一个月花的值，否则的话，你会觉得花的不值了。</p>



<p class="wp-block-paragraph">但是现在其他的模型都赶上来了，你再继续摆这么一个3.5在这恶心人，就已经不太合适了。另外一个是对于免费用户来说，GPT3.5实在是缺乏吸引力，我不愿意付钱，我可以使用Gemini呀，我可以使用很多的其他免费的这种模型。</p>



<p class="wp-block-paragraph">这些模型，现在已经完完全全超越三点儿五了。所以，这个也是到了该抛弃三点儿五的时候了。另外呢，很多的API代理也让Open AI非常不爽。像我就是用的API代理啊，API代理呢，像跑冒滴漏。像我现在用Open AI的所有API，价格应该是至少打到4折，或者是还要更低一些的折扣啊。我就可以去使用。</p>



<p class="wp-block-paragraph">到了那么这些的话，Open AI觉得就算是打折，也应该从我这打啊。凭什么你就去打折了啊？这个他是不开心的。而且他现在降到这样的一个程度，为什么这些API代理没有跟进呢？他没利润啊，这些啊，也是会对他们造成一定的影响和损失。</p>



<p class="wp-block-paragraph">另外，也要开始应对中国了。Open AI肯定发现，封堵了中国IP的API调用之后，Open AI调用数据一定是在暴跌的啊。这个肯定也不是他们希望看到的。</p>



<p class="wp-block-paragraph">现在我们要讲一下田忌赛马的故事。田忌赛马是什么？就是用我最好的马，对应你这个中间的马啊，用我中马对应你的下马啊。你最上面那个你赢一场算了，剩下的我赢两场。在大模型这个行业里头，其实也是如此的。大家呢会分成不同的层次去竞争，端侧的竞争，就是说我们甭管在手机端、PC端还是各种的啊，设备端吧。那么现在大家在争的是什么？Open AI基本上是不参加端侧竞争的啊。哪怕它是GPT4OMINI，到目前为止，也没有说，这个产品可以给大家在端上使用啊。当然你说，未来会不会把这东西拿到端上来使用？不确定啊。但是至少现在没有说这个事儿。</p>



<p class="wp-block-paragraph">呃，它这个大家猜测在10B以内，可能7B到8B这样的一个水平上。按道理说，是在手机上可以运行的。对吧，可以在iPhone里头跑。那么是不是说，呃，跟苹果合作了，我干脆就把这东西呃，拿出来就给大家用了。是不是他给了苹果一个类似于一个GPT4OMINI的版本，但是苹果你不允许拿出去再扩散了啊。但是在iOS 18里边，应该会带这样的一个东西，可能性是存在的啊。啊，但是这个事谁都没说。</p>



<p class="wp-block-paragraph">在端侧竞争上，一般移动端呢，5B以内的跑的是比较好的啊。你如果手机的配置高一些，跑到7B到9B应该也还是能跑的。台式机呢，你到10B左右啊，都是没有什么问题的。包括我们后边讲的这些AIPC，其实AIPC是所有能够跑大模型的台式机里头，水平比较烂的啊。那么工作站呢，就是我们比较高端的台式机，比如说你这里头有独立显卡啊，4090，然后不是4090，你有个四零六零，四零七零那样的独立显卡，或者比如说像我们使用麦克这种呃，M1，M2 Max，或者M3 Max这样的这种机器的啊，那么它就基本上属于工作站级别了。这种机器里头呢，大概跑到三十几B都是可以跑通的啊。再大了跑不动了。</p>



<p class="wp-block-paragraph">然后像这种个人服务器上，是可以跑到70B的。咱们现在能够接触到的开源大模型，可以到本地跑的，基本上也就是70B，72B到头了。再大一点呢，啊，通1,000问1.5的时候出过一个110B啊，但是那个模型流行的并不是很广泛。</p>



<p class="wp-block-paragraph">绝大部分都是在七十几币就到头了。这个呢，就是在思域服务器上用的。而且，在70B这个档次上，现在Open AI肯定是感受到压力了。中国团队基本上在70B这个档次上，站稳脚跟了。咱们国内推的各种各样的大模型，基本上都是70B上下的。为什么？因为懒。Meta的LaMa3就是70B的。我们在这个基础上再去进行调整，或者再去进行一些相应的训练吧。我们出到72B，或者七十几B这样的一个模型，效果其实已经很好了。加上RAG，就是本地知识库的这种辅助，加上长上下文，再加上多模态搜索的辅助，效果其实跟GPT-4之间，已经没有那么差了。对吧，GPT-4就是说你不加上这些东西，它也可以回答的很好啊。你如果是加上这些，搜索辅助啊什么的，70B基本上够使。</p>



<p class="wp-block-paragraph">对于快速反应的这种低价模型来说，大家竞争的是什么？刚才咱们讲的是端侧模型啊。在云端模型其实也是分两拨的。一拨呢，就是大模型啊。大模型是，GPT啊，Gemini Pro这个，呃，Cloud Opus啊，这些就属于大模型啊，比较贵，性能比较高。那么大家都去推这种小模型，特别是另外两家。刚才预三家我们讲了啊，Open AI，谷歌和Anthropic。谷歌跟Anthropic都推了一种小模型，一个叫Gemini Flash，另外一个呢，叫做Cloud Haiku，叫这样的一个名字，都是相对比较小的，很便宜，反应速度很快。原来啊，GPT3，GPT是没有的，现在出来就是要去卷它们。大模型竞争。</p>



<p class="wp-block-paragraph">咱们自己去比一比啊。这个小模型，你们出了，我也得出一个。所以，咱们回答开题的那个问题：“Open AI到底想卷死谁啊？”他想卷死的是Gemini 1.5、Flash和Cloud 3，嗨酷啊。是选这两个产品，但是要注意啊，Cloud 3.5现在已经出来了。但是3.5呢，只出了Sonit一个产品啊。它是分三个档次的，这种大模型啊。一个叫做High酷，是最小的，估计应该是10亿币以内，也就是7亿左右的一个模型。然后是Sonit啊，3.5已经到Sonit，它呢应该是在二三十亿币。但是都不是对外公开的啊。还有一个叫Opus啊，Opus是最大的，但是Opus到底有多大，可能是上百亿币的一个模型对吧。现在呢，3.5已经把中间这个模型出来了，上下两个还没出，估计呢应该本月会出。</p>



<p class="wp-block-paragraph">所以在这个时候啊，Open AI说不行，我要把你这个底层的，这个给你封掉啊，让大家觉得啊，就算是用这种底层的小模型啊，这个也有一个更便宜的Open AI来用啊。这是他真正要去干的事情。那么对于开源模型来说的话啊，就是本地部署这个呢，Open AI应该不在这个赛道上啊。它有可能说，我用一些必源的模型，直接跟苹果，跟谁去合作，这个事可能是存在的。但是呢，他不会说我到GitHub上，到HuggingFace上，直接把这个GPT40 mini扔出来啊。应该不会干这个事情。</p>



<p class="wp-block-paragraph">那么对于中国团队来说，到底有没有弯道超车的机会？这是一个值得探讨的问题。</p>



<p class="wp-block-paragraph">这也是我们开题上的一个问题，对吧？“卷”就一个字，在这个字上呢，中国团队绝对是遥遥领先的。中国现在已经开始卷下一个层次了啊，在上一个层次里头，中国团队发现：哎，我只要把模型推到七十几，对吧，加上搜索辅助，加上reg，加上这个啊，长上下文，效果已经非常好了，对吧，不需要再往前推进了啊。真的效果非常好了吗？很多人说你是不是吹牛啊。他这个事是这么算，就是再有相差的这部分，个人感觉不出来，因为人的感受有时候很主观的啊。你不可能说：哎，我去招聘了，对吧，我一定要挑出最好的那一个来，不可能的。你一定是找了一个相对顺眼的，然后磨合了一段时间，发现：哎，这个工作还能干得下去，日子也能过得下去啊，也不讨厌，你就可能一直用这个人用下去。你不可能说：哎，旁边这个人，好像比我招的这小伙子，还要更厉害一点，对吧，我就马上把我这开了，把那个人招回来，不会干这个事了。在这样的一个情况下啊，我们只要用习惯了，慢慢的对于我们已经招聘进来的人，就会有更高的容忍度。为什么要讲招聘的故事呢？其实我们使用大模型的过程，跟招聘的过程差不多。在挑选的时候，我们一定是非常小心的，来去确定到底哪一个适合我们，我们的这个任务，它是不是可以很好的完成。一旦你把它挑进来了，下一件事是什么？就是我们要去跟他磨合，怎么能够跟这个大模型一起，把我们要做的事情做完。当大家互相习惯了以后的话，你不会说：哎，那个更好，我马上换人的。一个大模型，它是有很高的粘度的。</p>



<p class="wp-block-paragraph">所以，中国团队在70亿参数这一块，基本上已经达到了一个阶段，我们可以说，我们已经能够吸引一部分用户，而且这部分用户愿意留下来，持续使用我们的产品。再往前推进，当你提到我现在发布的几千亿参数的模型，也就是几百亿参数的这类模型时，第一个问题在于训练上，我们可能还没有完全搞明白，应该如何应对这个挑战，因为目前开源出来的就是70亿参数的模型，再大的版本现在还没有开源，所以这件事情还搞不定。</p>



<p class="wp-block-paragraph">那么再往上，你说我们闭着眼睛去研究一下行不行？也不行，为什么呢？因为越大的模型，你训练的成本就越高，而且越难去控制。在这种情况下，我们可以说，我们就停在这了。那么停在这，中国团队现在在干嘛呢？他们搞APP开发，搞各种接触用户的方式，我们现在要去获取所有用户，这是我们已经开始卷的东西，Open AI还没卷到这呢，我们其实已经开始弯道超车了。</p>



<p class="wp-block-paragraph">你说Open AI不是也有APP吗？它有安卓APP，有iOS APP，甚至最近还开始出Mac APP。但是你要想清楚，中国人做的是什么呢？聊天、搜索、绘图、情感陪伴，都整合在了一个APP里头。而且，我们的APP是Windows、Mac、安卓、iOS全都有。你说Open AI自己为什么不做一个Windows APP？亲爹不让啊，谁是亲爹？微软。微软说这个事情打住，我在那边玩Copilot，你自己不要来找这个事情，你到Mac那边去玩耍就可以了。有什么问题，去霍霍苹果，不要来霍霍我，这个他就没法整。而在中国，你看看啊，豆包，所有的平台，都在积极地推进和用户接触的策略。</p>



<p class="wp-block-paragraph">Windows、Mac、iOS、安卓，全都出齐了。而且，它还把所有的功能都集齐了。像Open AI做的Mac版的APP，只能干嘛呢？就是回答问题。也就是说，你可以听话，可以去语音识别，他就干这些事情就完事了。中国的就什么都可以干啊。你让他去唱歌跳舞，让他去画图，让他去做图像识别，包括各种的角色扮演，就是Carrot AI做的那些事情啊，咱们也都可以搞定。只要是外边有的，只有咱想不到，没有咱做不了的啊。这一块还是非常好用的啊。我现在用的量很大的就是豆包APP啊，非常好使。然后另外一块我们再卷的是什么呢？啊，Chrome的这个插件啊，就是在浏览器上做插件。因为现在的浏览器，基本上都是Chrome的内核啊，甭管是Chrome的啊，还是这个微软的Edge，底层都是Chrome啊。所以我们现在在上面做插件，甭管是Kimi还是豆包，都在上面卷插件。而且那个插件的功能，那全的是一塌糊涂。你一旦在浏览器上装了豆包插件了，然后你去用谷歌搜索豆包，就在侧边栏开始对搜索结果进行总结。你说哎我现在去看一下YouTube，马上旁边就开始给你做，我给你做个视频总结吧啊。甚至说你在这看YouTube的时候，他说我给你翻译个字幕吧。或者我随时在浏览器里头，选中一个单词，选中一句话，他说我帮你翻译一下吧。或者说你在浏览器里头有一个空格啊，或者叫有一个输入框，需要你输入信息的时候，他马上跳出来想输入点什么，我帮你润色一下。</p>



<p class="wp-block-paragraph">要不要从上到下，事无巨细，只要他能粘手的地方，全都给你冲上来？说来，我在这呢，让我看点什么吧。或者说你现在浏览一个网页，说帮我总结一下。那这是人家的本行，干的甭提多好了。这一块，中国已经彻底卷风了啊。那你说美国人不做这种浏览器插件吗？也做，但是呢，美国人做都是小团队或者个人做。那你跟像豆包这种，可能后边有好几十人，上百人的团队，大家领着薪水，加着班，然后疯狂的往前卷。这事谁卷谁啊？对吧，你肯定卷不过他。现在在接触用户这角度上说，甭管是做APP，做浏览器插件，这啊，中国团队已经弯道超车了啊啊。</p>



<p class="wp-block-paragraph">至于说Open AI，现在再去推出的GPT4 Omni，实际上它已经是在追赶其他人，但不是追赶我们啊。它在追赶的是谷歌的Gemini Flash和Anceropic的啊，CloudHi苦啊，在追赶这两个产品，希望把他们卷死。我们现在已经在另外一个层次上，在卷了，等他们把这仗打完了以后，发现哎，这个用户都已经被中国团队卷干净了啊。可能会出现这样的情况。</p>



<p class="wp-block-paragraph">好啊，这个故事就跟大家今天讲到这里。感谢大家收听，请帮忙点赞，点小铃铛，参加Disco讨论群。也欢迎有兴趣，有能力的朋友加入我们的付费频道。再见。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>黄仁勋AI时代英伟达GPU革命：一场市值2.7万亿美金的狂欢，COMPUTEX 2024重磅发布Blackware GPU，1.8万亿参数GPT4揭秘！</title>
		<link>https://lukefan.com/2024/06/04/%e9%bb%84%e4%bb%81%e5%8b%8bai%e6%97%b6%e4%bb%a3%e8%8b%b1%e4%bc%9f%e8%be%begpu%e9%9d%a9%e5%91%bd%ef%bc%9a%e4%b8%80%e5%9c%ba%e5%b8%82%e5%80%bc2-7%e4%b8%87%e4%ba%bf%e7%be%8e%e9%87%91%e7%9a%84%e7%8b%82/</link>
		
		<dc:creator><![CDATA[Luke Fan]]></dc:creator>
		<pubDate>Tue, 04 Jun 2024 01:02:00 +0000</pubDate>
				<category><![CDATA[AIGC]]></category>
		<category><![CDATA[英伟达，黄仁勋的故事]]></category>
		<category><![CDATA[1.8万亿参数]]></category>
		<category><![CDATA[2.7万亿美金]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[AIPC]]></category>
		<category><![CDATA[AI工厂]]></category>
		<category><![CDATA[AI工厂时代]]></category>
		<category><![CDATA[AR]]></category>
		<category><![CDATA[Blackware]]></category>
		<category><![CDATA[COMPUTEX]]></category>
		<category><![CDATA[GPT-4]]></category>
		<category><![CDATA[GPT4]]></category>
		<category><![CDATA[GPU]]></category>
		<category><![CDATA[GPU技术大会]]></category>
		<category><![CDATA[GPU核心]]></category>
		<category><![CDATA[GTC]]></category>
		<category><![CDATA[H1]]></category>
		<category><![CDATA[H100]]></category>
		<category><![CDATA[MoE]]></category>
		<category><![CDATA[NVIDIA]]></category>
		<category><![CDATA[NVlink]]></category>
		<category><![CDATA[RTX]]></category>
		<category><![CDATA[scoring low]]></category>
		<category><![CDATA[SERVER]]></category>
		<category><![CDATA[stable diffusion]]></category>
		<category><![CDATA[TOKEN]]></category>
		<category><![CDATA[TX]]></category>
		<category><![CDATA[VR]]></category>
		<category><![CDATA[云计算]]></category>
		<category><![CDATA[人工智能]]></category>
		<category><![CDATA[内存]]></category>
		<category><![CDATA[军备竞赛]]></category>
		<category><![CDATA[分析]]></category>
		<category><![CDATA[参数]]></category>
		<category><![CDATA[参数量]]></category>
		<category><![CDATA[台积电]]></category>
		<category><![CDATA[合作伙伴]]></category>
		<category><![CDATA[商业]]></category>
		<category><![CDATA[垄断地位]]></category>
		<category><![CDATA[大模型]]></category>
		<category><![CDATA[工程师]]></category>
		<category><![CDATA[市值]]></category>
		<category><![CDATA[应用开发]]></category>
		<category><![CDATA[开发者]]></category>
		<category><![CDATA[微软]]></category>
		<category><![CDATA[戴尔]]></category>
		<category><![CDATA[技术大会]]></category>
		<category><![CDATA[投资人]]></category>
		<category><![CDATA[推理]]></category>
		<category><![CDATA[推理能耗]]></category>
		<category><![CDATA[支架]]></category>
		<category><![CDATA[数据中心]]></category>
		<category><![CDATA[显卡]]></category>
		<category><![CDATA[机器人]]></category>
		<category><![CDATA[机箱]]></category>
		<category><![CDATA[模型]]></category>
		<category><![CDATA[模型训练]]></category>
		<category><![CDATA[游戏助手]]></category>
		<category><![CDATA[版本]]></category>
		<category><![CDATA[生态链]]></category>
		<category><![CDATA[用户]]></category>
		<category><![CDATA[硬件]]></category>
		<category><![CDATA[科技]]></category>
		<category><![CDATA[移动互联网]]></category>
		<category><![CDATA[竞争]]></category>
		<category><![CDATA[竞争对手]]></category>
		<category><![CDATA[竞争者]]></category>
		<category><![CDATA[算力]]></category>
		<category><![CDATA[算力成本]]></category>
		<category><![CDATA[算力芯片]]></category>
		<category><![CDATA[缩放定律]]></category>
		<category><![CDATA[股价]]></category>
		<category><![CDATA[能耗]]></category>
		<category><![CDATA[芯片]]></category>
		<category><![CDATA[英伟达]]></category>
		<category><![CDATA[苹果]]></category>
		<category><![CDATA[行业秘密]]></category>
		<category><![CDATA[计算机]]></category>
		<category><![CDATA[计算机大会]]></category>
		<category><![CDATA[训练能耗]]></category>
		<category><![CDATA[设计]]></category>
		<category><![CDATA[谷歌]]></category>
		<category><![CDATA[贷宽]]></category>
		<category><![CDATA[超威]]></category>
		<category><![CDATA[车载芯片]]></category>
		<category><![CDATA[软件]]></category>
		<category><![CDATA[铁皮]]></category>
		<category><![CDATA[黄仁勋]]></category>
		<guid isPermaLink="false">https://lukefan.com/?p=1286</guid>

					<description><![CDATA[大家好，欢迎收听老范讲故事YouTube频道。今天，咱们来讲一讲黄仁勋在COMPUTEX上的狂欢。COMPUT ... <a title="黄仁勋AI时代英伟达GPU革命：一场市值2.7万亿美金的狂欢，COMPUTEX 2024重磅发布Blackware GPU，1.8万亿参数GPT4揭秘！" class="read-more" href="https://lukefan.com/2024/06/04/%e9%bb%84%e4%bb%81%e5%8b%8bai%e6%97%b6%e4%bb%a3%e8%8b%b1%e4%bc%9f%e8%be%begpu%e9%9d%a9%e5%91%bd%ef%bc%9a%e4%b8%80%e5%9c%ba%e5%b8%82%e5%80%bc2-7%e4%b8%87%e4%ba%bf%e7%be%8e%e9%87%91%e7%9a%84%e7%8b%82/" aria-label="阅读 黄仁勋AI时代英伟达GPU革命：一场市值2.7万亿美金的狂欢，COMPUTEX 2024重磅发布Blackware GPU，1.8万亿参数GPT4揭秘！">阅读更多</a>]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph"><br></p>



<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio"><div class="wp-block-embed__wrapper">
<iframe title="黄仁勋AI时代英伟达GPU革命：一场市值2.7万亿美金的狂欢，COMPUTEX 2024重磅发布Blackware GPU，1.8万亿参数GPT4揭秘！" width="900" height="506" src="https://www.youtube.com/embed/AOpATS-sitc?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
</div></figure>



<p class="wp-block-paragraph">大家好，欢迎收听老范讲故事YouTube频道。今天，咱们来讲一讲黄仁勋在COMPUTEX上的狂欢。COMPUTEX是一年一度在台湾举行的计算机大会。黄仁勋，作为现在真正AI时代的当红炸子机，可能是唯一靠AI赚了大钱的人。虽然微软也在赚钱，但是微软整个靠AI挣的钱并没有那么多。真正靠AI赚了大钱的公司只有他一家——英伟达。刚才我看了一下，英伟达现在市值2.7万亿美金。大家知道，再往前就是微软的3.2万亿，第二名是苹果，2.9万亿，还差那么一点点。可能稍微一哆嗦，英伟达就有可能成为世界第二市值的公司了。那么，黄仁勋上面都讲了什么呢？作为网红，肯定还要先暴露一下行业秘密，别人都不知道他知道的事情。上来先说一下他现在讲的是什么——就是GPT-4到底有多少参数。GPT-3.5大家知道是1,700多亿参数，就是一个170多亿级别的模型。但是到GPT-4的时候，OpenAI就再也没有出来说它到底有多少参数。很多人说你是不是超过万亿了，对OpenAI来说，这个数据不是很准确。我来辟谣了，但是具体有多少，从来没有讲过。黄仁勋在前面的GTC，就是GPU技术大会上，每年一次的英伟达自己的开发者大会上，上面也讲了……</p>



<p class="wp-block-paragraph">说起来1.8T，这个1.8T指的是什么呢？其实就是1.8万亿参数，而且它是一个Moe模型。当时OpenAI并没有对此多说什么，但这一次，在《Computer Text》上，他们又反复强调了这个事情，明确指出GPT-4的训练参数达到了1.8T。这让人们意识到，想要达到GPT-4的水平，还有很长的路要走。尽管现在大家都在努力研发号称能达到或接近GPT-4水平的模型，比如几百亿参数的模型，比如梅塔的拉马3可能会有一个400亿参数的模型，国内也出现了很多一两百亿参数的模型。但事实是，即使提到的1.8T参数，如果考虑到是Moe模型，分成八份来看，那么单个模型可能也就相当于200多亿参数的水平。</p>



<span id="more-1286"></span>



<p class="wp-block-paragraph">这次先通过揭示现状，然后发布新GPU，但对于具体数据——多少核心、多大算力、内存多大、带宽多少，人们似乎已经感到麻木。现在大家更关心的是，如何将这些GPU有效地集成起来，如何把它们拼装成服务器，以实现更强大的计算能力。这背后的提升，不是5%或10%的增长，而是几倍的飞跃。这成了技术关注的新焦点。</p>



<p class="wp-block-paragraph">如何装到机房里头，统一为别人去服务，这个是现在大家更关心的事情。所以现在呢，他们发布的叫Blackware GPU，而且，它取出来那个板子上是两块GPU和一个CPU，应该是他们自己做的CPU。这是一整块，然后可以装到一个大的服务器里面去。再把这些服务器堆叠在一起，使用它的NV link，让这些GPU可以像一块完整的GPU那样工作。这样说，你就可以去训练更大的模型了。而且，今年是这个Blackville，明年就是Blackville Ocho，再往后是Robin。就是说，往后一代都给你规划好了。再往后一步，是叫Robin Ocho，所有的GPU一直规划到2027年，一定让2027年之前的GPU都给你规划好了。</p>



<p class="wp-block-paragraph">现在呢，很多大佬还在惦记着买H100。他现在就专门告诉你说，你看我这个艾克威尔跟这个H100比，它强在什么什么地方，好在哪哪哪。但是很多人还想买H100，这是为什么？可能Blackware它的这种工作方式，或者说它可能需要跟更多的设备先行捆绑，而H100的话，相对来说可能兼容性会更高、更好一些。就是你用任何的这种通道服务器，都能相对容易地兼容和使用。</p>



<p class="wp-block-paragraph">你把它插上去都是可以用的。likerware我倒是真没看到它出这种——就是像原来金砖啊，像我们以前讲的A100、H100这样的，我们管它叫金砖嘛，就是它的卡还是金黄色的，方方的一块，可以插上去的。好像没有看到这样的东西啊。现在呢，基本上都是以两个black Verre在一起，然后头上带一个CPU，是完整的这个配置。</p>



<p class="wp-block-paragraph">当然了，这些大佬，包括马斯克、扎克伯格，可能也不是说我就一定要去买H100。对于他们来说，H100就算是一种计量单位，就是说啊，他们会算上自己到底买了多少H100，或者说现在手里的算力相当于多少H100。你像扎克伯格之前讲，说他买了35万块，加上他手里现成的有60万了，再加上后面再接着买，现在扎克伯格手里的大概有接近100万块H100，相当的算力。这就跟我们造炸弹的时候说，这个炸弹相当于多少吨TNT啊，最后变成了一种衡量单位了。</p>



<p class="wp-block-paragraph">老黄（指NVIDIA的CEO 黄仁勋）就告诉大家说啊，你们来买新的吧。而且这种升级是呈几何级数升级的，所以不要去买旧的，去买新的，这样的话才能够保持它的垄断地位。如果说哎，我现在这个GPU再涨上去，涨了10%，涨了20%，那大家就不买它的了，就去买AMD，买英特尔，买其他的这些算力芯片去了。</p>



<p class="wp-block-paragraph">甚至像高通这样的公司，都能做出一定的算力芯片来。这样一来，人们可能就不会一定买它的产品了。但是现在的情况是，我们谈论的是算力要涨十倍、百倍、千倍，而且每年都要这样增长。为什么呢？因为这成了一场军备竞赛。每个人都害怕落后，就像人们常说的“输在起跑线上”。我们从小让孩子上补习班，是为了什么？就是出于这种害怕，这种焦虑感。老黄就是在给大家制造焦虑：你现在买了旧的，等明年出了新的，你就落后了。你必须去买新的，然后当更新的版本出来时，你又要再买。毕竟，GPU不像软件，软件可以逐年升级，而且升级成本相对较低。但GPU，你需要整块购买，一年后淘汰，再换新的，这成本实在太高了。一片就是4万美金，Blackwell的价格我虽然没查，但肯定不便宜。所以，要让大家每年跟着升级，必须讲出一些更有诱惑力的故事来。目前，从算力成本和能耗几个方面看，确实在全面升级。一方面，算力成千倍增长，成本自然是变贵了。这没什么可争议的。但就单位算力的成本来说，它是下降了。比如，原来的H100卖4万美金，但使用Blackwell之后……</p>



<p class="wp-block-paragraph">你可能继续达到H100同样的算力，这只需要原来1/10，甚至1%的成本，是这样大幅下降的。能耗方面也是如此，比如说，要达到原来H100的算力，所需消耗的能耗可能也只是原来的1%。如此发展，GPT-4的1.8T训练能耗引人注目，因为之前很多人讨论，GPT-4训练一次的能耗相当于多少个家庭一年的电力消耗，让人担忧AI发展的能源瓶颈。但现在的进展是，重新训练一遍的能耗降低了99.7%，仅为原来的1/350。而进行推理时，即训练完成后用于问答等任务，能耗更是降低到原来的1/45,000。这样的发展速度令人惊叹，从GPT-4推出至今不过一两年，能耗的减少就达到了如此程度。</p>



<p class="wp-block-paragraph">军备竞赛在AI领域体现为不断制造焦虑，促使各方持续投入。这就像冷战时期的军备竞赛，你有武器，我必须跟进。如今在技术领域，特别是英伟达所处的，情况类似，但效果是整体提升，正如“一人得道，鸡犬升天”。之所以提到这一点，是因为他们还强调了除了芯片本身，还有Vlink技术，能够将服务器像拼图一样连接，整个机房的服务器作为一个单一GPU工作，展示了技术整合带来的巨大效能提升。</p>



<p class="wp-block-paragraph">因为，这些服务器在一起，你的GPU的算率越大，可以并行处理的东西就越多，与内存和CPU之间的通道越宽，整个进行大模型训练的效果就会越好。所以他说，他可以干这件事情，但在这个过程中，这些服务器，或者其他一些相关的配件，都跟着他“鸡犬升天”了。比如说，像戴尔、超微电子这些给他造服务器的公司，全都因此受益，一路上涨。因为你不能只有GPU，不能只有他们的加速卡，还得把所有配件凑在一起，这些东西才能正常工作。而这些配件，都是值钱的。</p>



<p class="wp-block-paragraph">在这个过程中，服务器肯定变得更贵了。比如说，原来用的是H100的服务器，现在变成了更高级的查克威尔的服务器，那自然是服务器变贵了。但你想，服务器变贵的过程中，到底是什么东西变贵了呢？其实，只有与H100相关的专利费变贵了。大家要注意，因为大家自己并不造芯片，也不造服务器，他也不造算力中心。他只是设计好GPU，交给台积电去生产、封装、测试，然后下交给板卡厂商制作成板卡，再由服务器厂商组装成服务器，最后等待比如马斯克这样的人购买安装。所以，整个服务器链条上的价格上涨，实际上主要是由于关键技术组件的成本上升，特别是H100相关的专利费用。</p>



<p class="wp-block-paragraph">除了GPU价格飙升之外，其它相关成本也难免水涨船高。你不能期望其它东西都保持低廉，这显然不合逻辑。我们整体的成本基数提高了，但单位成本可能有所下降。不过，要注意的是，老黄的市场策略极为精准。GPU的知识产权价值多少，或者说它的设计成本是多少，他们心中有数。如果没有竞争对手，价格自然可以定得更高。但即便如此，人们依然能看到成本在以惊人的速度下降，甚至是以十倍、百倍的幅度。然而，GPU的设计价值却在不断提升。</p>



<p class="wp-block-paragraph">除了NVIDIA本身，那些制造显卡、服务器以及各种配件的厂商，它们的产品也会随之增值。比如，如果你用一个价值4万美金的H100来搭建服务器，仅这一部分就是一笔昂贵的投入。而且，随着Nvlink标准的采用，替代了以往的Pcie标准，意味着新的配件、新的线缆等都将应运而生，价格自然比过去高出许多。</p>



<p class="wp-block-paragraph">我记得早些时候，为惠普的小型机配备一个简单的支架，就是一个铁质架子，都能卖出数千元的高价。原因在于它专为小型机设计，很多工程师甚至会私下找工厂定制支架，替换官方配件以赚取差价。这背后反映的是，即便是一些看似不起眼的配件，在特定情境下也能变得极其值钱。</p>



<p class="wp-block-paragraph">大家其实也都知道，那个铁皮的支架，你说能值多少钱？你凭什么一定要买惠普的？他只要是惠普的工程师给你装上，下次他接着给你修不就完事了吗？你跟着这个比较贵的东西一块去卖，他就会卖的很贵。但是这几天呢，戴尔和这个超威的股价，其实已经快有点绷不住了。大家心里也明白，虽然你们跟老黄跟的很紧，但是这个里头真的，你就是个卖支架的，卖个铁皮，卖个机箱的，你跟着里头的GPU一起水涨船高，这件事稍微的有点侮辱大家的智商。</p>



<p class="wp-block-paragraph">现在呢，是AI工厂时代，现在老黄也讲说我们现在就是AI factory。在这样的一个时代，我们应该如何与时俱进呢？我记得在移动互联网刚开始的时候，我们写很多应用，当时我们在思考说，哎呀，我怎么能够省一点流量，因为那个时候流量很贵。我们都想着如何去节省流量，如何在使用的时候联网，不使用的时候怎么把它断开，想着怎么去省一点电，怎么去做一些其他的节省资源的事情，可以少占一些硬盘的空间，可以交互的时候少交互一些流量。当时的我一位老板就跟我讲，说你们想这个事情是错的，说为什么呢？就是因为很简单，随着时代的发展，这些东西都会变得不值钱的。比如说现在，流量咱们现在……</p>



<p class="wp-block-paragraph">其实，基本上是没有流量焦虑的。我记得最早开始使用手机，那时候刚进入3G时代，我们都会做什么呢？每天定时打开流量，收完邮件后立即关掉。为什么会这样？因为酷，而且节省。现在，还有人这样做吗？没有了。现在，我们走到哪儿，站在哪儿，就开始刷抖音、看视频。已经很少有人会说，我必须节省流量，等到有WiFi的地方再做这些。绝大部分人没有这个意识了。</p>



<p class="wp-block-paragraph">电的问题现在也不那么大了。虽然手机应用还需要省电模式，但现在的手机几乎都是一天一充。你的应用再费电，能比微信还费电吗？能比原神还费电吗？所以，这些问题也变得无关紧要。因此，很多以前为了省电而做的操作，实际上已经没有意义了。</p>



<p class="wp-block-paragraph">再往后说，我们是否会考虑在硬盘或手机上占用更少的空间？以前在猎豹工作时，我们还在研究如何让软件占用空间尽可能小。但现在看看《原神》有多大，看看那些手机游戏的大小，再看看微信在你手机里占了多少空间，就会觉得，我们当初那么精良的考虑，好像都没什么大作用。是的，所以在AI Factory这个时代，也就是AI工厂时代，我们仍在思考如何能省一点TOKEN，情况依然如此。</p>



<p class="wp-block-paragraph">我怎么能够让它反应得稍微快一点？我怎么可以调用不同的大模型？这个模型贵一点，那个模型便宜点。我尽量让便宜的模型干尽量多的事情，让贵的模型干少一点的事情，做一些其他的，比如优化（reg）或者做一些这种节省沟通交互的事情。可能真的再过一年，这些就会变得很可笑，就像我前面讲的，我们在做手机应用的时候，让它怎么去省流量，从网上下载的东西少一点，占的硬盘空间少一点。我们现在回想，那时候想的这些事情就显得很可笑。但是在AI时代，刚才我们讲的怎么能够省一点TOKEN，怎么能够让便宜的模型多干点，贵的模型少干点，怎么能够让多个模型相互搭配起来使用，可能也会变得很可笑。而且，这个时间会来的非常快。</p>



<p class="wp-block-paragraph">黄仁勋呢，除了讲数据中心业务，就像我们刚才提到的Blackvail，一切都是数据中心业务，这也是现在英伟达核心的收入来源，没有之一。现在，他主要就靠这个业务玩。那么其他的呢？也还在讲，英伟达这家公司特别有意思，它不会说某一个业务特别好，就把所有的身家都压上去。它永远是在所有它认为有趣的地方投注，即使这一个方向很长时间没有结果，它依然会在里面坚持。那么，它肯定还有些其他的业务在做什么呢？</p>



<p class="wp-block-paragraph">比如说，RTX加载的AIPC，因为前面微软发布的AIPC是基于高通的。现在，英伟达说了，你们使用英伟达的GPU，也可以达到同样的水平。英伟达专门为了AIPC设计了一款很小很轻薄的GPU，而且很省电。但这一块上，它稍微有一点尴尬。为什么呢？你如果真的要轻薄省电，你一定使用ARM的，对吧？就是使用高通的就好了。那你说，我现在稍微费点电也可以，这个英特尔自己也出了，英特尔说，你们就直接用英特尔完整的GPU加上算力核心就完事了，你不用再去单独配独立的GPU，依然可以达到AIPC的能力。包括AMD也是这么干的，AMD自己也产X86的CPU，AMD说：“来哇，你直接买我的APU加我的算力核心，就一次搞定。”</p>



<p class="wp-block-paragraph">那么，英伟达的RTX这个方案为什么尴尬呢？就是它必须要再搭配一块Intel或者是AMD的X86的CPU，它才可以正常工作起来。这对于强调轻薄便携的AIPC来说，就稍微有些尴尬了。但是，英伟达也强调了，加上他们的技术后，算力是苹果的多少多少倍，主要是与苹果的M系列芯片在比较。在这方面，我们还是要相信老黄的，他的算力确实是靠功率支撑起来的，如果他真想达到某个目标，他有这个实力。</p>



<p class="wp-block-paragraph">说我在电脑上做Stable Diffusion的，这样出图，速度很快。那一定是配着呼啸的风扇声，以及呼呼转的电表，一起来工作的。除了AIPC之外，还在讲游戏助手。但是这个呢，我觉得大家看着开心一下就可以了。他说我做个助手帮大家打游戏，这个呢，就属于工程师思维——一拍脑袋觉得，“我需要一个这个”。其实，游戏跟这个没有那么大关系。就算是AI应用在游戏里面，应该也不是通过游戏助手的方式去应用的。</p>



<p class="wp-block-paragraph">另外，还展示了机器人。他说所有跟机器人相关的东西，我们都上，也做了全套的机器人套件。还有，其实VR、AR以及车载芯片，其实都在英伟达的整个路线图里边。再往前走，很多人就会关心，英伟达到底还能坚持多久呢？他真的还差2,000亿美金就追上苹果了，对吧？苹果2.9万亿，他2.7万亿，真的差的不多了。他到底能不能超过苹果，甚至能不能超过微软，成为全世界最值钱的公司？这个其实大家心里都在打鼓。</p>



<p class="wp-block-paragraph">英伟达呢，跟其他不管是微软也好，苹果也好，有一个特别本质的区别，就是它是一个“轻公司”。这个“轻公司”赶上时代红利是可以的，但是到底能不能长久地坚持下去，这个就很难了。黄仁勋展示现在的成就，未来的路线图，让人充满期待的同时，也不免有几分疑虑。</p>



<p class="wp-block-paragraph">但是，并没有说我要砸重金进去，变成一个重型公司。大家注意，苹果是个很重的公司，它生产电脑——虽然电脑也是台湾人给他造的——它的手机是富士康，包括比亚迪都在给他造手机。它是这样的一个公司，虽然供应链在外面，但是这些货品、这些设计，包括全球的仓储物流，很多东西都是属于苹果自己的。所以，苹果是个很重的公司。微软其实也是一个很重的公司，微软自己在造Surface，那个东西虽然卖的并没有那么好，但是它也是电脑平板，甚至还有很多其他的硬件，比如说键盘鼠标。微软键盘鼠标其实做得非常好。而且微软其实还有一块很重的资产，那就是云计算中心，它有很多的数据中心。微软现在是全世界可能GPU最多的公司了，因为后边有OpenAI这样的一个“亲儿子”，那你肯定是要靠这么多的GPU去养的。微软现在的GPU，如果大概核算成H100的话，应该有180万块，这都是重资产。</p>



<p class="wp-block-paragraph">谷歌呢，也是一个很重资产的公司。谷歌紧跟在英伟达之后，他现在是市值第四的公司。谷歌我记得在云计算兴起之前，曾经有一段时间，他拥有全世界大概6%的服务器，这是一个多么恐怖的数字。而现在，虽然应该没有那么多，但谷歌的数据中心依然规模惊人。</p>



<p class="wp-block-paragraph">也是一块非常非常沉重的业务。而且，另外一点是什么呢？就是我们来看，整个的生态是否稳固，或者说，整个的价值体系是否可以稳定地升级上去。还有一个点可以看是什么？就是你上下游的生态链是否足够稳定。围着你吃饭的人到底有多少？以前我们在学生物的时候讲过一点：在一个自然环境里头，食物链越长，或者说参与到食物链里的动物、植物越多，它整个的生态系统就越稳定。为什么呢？因为其中有一些波动，其他的这些生态位上的人，或者这些动物，就可以慢慢地把它平衡回来，而不是说啊，我的食物链很短，就两三节，参与的动物也不是很多，植物也不是很多，可能中间稍微有一点闪失，这个食物链就崩溃了。</p>



<p class="wp-block-paragraph">咱们来看看苹果，上下游其实有非常多的人围着他吃饭。我们不说这些果链企业，就光在苹果应用市场里头，做应用的这些人，也有几十万人，对很多人来说，这是他们的收入来源。再看谷歌，像我们现在在这看YouTube，我在这拿着YouTube的广告费，那我们也算是谷歌生态链里边的一环。那是非常多的人靠着谷歌生活。啊，微软那不必说这些靠广告吃饭的，因为微软的广告并没有那么多，但是微软上下游，是有大量的系统集成公司，靠着微软吃饭的。</p>



<p class="wp-block-paragraph">还有微软云上的大量客户，但是英伟达有没有这么多人靠着它吃饭呢？英伟达虽然一直努力地在打造他的生态链，整个生态环境，但是并没有那么多。所有能战胜英伟达的，像刚才我们说的戴尔、超威等，这些已经都涨疯了。剩下的呢，其实没有那么容易贴上去。虽然有很多人说，“我们拿英伟达的CODA，我们去写这些Transformer的大模型。”但是这些人呢，实际上在整个的生态链里面是非常非常小的一群。现在能够真正把这个东西跑通的人非常少，虽然这个领域的人才工资非常高，但是人数真的不多，它没有真正撬动大众。所以，我从这两个方面来论述，英伟达到目前为止，依然是一个很轻的公司，资产很轻，它的整个生态链其实也是相对短而且相对脆弱的。</p>



<p class="wp-block-paragraph">那么英伟达现在能够赌的是什么呢？就是这个缩放定律，叫“scoring low”。只要这个东西依然有效，黄仁勋呢，就还可以继续狂飙那么一段时间。“scoring low”是什么东西？就是我堆更多的数据，上更大的模型，上更大的算力去计算，然后得到的模型效果就更好。这个东西只要依然在，还可以大力出奇迹。那么大家就说，那我们就接着老老实实地买他们家显卡。</p>



<p class="wp-block-paragraph">而且，这种倍速一定是十倍、百倍、千倍这样往上涨，为什么呢？因为如果你说，我英伟达下一代的GPU就比现在快20%，那大家就不更新了。或者说，我干脆去买AMD吧，AMD的比你这还便宜点，算力也没有那么差，只是这个过程稍微麻烦一点——我需要重新去适配AMD的算力卡。大家要注意，因为做这行的人很少，这些人很聪明，对他们来说，适配一个新的算力卡，难度并没有那么高。</p>



<p class="wp-block-paragraph">刚才我为什么专门讲了苹果的生态链、谷歌的生态链、微软的生态链？因为它们里面有很多低端开发者，对他们这些低端开发者来说，技术迁移的门槛是很高的。你让他重新换一下，比如说，“你原来做安卓的，现在去给我做iOS开发去”，他真不会。甚至说，他学会了以后还能涨些薪水。但是对于英伟达来说，如果他没有办法快速地让算力十倍、百倍、千倍地涨上去，那么大家就会渐渐背离他，对他的忠诚度是相对比较低的。</p>



<p class="wp-block-paragraph">有可能造成英伟达崩塌的原因有三个，咱们最后总结一下：</p>



<p class="wp-block-paragraph">第一个就是摩尔定律失效了，缩放定律已经没效果了。大家发现，上更多的数据，配更大的模型，训练完了以后效果提升了。一旦到这样的情况，就不会有人再疯狂地去买他的新显卡了。</p>



<ol class="wp-block-list"></ol>



<p class="wp-block-paragraph">第二个中心转移了。突然间，又一个特别赚钱的应用方向爆发起来。大家注意，现在为什么大家都在选择这个？因为“缩放法则”——谁都用不好。大家只能去比谁的模型做得更好，然后去跑这个，跑那个。但是一旦发现，这个模型在做一些特定应用时，效果好得一塌糊涂，而且极其赚钱，那么这个时候，就不会有那么多人继续投入资金去做新模型的研发了。他们可能觉得，现在的模型就够了。这相当于什么呢？就是说，虽然“缩放法则”仍然有效，并没有崩塌，但是没有人愿意再往上堆成本了。因为，尽管“缩放法则”有效，但增加更多的算例、更多的数据，那都是钱。一旦出现特别赚钱的领域，即使“缩放法则”依然有效，增长也会停止。</p>



<p class="wp-block-paragraph">第三个因素是巨头合作，突破并扩大了垄断。现在，大家离不开英伟达的原因，就在于它推进的这套扩大——可以称之为通用计算方法，具体的名称我不再详查，它是不开源的，而且英伟达拥有专利。因此，大家都在这个基础上进行了应用开发和大模型的训练。之后，想要更换这个技术，就会有一个成本。这个成本，我们要反复讲，不高也不低，为什么会这样呢？</p>



<p class="wp-block-paragraph">肯定换过去以后会有些兼容性的问题。但是呢，因为你后边真正使用你的H100也好，Blackware也好，都是些什么人？特斯拉、苹果、谷歌、微软、亚马逊——他们可以花最贵的钱，雇最好的工程师，说来咱们今天去改一遍就完事了。这个都是有可能的。但是，这个临界点在什么地方？临界点就是，如果涨不上去了，那咱就改；或者说突然有人说，“我愿意砸一笔更大的钱进来，咱就改。”为什么？詹奥特曼说，“咱们砸一笔大钱啊，1,000亿美金，或者说1,000万块H100算力的这个GPU，我们统一搞一次，做星际之门去。”这个对于英伟达来说，都是比较大的威胁。就是这三个威胁。</p>



<p class="wp-block-paragraph">英伟达呢，也算是我们现在的一个传奇故事。我相信在整个的AICC大时代里头，我们还可以不断地看到它的故事继续。好啊，今天我们要讲的故事就到这里。感谢大家收听，请帮忙点赞点小铃铛，参加Disco讨论群，也欢迎有兴趣有能力的朋友加入我们的付费频道，再见！</p>
]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
