<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>风险 &#8211; 老范讲故事｜AI、大模型与商业世界的故事</title>
	<atom:link href="https://lukefan.com/tag/%e9%a3%8e%e9%99%a9/feed/" rel="self" type="application/rss+xml" />
	<link>https://lukefan.com</link>
	<description>这里是老范讲故事的主站，持续更新 AIGC、大模型、互联网平台、商业冲突与资本市场观察，帮你看清热点背后的底层逻辑。</description>
	<lastBuildDate>Tue, 23 Jul 2024 07:48:10 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=6.9.4</generator>

<image>
	<url>https://lukefan.com/wp-content/uploads/2026/03/cropped-jimeng-2026-02-28-5245-用图一的人物形象，替换图二中的人物，使用图二的风格。文字替换：老范讲故事，Yo-32x32.jpeg</url>
	<title>风险 &#8211; 老范讲故事｜AI、大模型与商业世界的故事</title>
	<link>https://lukefan.com</link>
	<width>32</width>
	<height>32</height>
</image> 
	<item>
		<title>二十届三中全会通报阅读理解：解读“改革”与“风险”关键词，从税收APP更新到房地产风暴，2029年全面改革目标如何影响民生</title>
		<link>https://lukefan.com/2024/07/23/%e4%ba%8c%e5%8d%81%e5%b1%8a%e4%b8%89%e4%b8%ad%e5%85%a8%e4%bc%9a%e9%80%9a%e6%8a%a5%e9%98%85%e8%af%bb%e7%90%86%e8%a7%a3%ef%bc%9a%e8%a7%a3%e8%af%bb%e6%94%b9%e9%9d%a9%e4%b8%8e/</link>
		
		<dc:creator><![CDATA[老范 讲故事]]></dc:creator>
		<pubDate>Tue, 23 Jul 2024 07:48:06 +0000</pubDate>
				<category><![CDATA[中国故事]]></category>
		<category><![CDATA[不平等竞争]]></category>
		<category><![CDATA[个人所得税]]></category>
		<category><![CDATA[中小金融机构]]></category>
		<category><![CDATA[中美党代会]]></category>
		<category><![CDATA[二十大三中全会]]></category>
		<category><![CDATA[产业创新]]></category>
		<category><![CDATA[产业经济发展规划]]></category>
		<category><![CDATA[人口老龄化]]></category>
		<category><![CDATA[人口负增长]]></category>
		<category><![CDATA[人工智能]]></category>
		<category><![CDATA[企业政策]]></category>
		<category><![CDATA[企业税收]]></category>
		<category><![CDATA[党代会]]></category>
		<category><![CDATA[公共服务]]></category>
		<category><![CDATA[公平参与市场]]></category>
		<category><![CDATA[公有制经济]]></category>
		<category><![CDATA[农村城市化]]></category>
		<category><![CDATA[出口一带一路]]></category>
		<category><![CDATA[劳动力市场]]></category>
		<category><![CDATA[可持续经济发展]]></category>
		<category><![CDATA[国内外经济形势]]></category>
		<category><![CDATA[国内改革]]></category>
		<category><![CDATA[国家级市场经济]]></category>
		<category><![CDATA[国际关系复杂]]></category>
		<category><![CDATA[国际环境]]></category>
		<category><![CDATA[地方政府债务]]></category>
		<category><![CDATA[增加收入项目]]></category>
		<category><![CDATA[安全]]></category>
		<category><![CDATA[工智能发展方向]]></category>
		<category><![CDATA[市场变化预测]]></category>
		<category><![CDATA[市场经济基础]]></category>
		<category><![CDATA[市场需求预测]]></category>
		<category><![CDATA[房地产市场]]></category>
		<category><![CDATA[扩大税源]]></category>
		<category><![CDATA[改革]]></category>
		<category><![CDATA[改革方针落实]]></category>
		<category><![CDATA[政府工作]]></category>
		<category><![CDATA[政策分析]]></category>
		<category><![CDATA[政策导向]]></category>
		<category><![CDATA[教育体系]]></category>
		<category><![CDATA[教育发展]]></category>
		<category><![CDATA[新兴经济]]></category>
		<category><![CDATA[新旧经济转换]]></category>
		<category><![CDATA[无人车]]></category>
		<category><![CDATA[未来发展]]></category>
		<category><![CDATA[未来科技发展]]></category>
		<category><![CDATA[机器人]]></category>
		<category><![CDATA[法律保护]]></category>
		<category><![CDATA[法律框架解释]]></category>
		<category><![CDATA[津补贴兜底系统]]></category>
		<category><![CDATA[消费税]]></category>
		<category><![CDATA[消费结构]]></category>
		<category><![CDATA[灵活就业]]></category>
		<category><![CDATA[社会主义市场]]></category>
		<category><![CDATA[社会主义市场经济]]></category>
		<category><![CDATA[社会保障制度]]></category>
		<category><![CDATA[社会化保障]]></category>
		<category><![CDATA[社会经济公平]]></category>
		<category><![CDATA[科技创新]]></category>
		<category><![CDATA[科技创新人才]]></category>
		<category><![CDATA[税务局规定]]></category>
		<category><![CDATA[税务规定]]></category>
		<category><![CDATA[税收APP更新]]></category>
		<category><![CDATA[税收变化]]></category>
		<category><![CDATA[税收影响]]></category>
		<category><![CDATA[税收政策调整]]></category>
		<category><![CDATA[税源扩大]]></category>
		<category><![CDATA[经济体制]]></category>
		<category><![CDATA[经济体系稳定]]></category>
		<category><![CDATA[经济发展]]></category>
		<category><![CDATA[经济政策]]></category>
		<category><![CDATA[经济调控]]></category>
		<category><![CDATA[经济预测]]></category>
		<category><![CDATA[财产租赁税]]></category>
		<category><![CDATA[财政政策解释]]></category>
		<category><![CDATA[财政紧张]]></category>
		<category><![CDATA[财政结构]]></category>
		<category><![CDATA[财税改革]]></category>
		<category><![CDATA[金融政策]]></category>
		<category><![CDATA[金融高工资]]></category>
		<category><![CDATA[非公有制经济]]></category>
		<category><![CDATA[风险]]></category>
		<category><![CDATA[高收入职业]]></category>
		<category><![CDATA[高考志愿]]></category>
		<guid isPermaLink="false">https://lukefan.com/?p=1428</guid>

					<description><![CDATA[大家好啊！这里是老范讲故事的YouTube频道。今天我要跟大家讲一讲大会到底说了些什么事情。今天上午，我们还举 ... <a title="二十届三中全会通报阅读理解：解读“改革”与“风险”关键词，从税收APP更新到房地产风暴，2029年全面改革目标如何影响民生" class="read-more" href="https://lukefan.com/2024/07/23/%e4%ba%8c%e5%8d%81%e5%b1%8a%e4%b8%89%e4%b8%ad%e5%85%a8%e4%bc%9a%e9%80%9a%e6%8a%a5%e9%98%85%e8%af%bb%e7%90%86%e8%a7%a3%ef%bc%9a%e8%a7%a3%e8%af%bb%e6%94%b9%e9%9d%a9%e4%b8%8e/" aria-label="阅读 二十届三中全会通报阅读理解：解读“改革”与“风险”关键词，从税收APP更新到房地产风暴，2029年全面改革目标如何影响民生">阅读更多</a>]]></description>
										<content:encoded><![CDATA[
<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio"><div class="wp-block-embed__wrapper">
<iframe title="二十届三中全会通报阅读理解：解读“改革”与“风险”关键词，从税收APP更新到房地产风暴，2029年全面改革目标如何影响民生" width="900" height="506" src="https://www.youtube.com/embed/CMVsraZDrdg?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
</div></figure>



<p>大家好啊！这里是老范讲故事的YouTube频道。今天我要跟大家讲一讲大会到底说了些什么事情。今天上午，我们还举行了一个很长的记者招待会，讲了很多东西。不管是公告还是今天上午的内容，每个字都认识，但是合在一起具体说了什么呢，又不太好理解，实在是没有那么直白的。所以现在只能出来解读，各种官样文章。真正这个大会的影响应该是后续各个部门会陆续进行详细解读和具体政策落地。可能会在未来的两周之内逐渐有更详细的信息出来。现在我们只能根据这5000字告诉大家都讲了点什么事情。好在不长吧，大家注意啊。现在刚开的二十届三中全会，它是党代会，不是人大会。区别在哪呢？就是党代会后边挂的是党会，人大会后边是国会。党代会一般会讲各种大账方针，我们的整个治理结构是这样：首先党定大账方针定完了以后，需要去立法，人大会去做。然后是政府机构进行这种行政管理，当然是在法治下了。这个咱们也就只能如此说了，这是党代会，所以一定要注意。其实你看美国这个政党，他也是党代会的时候会讲各种大政方针，最后的立法也是要到议院再去立法。那么这5000字字不多嘛，大家要拿着放大镜来看啊，新的时代了。</p>



<span id="more-1428"></span>



<p>解读的方式有一些新的特色，我们可以使用AIGC（人工智能生成内容）技术来进行文本分析。通过数词频，我们可以统计出每个词出现的次数。我看过一个视频，其中的分析非常好，不仅仅数了词频，还与第十八届三中全会进行了比较。不清楚为什么没有计算第十九届，但是与第十八届进行比较，出现最多的词是&#8221;改革&#8221;，共出现了54次，但比第十八届少了5次。第十八届讲了59次&#8221;经济&#8221;，比第十九届少了12次。第十八届三中全会讲了34次&#8221;人民&#8221;和&#8221;民生&#8221;，比第十九届少了2次。&#8221;开放&#8221;讲了12次，比第十九届少了1次。需要注意的是，很多人说&#8221;开放&#8221;比&#8221;改革&#8221;讲的少，但是我们要注意一下，基本上都是少了10%。&#8221;改革&#8221;少了5次，&#8221;开放&#8221;少了1次。&#8221;民主&#8221;讲了7次，比第十八届少了6次。第十八届讲了13次&#8221;民主&#8221;，讲的还是比较多的。&#8221;创新&#8221;讲了7次，比第十八届少了4次。我们也不需要那么多的创新了。&#8221;科技&#8221;和&#8221;科学&#8221;讲了6次，讲的次数不多，但是段落还是比较长的。但是比第十八届少了6次。&#8221;统一&#8221;讲了3次，比第十八届少了2次。这个我们也稍微少讲一点。&#8221;财政&#8221;、&#8221;财税&#8221;和&#8221;税收&#8221;讲了2次，第十八届的时候讲了5次，少了3次。&#8221;技术&#8221;讲了1次，跟第十八届持平，也是讲了1次。那你说每样都讲少了，那什么讲多了呢？&#8221;安全&#8221;讲了16次。<br>比第十八届多了10次，教育讲了5次，比十八届多了两次。风险讲了4次，比十八届多了3次。十八届实际上只讲了一个风险，我们现在讲了四个风险，看来现在风险还是很重的。另外一个是国防，讲了四次，比第18届的时候多了两次。现在有了计算机啊，有了AIGC，有了各种各样的这种工具之后，数数这件事啊，还是大可以数的很明白了。我们可以通过这些数字看一下，18届的时候，他们更加希望改革，更重视经济啊，人民民生啊，也更多一些。民主讲的少很多了，只讲了7次，人家第十八届讲了13次。创新少一点，科学科技少一点啊，统一少一点，财政少一点啊，这个是少的。多的是安全教育风险和国防。首先从数字上咱们看一看，就不要横向比拟，不要说哎，改革比开放多啊，改革54次，开放12次啊，我们要多改革少开放啊，不要这么解释。咱们还让竖着来看，到底发生了一些什么样的变化。其实啊，5,000字的这种文章呢，每一个人都可以各自去解读，稍每一个人都可以有自己的观点，但是最后，你说到底是不是这样去解读呢，又没有那么大的关系。因为本身写的就有点这个，桃园三结义，孤独一枝，对吧你到底哥几个，他很多的写的就是这样，写的并没有那么明确啊。很多官样文章，那么现在咱们看一看，这里头到底都写了什么。第一件事呢，叫承认困难是存在的。</p>



<p>虽然写的比较委婉，但是我们现在面临一些困难。以前我们可能没有承认这些问题，或者说我们一直稳中向好。然而，现在风险增加了很多。我们面临的第一个困难是国际环境的严峻和复杂，这并不是说有人针对我们，只是形势严峻复杂。第二个困难是国内改革开放任务的艰巨和繁重，我们国内的改革发展和稳定任务都很艰巨繁重。虽然说得相对含蓄一些，但是给出了一个明确的目标，这是很神奇的。以前我们可能只是定了一个五年计划，一步一步来。现在我们在2029年要完成本次提出的所有改革，后面还有很多要改的东西，比如提到的54次改革，要在2029年的五年内全部完成。2029年是建国80周年，我们要在这个庆典的时候实现所有提出的改革。然后到2035年，要全面建成高水平的社会主义市场经济体制。今天我还看了一个段子，说我们坐在这里想一想，十年之后的2035年会变成什么样子呢？满街都是无人车，大家的文化水平和素质都很高，所有的工厂里都是机器人，各种工业生产都异常发达，股市还是3000点。这是一个很冷的冷笑话，好像是常胜财经的那个博主讲的。现在我们只是给出了年份，等到时候再看就好了。</p>



<p>这是第二点。第三点是关于科技创新的讨论。虽然与第18届相比，对科技创新的讨论减少了很多，但仍然有一些提到。主要涉及以下几个方面。首先，因地制宜，发展本地心智生产力。这意味着根据适合的条件来选择发展方向。因为未来，权力肯定会更多地下放到地方。因为地方会说，我需要钱，你必须给我钱。现在不行了，你自己去赚钱吧。赚了钱之后，他们会自己拿着钱，肯定会有更大的权力。所以要因地制宜。第二个是改革培养科技人才的机制。这一点一再强调，金融并不是高科技，金融只是高工资。所以我们要重新选择，到底怎么去报志愿。今年金融类的志愿好像都不怎么样，录取分数都下降了。然后我们家这个想去学计算机的就费劲了，大家都在疯狂地学计算机、人工智能等。我们就比较痛苦。然后科技创新还要谈一点，就是自主可控。我们要努力发展国产替代品。这是我们谈论的科技创新。然后是财税改革，提了一句。但是提到的是中央和地方之间分别拿多少钱，干多少事。讲完这个之后，要扩大税源。前面我们已经讲过，要开始征收消费税。当然，扩大税源不仅仅指消费税。在座的朋友，请打开手机。</p>



<p>看一看你手机上安装的个人所得税APP，这个APP最近突然更新了，增加了包括营业所得、利息股息红利所得、财产租赁所得、财产转让所得和偶然所得在内的5项收入。原来是没有这些收入项的，现在很多人害怕了，说：“哎呀，这个个人所得税APP里头，这个收入种类变多了。”然后就去问税务局啊，你们是不是要多收税呀？税务局说没有啊，我没说多收税啊，对吧？我们只是让你能够数，数得更清楚，你到底钱是都怎么来的。这些税原来就该交啊，你原来没交是你的问题。我现在等于在APP里更新了一把啊，让你注意一下，这些项目都是该交税的。可以说税收没有增加，这个事我信你个鬼。在财税改革之后这一块，我估计未来一段时间啊，各个地区、各个机构会去相应的发出自己详细的解读来啊。然后是讲健全人口发展支持和服务体系。为什么要讲这个呢？就是人口负增长啊，人口老龄化还是很吓人的。而且呢，他们也希望把农村人口慢慢的变成城镇人口，对吧？这个过程都是要去做的。所以，要求建立普惠兜底的这种保障制度啊，别饿死人。因为现在甭管经济好不好吧，还是要建立一些这种兜底之柱的啊。但是呢，上面也给自己找出了一些具体的实施的啊。这种过程吧，叫什么呢？第一要尽力而为啊，我们要尽可能地把这事做了。后边说这句话才是真正的重点，叫量力而为。</p>



<p>就是坚持和完善社会主义市场经济体制。鼓励支持引导非公有制经济发展。你看，非公有制经济也需要被引导。今天我看到了关于恭敬后的女儿离职的事情，他也需要被引导啊。他的叔叔也姓宗家，就讲了说这个人上来就不行，不是资本家。你是政府的职业经理人，你不能光想着挣钱，你要想着怎么为社会做贡献。所以，非公有制经济还是要好好引导一下。</p>



<p>那么，这个里头主要讲的是什么呢？就是保证各种所有制经济依法平等使用生产要素，公平参与市场竞争，同等受到法律保护，促进各种所有制经济优势互补，共同发展。要构建全国统一大市场，完善市场经济基础制度。这个就是我们两个毫不动摇的，公有制要巩固和发展，私有制鼓励支持。</p>



<p>引导的意思是什么呢？就是大家同等法律保护，大家相互竞争应该公平竞争。但是这个事有人信吗？好吧，他们讲了，我们也就信了吧。这件事情对于普通人到底有什么影响呢？影响第一个是高考报志愿，这个已经可以看出来了啊。外语类的、金融类的基本上都预冷了。计算机人工智能大热啊，因为现在所谓的科技创新啊，全村最后的一颗独苗就是人工智能了啊。大家都在冲这一个方向。</p>



<p>然后，财税改革这件事呢，可能会影响到我们所有人，包括这个消费税，包括刚才我们讲的所有的这种税收，可能都会发生一些变化。先就是没钱嘛，没钱我们就多收税嘛，多收税完了以后，这个经济才可以继续运转嘛？那么税收上去了以后，会出现什么样的问题？税收上去以后，物价应该会上涨。除了房价之外，其他所有价格都应该会涨啊。那么在这样的情况下，大家就要想一想，说我们到底是存着钱呢，存着美元呢，还是存着黄金呢，还是存什么东西呢？对吧，大家就要去思考一下这个问题了。大家要知道，日本我们原来老讲它失落30年，日本失落30年，其实在前期是有一个缓的，它是从89年开始，到失落的第五年、六年的时候吧，特别到第七年啊，96年的时候，整个的经济其实缓起来了，整个GDP又开始往上涨了。大家觉得差不多了啊，经济恢复了。日本到1997年的时候大幅提高消费税，然后才导致了彻底崩盘，最后变成30年。原本来日本想着说哎，我过个五六年这事就可以了，我已经缓过来了啊，最后排税改革，后边的这个结果有可能是很悲惨。所以呢，通过日本的这个案例啊，就是最艰难的时刻应该还没有到来啊。现在应该依然是未来十年，甚至二十年里，它最好的一年。现在呢要尽可能的对外发展，即使是一带一路，该去也是要去的。国内的话就已经完全没有什么，这或者说短期内吧，现在还看不到什么可以快速回升的一个方法了。房子呢能脱手尽可能的脱手，对吧，自己有的住也就可以了。现在再说我要去买房这个事，就稍微有一些这个对自己不负责任了，即使是北上广深呢。</p>



<p>也不建议大家去买房啊。如果我说实在要住，租个房子也没什么问题。反正国内租售比这么低，对吧？租房子价格上不去的，大家都找不着工作，你怎么可能涨租金呢，对吧？所以啊，租房子也是一个不错的选择。然后啊，不要在国内做任何重大的投资。你说我再去买股票，再去搞个什么，这个啊咱们再等一等看啊钱呢，尽可能的存在国有大银行里头啊，不要存小银行啊，或者呢存在海外银行啊。这个是啊，要存钱的地方啊。然后多配置一些境外的资产，这可能就是对于普通人来说真正有意义的事情啊。从咱们现在来看，二十届三中全会的这个通告啊，你按散人说的说啥也没讲吧。其实也讲了很多东西啊，但是这种通告呢，最后每一个部门具体怎么落实去实施，应该还是有一些台面下的东西啊，或者说不能拿出来跟大家讲的东西。最后呢，各自去解释，各自去实行就可以了。这就是现在我们能够看到的通稿。在未来的两三周里头啊，我们应该还会再去看到，说各种详细的财税改革，各种详细的怎么去发展经济，怎么去发展教育。我们要好好做教育啊，教育里头，我们怎么能够培养出最好的人才出来啊，能够去做出自主替代来，而也努力去做呗。这个还能怎么办呢？我们在未来啊，在逐渐地跟大家去解读这个事情吧。通稿的最后两段跟我没关系了，我们就不再去详细讲。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>Ilya彻底离开OpenAI！超级对齐团队解散！Sam Altman，摆脱束缚，OpenAI从此一骑绝尘？还是ChatGPT未来堪忧？</title>
		<link>https://lukefan.com/2024/05/21/ilya%e5%bd%bb%e5%ba%95%e7%a6%bb%e5%bc%80openai%ef%bc%81%e8%b6%85%e7%ba%a7%e5%af%b9%e9%bd%90%e5%9b%a2%e9%98%9f%e8%a7%a3%e6%95%a3%ef%bc%81sam-altman%ef%bc%8c%e6%91%86%e8%84%b1%e6%9d%9f%e7%bc%9a%ef%bc%8c/</link>
		
		<dc:creator><![CDATA[Luke Fan]]></dc:creator>
		<pubDate>Tue, 21 May 2024 00:36:36 +0000</pubDate>
				<category><![CDATA[AIGC]]></category>
		<category><![CDATA[AI安全]]></category>
		<category><![CDATA[AI监管]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[ChatGPT]]></category>
		<category><![CDATA[Cloud]]></category>
		<category><![CDATA[Gemini]]></category>
		<category><![CDATA[GPT-2]]></category>
		<category><![CDATA[GPT-4]]></category>
		<category><![CDATA[Meta]]></category>
		<category><![CDATA[OpenAI]]></category>
		<category><![CDATA[XAI]]></category>
		<category><![CDATA[不许骂街协议]]></category>
		<category><![CDATA[亚马逊]]></category>
		<category><![CDATA[人工智能]]></category>
		<category><![CDATA[人类价值观]]></category>
		<category><![CDATA[伊利尔]]></category>
		<category><![CDATA[伦理]]></category>
		<category><![CDATA[宪法AI]]></category>
		<category><![CDATA[展望]]></category>
		<category><![CDATA[山姆奥特曼]]></category>
		<category><![CDATA[开源模型]]></category>
		<category><![CDATA[弱到强泛化]]></category>
		<category><![CDATA[微软]]></category>
		<category><![CDATA[拉玛3]]></category>
		<category><![CDATA[挑战]]></category>
		<category><![CDATA[政治正确]]></category>
		<category><![CDATA[期权]]></category>
		<category><![CDATA[未来]]></category>
		<category><![CDATA[机遇]]></category>
		<category><![CDATA[民间机构]]></category>
		<category><![CDATA[泄露公司机密]]></category>
		<category><![CDATA[社会]]></category>
		<category><![CDATA[科技]]></category>
		<category><![CDATA[端到端模型]]></category>
		<category><![CDATA[算力]]></category>
		<category><![CDATA[老范讲故事]]></category>
		<category><![CDATA[股票]]></category>
		<category><![CDATA[英伟达]]></category>
		<category><![CDATA[董事会]]></category>
		<category><![CDATA[视频生成]]></category>
		<category><![CDATA[语音到语音模型]]></category>
		<category><![CDATA[谷歌]]></category>
		<category><![CDATA[责任制]]></category>
		<category><![CDATA[超级对齐]]></category>
		<category><![CDATA[道德]]></category>
		<category><![CDATA[闭源模型]]></category>
		<category><![CDATA[非营利组织]]></category>
		<category><![CDATA[风险]]></category>
		<guid isPermaLink="false">https://lukefan.com/?p=1256</guid>

					<description><![CDATA[大家好，欢迎收听老范讲故事YouTube频道。今天咱们来讲一讲伊利尔彻底离开超级队，其团队解散，而OpenAI ... <a title="Ilya彻底离开OpenAI！超级对齐团队解散！Sam Altman，摆脱束缚，OpenAI从此一骑绝尘？还是ChatGPT未来堪忧？" class="read-more" href="https://lukefan.com/2024/05/21/ilya%e5%bd%bb%e5%ba%95%e7%a6%bb%e5%bc%80openai%ef%bc%81%e8%b6%85%e7%ba%a7%e5%af%b9%e9%bd%90%e5%9b%a2%e9%98%9f%e8%a7%a3%e6%95%a3%ef%bc%81sam-altman%ef%bc%8c%e6%91%86%e8%84%b1%e6%9d%9f%e7%bc%9a%ef%bc%8c/" aria-label="阅读 Ilya彻底离开OpenAI！超级对齐团队解散！Sam Altman，摆脱束缚，OpenAI从此一骑绝尘？还是ChatGPT未来堪忧？">阅读更多</a>]]></description>
										<content:encoded><![CDATA[
<figure class="wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio"><div class="wp-block-embed__wrapper">
<iframe title="Ilya彻底离开OpenAI！超级对齐团队解散！Sam Altman，摆脱束缚，OpenAI从此一骑绝尘？还是ChatGPT未来堪忧？" width="900" height="506" src="https://www.youtube.com/embed/Y9foH-MVUH8?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
</div></figure>



<p>大家好，欢迎收听老范讲故事YouTube频道。今天咱们来讲一讲伊利尔彻底离开超级队，其团队解散，而OpenAI彻底失去束缚，可以一骑绝尘的事情。</p>



<p>从去年11月，山姆奥特曼突然被董事会开除，又经过了三四天戏剧般的反转，反转再反转之后，山姆奥特曼终于干掉了董事会，王者归来。从那以后，作为董事会里边唯一留任的伊利尔就再也没有出现在公众视野之中。很多人都在猜说这个人到底干嘛去了。</p>



<p>当时这个事情发生的时候，所有人就在猜测，说伊利尔是不是要离职，伊利尔什么时候离职啊。但是呢山姆奥特曼一直都是体现出政治家的这种手腕，一直在称呼伊利尔来为啊我最亲密的朋友。但是伊利尔呢一直没有发声。最近一次发生是在跟埃隆马斯克的诉讼过程中，由伊利尔的账号在里边说了一句话啊，但是也就仅此而已了。</p>



<p>伊利尔在这一段时间里他就彻底不见了，现在呢终于知道说啊他离职了啊，正式离职。而且呢根据已经从OpenAI里边离职的一些其他跟安全相关团队的啊，这些人去讲说伊雷尔从去年11月份到现在半年的时间就再也没有回到过OpenAI的办公室，一直是在进行远程工作，远程协调。对吧这个人等于就消失了，现在半年了啊终于离开了。</p>



<span id="more-1256"></span>



<p>那么超级队其团队呢，在伊利尔离开办公室也就这半年期间，日子过得是非常非常痛苦的啊。为什么呢？因为整个团队最上面的老大是伊利尔，他会负责啊，跟公司内部的各个的管理层啊，以及各个部门进行沟通与协调。别人在干什么？别人做了哪些事情？哪个事情需要超级对齐团队去对齐对吧？这个事情原来都是伊利尔去做的，那么他如果不到办公室来，或者说他可能就完全属于一个半退休状态，那么所有的事情就都没有办法看。而大家知道， … …超级对齐，也就是 OpenAI 内部的所谓安全团队。他们要保证 OpenAI 所做的各种 charge GPT 的版本，它所输出的内容是符合人类价值观的。很宏大的一个目标。你要保证这件事情，这么多的这么多的团队和产品，这么多的算力，大力出奇迹吧。堆在一起，大家各自做各自的事情。那你怎么能够保证说，我最上面这个安全团队，能够把所有的问题都解决掉呢？这必须也要有足够的人力物力，特别是算力的投入。前面承诺说，给你们 20% 的算力，这甭管 OpenAI 自己有多少，20% 是你的。结果等他们要去要这个算力的时候，就经常得不到。想去跟其他的人去沟通，想去跟公司高层去要东西的时候，这个中间的桥梁，这个做沟通的人都不见了。那么他们的日子就很难过。</p>



<p>在这一段时间里头呢，超级对其团队的人员在不断的流失啊。一个一个的在离开。有些是被开除掉的。开除的原因呢是泄露公司机密，但是具体泄露了什么 OpenAI 也没说。然而出去了以后呢，他们也不说。原因也很简单，所有从 OpenAI 离职的这些人，他们都会签一份极其严苛的协议啊。这个协议的名字呢，我们就不跟大家详细讲了，大家基本上认为叫不许骂街协议。哈哈为什么叫这样的一个名字呢？他就规定你一旦离开 OpenAI 以后，不允许说跟 OpenAI 有关的事情，这算保密，也不允许诋毁 OpenAI，不许骂街。而如果违反了这个协议会怎么办呢？大家知道，像这些在 OpenAI 里面上班的人啊，他们的薪水有大量的都是 OpenAI 的期权与股票，这一部分都算是质押，一个人质一样的。我就搁这了。你如果出去了以后骂街，我就直接把这块给你没收了。这些人可能本来去的时候就都已经是大牛了，你想他们都是从谷歌挖人。谷歌呢，薪水多高啊？</p>



<p>那么，挖进来的时候，大家给到的都是期权。而且这几年来，open AI 的估值涨得飞快，所以他们每个人手里可能都握着几百万美金的相关期权。这个时候你如果敢骂街的话，我给你把这几万美金给你扣了。那么他们肯定还是要啊，比较谨慎和小心的啊。</p>



<p>但是也据说有一些很有勇气的人，在离开 open AI 的时候拒绝签这个东西，说我就不签了，钱我不要了，我就要出去说这个，等待他再说出一些更加劲爆的东西。</p>



<p>那么 open AI 的这个超级对齐团队的，他们到底是怎么干活的？对吧？这个是我们一直比较关心的问题。</p>



<p>对于不同的大模型公司来说有不同的安全策略。其实在安全上一直在内部进行争吵，特别是他们从一个非营利组织的方式开始啊。第一个开始吵架的是谁？还不是伊利尔。是前面做 aceropic 的那个兄妹两个，他说，我觉得你们 open i 做的东西不够安全啊，我们要自己出去单独做。</p>



<p>他们离职了以后，单独做了一家公司，也就是 aceropic 啊。那么他们做的 cloud，现在做的 cloud 3 的 opens 模型，已经在各方面啊或者在很多方面吧，超越了 PPT4。</p>



<p>他们使用的方式呢，叫宪法AI。什么叫宪法AI？就是说他有一些很强制性的简单规则，直接放到这个大模型里头去。正常情况下，我们是把所有的东西搁在一块训练，训练完了以后呢，具体哪一个权重高一些，哪一个权重低一些，你可以调。但是呢，并没有那么绝对。</p>



<p>但是像宪法 AI，就是说我给你一些很强制性、很绝对的基础的规则，你就拿去使用，然后呢我保证输出的所有的结果啊都是符合这些规则的。首先，安全是首要考量。所有有害的内容均不输出。</p>



<p>其次，尽量确保有效性。输出内容应具有价值。</p>



<p>这是anceropic采取的第二种方式，即介绍了open AI的超级对齐方法。超级对齐旨在使open AI的模型输出结果与人类价值观一致。具体而言，通过以小空大的方式，使用相对较小的安全模型（由GPT2训练）来监督较大的模型（如GPT4）的输出。这种安全模型会对GPT4的输出进行审核和讨论，以协调和确保结果的对齐。</p>



<p>另外，他们提出了“弱到强泛化”的概念，意在训练小模型后，对大模型进行泛化处理，使其能处理之前未见过的内容。通过一定的规则，小模型仍然能够对大模型输出的内容进行泛化处理。</p>



<p>最后，在其发表的论文中，他们讨论了如何从弱到强地处理这些泛化问题。这个过程是一个增长和沟通的过程，在协调PPT4输出内容的过程中起着重要作用。</p>



<p>现在，问题来了——问题出在哪里？\n大家知道，OpenAI最近推出的各种大模型，如Solar端到端视频直接生成的模型。就是你输入视频，输出视频，中间没有什么文字这些东西。然后PPT4O语音到语音的端到端模型。它开始玩这些东西了。这些东西上来以后，刚才我们讲的，你靠弱到强泛化，靠GPT2去监控GPT4，这样的玩法你是玩不转的呀。</p>



<p>但是在这个过程中呢，你想去继续往前走的方式是什么？很简单啊，就是你需要投入更多的人力、物力，以及算力。更重要的是算力，让这个小模型有更强的能力进行更广泛的这种训练。然后才可以说，去对OpenAI的一些新产品进行监督，保证它能够对齐。结果现在还做不了。</p>



<p>要申请算例的时候，人家不给我。我去问人家说你那个系统在做什么，这个事到底是什么原理，他也不告诉你。那你这个时候他就没法去工作了啊。所以，现在这些离开的超级对鞋团队的人啊，对于OpenAI来说，对于山姆奥特曼，都是相对来说比较失望的。</p>



<p>咱们刚才讲了anceropic，讲了OpenAI，后边还有两个。一个是拉玛3，这个是开元大模型里边的领军人物，梅塔出来的啊。他使用的安全方式是什么呢？他用了一种叫做“安全性和有效性的激励训练法”。他在进行数据训练的时候，在进行拉玛3训练的时候，他让拉玛3出各种各样的答案。当他出了这种不安全答案的时候说哎，这个事不对，给你一个负向反馈。出了安全的结果，出了有效的结果，你注意除了安全之外，还要有效啊，不能一本正经的在这说废话，这事是不行的啊。</p>



<p>出了这样的结果以后，就会对他进行正向反馈。这过程呢，其实很像养孩子哈。小孩长大的过程中，这事做得好，给颗糖吃；那事做得不好，打手板记住了没有。然后呢，拉玛3说我记住了，这是拉玛3处理的方式。就是他也是有安全机制的，然后谷歌呢，属于比较奇葩的啊，因为呢公司实在太大，内部部门非常多，所以他牵扯的也很乱。</p>



<p>所以谷歌的这个政治正确，是很多个部门一起下手，就把Gemini搞得，这就只能说一些废话了啊，或者说他很多的内容输出就受的限制非常非常大。甚至前面他们出画图功能的时候哈，隐瞒这2的时候各种正人正确，把所有的人都画成黑人，被人嘲笑。</p>



<p>最后只能功能撤回啊，这是谷歌现在的安全状态。刚才我们总结了全世界最靠前沿的四个大模型公司啊，他们各自的安全策略是什么，以及open AI的超级对齐团队遇到了什么样的问题。各种端到端的模型做出来以后，这个超级对齐是越来越难做。如果在这个时候没有一把手的支持，就是没有最上面管理层的支持，那么其他所有的啊，跟他们去要配合的这些团队要接受他们安全审核的这些团队，那你在这个时候就没法去跟他配合啊。</p>



<p>为什么其实很简单，伊利尔肯定是一个叛徒，至少在这6个月里，头大家也在站这个队。你既然说我们都去站山盟奥特曼的队，那么伊利尔手里边这个团队如果我们配合他好了啊，给他好脸色看了，那你这个屁股坐的歪不歪啊。对吧所以这个事他就完全没法整的一个事情。现在呢，超级对集团队就是彻底解散掉了啊，除了他已经走的这些人，剩下的这些人呢就说你们就打散了吧，进到各个团队里头去啊，你们跟每一个团队去商量说你们怎么对齐就完事了啊。</p>



<p>这后边是准备这么去干，那你说这样干行不行呢，肯定不行啊。对吧因为咱们就想open AI在干的活是什么，它实际上在训练一堆的模型，所有这些模型里头可能有些能够稍微对齐一点点，有些可能就对不起了，对吧。这玩意就跟我们在一个学校里边带了一堆孩子在这上课一样。那总有成材的，有不成材的，对吧？但是最后只要是产品发布了，成材的、不成材的，你都得给人用啊。万一哪一个出了问题，那么后面的安全事故、安全的问题一定会变得更多。这个没什么好说的。</p>



<p>咱们现在这么长时间里头，open AI大量的产品堆在那出不来，可能也是超级对齐团队在里边的啊，一定起了作用吧。啊，他说你们这些产品我们超级对齐团队不签字，你就不可以发。这个可能性都是存在的。</p>



<p>再往后超级对齐团队没了，那么就是每一个团队的老大。比如说这个人是负责GPT4O的，那么他就问说嘿，咱们开个会吧啊，我们从超级对齐团队分了两个人，我们自己对自己的这个超级对齐这件事进行确认，就完了，那我是不是大家签个字啊，举个手投个票，咱们这个事就算集体决议一下啊。我们GPT4O已经够安全了，可以发布了吧，他就会干这样的事情。</p>



<p>那这些人，等于就没有一个独立判断的权利了。我们可以期待的是，open AI会快速的发布大量的产品出来，已经没有上面卡脖子了吧。但是呢这些产品出来以后，翻车的概率也都不低哈，其实可能都会翻几次啊。这个是离开了欧鹏 AI的超级对决团队打散了以后的结果。</p>



<p>那我们来想一想，超级对齐这件事对我们到底有没有价值了？其实我一直觉得他们自己做这个事啊，呃价值是有问号的啊。为什么呢？就是人类价值观，什么叫人类价值观？谁说的清楚谁说了算，是中国人说了算，是美国人说了算，还是男的说了算，女的说了算，左派说的算还是右派说了算？每一个事情到底如何算是符合人类价值观，这个事本身是没标准的。那我们都是按照很左的方式去搞吗？正是正确多元化啊，像谷歌翻车那把似的，让他画一个二战欧洲战场，结果发现德国士兵好多是黑人，或者你给我画一个中国什么什么战争。发现所有的士兵里头，也是各色人种都有。这就算是符合人类的价值观了吗？对吧，这个本身是有问题的。所以现在很多人就认为，说所谓人类价值观，这件事本身并不是一个很明确的标准。</p>



<p>整个的社会是怎么办这个事情的呢？他是通过选举啊。有一堆民选官员。他们呢会在一个模糊的范围内，对各种的价值观的事情进行一定的判断，而且他们还不敢判断特别多。他们只敢在法律范围内去做，因为你到价值观这，其实有好多已经超过法律范围，已经到道德范围了。</p>



<p>你如果用道德标准，而不是法律标准，去要求Open AI的各种大模型的话，这个事他是有问题的。所以我并不认为说这个事情应该由一个公司来做的，而是应该比如说由民选政府，或者说由一个有合法性的政府机构来去处理。什么叫人类价值观的问题，像中国现在这种方式，其实我觉得是有借鉴意义的啊。</p>



<p>刚才我们讲了，美国的各大公司是怎么看这个事的。对吧，美国政府在这件事情上说：我还要想一想，对吧，我还没想明白，说我们坐在这讨论吧啊。美国政府呢，其实对于各种AI公司或者AI大模型的限制，相对来说是比较宽松的。哎，那么中国是怎么干这个事的？</p>



<p>中国很简单，咱们发牌照，按照社交媒体的方式来管理。这个叫什么？叫责任制，你这个大模型出了责任了，来暂停你自己去整改，整改完了以后，然后去检查，没什么毛病我再给你开，等你下次再出问题了，哈哈停停牌休息了，然后你再去干，去拔网线。</p>



<p>在这个过程中呢，中国的各大大模型公司就会相对来说比较谨慎，因为很多的错误是一票否决的，你出一次这公司就不见了。这一点上呢，咱们不说技术怎么样啊，也不说这个方法好不好，但是我觉得效果还可以啊。美国人可以去学习一下。</p>



<p>对于未来的展望，面对新兴的这种端到端的……大模型的挑战，到底应该如何去应对这个事情啊？这件事情呢，我觉得有可能会再出现一家新的公司，或者不一定是公司了。有可能再是一个非营利组织，比如说伊利尔牵头说：“我们再做一个非盈利组织，或者说再做一个在政府下面的什么样的组织。我们来去监管这件事情啊，通过税收或者通过一些什么样的方式去训练一些模型。最后你不通过我们这个模型的审核，或者不通过我们模型的监管，我就直接给你吊销牌照啊。”或者做这些这样的事情。这个可能性是存在的。</p>



<p>即使美国政府不像中国政府这样说直接把这些人收编进来成立一个政府部门，他也有可能成为一个民间机构啊。民比如说马斯克出钱，因为这个伊利尔原来也是啊，马斯克找进去的。那么现在比如马斯克出钱说：“我们再拉几个有钱人，咱们成立一个中间的这种民间机构，或者说是这种非营利组织啊，对现在正在流行的各种开源模型、闭源模型啊，咱们进行去监管。出现问题我们就直接写报告，发各种的信息出来。”这个事情的可能性也是存在的。</p>



<p>但是还有一种可能，就是伊利尔最后走向answer Rapik那条路啊，再成立一家新公司，像这种人成立公司后边肯定等着给钱的人都排队啊，排出二里地去。这事没什么毛病，成立新公司，在做新产品，做完新产品以后再进行一次竞争。这个事呢，可能性也是存在的啊。</p>



<p>但你说会不会被收编啊，比如说马斯克说来XAI给你虚位以待，这个可能性也有啊。谷歌千万别去啊，那已经是老大难公司了，进去了以后那扯皮还扯不过来呢。还有呢，就是比如像英伟达啊、梅塔啊微软啊都有可能，但是微软我觉得可能性小一点吧，包括亚马逊。其实都是有可能会去跟他们合作的，后面我觉得这个事情还有待啊继续的发展。</p>



<p>至于open AI。到底会不会给整个的社会带来很大的损害？我觉得这个事呢，是不可避免的。他就只管往前走，造成一定的伤害之后，他承担责任就好了。哎，没有哪个小孩是说我从小教好的啊，还是要一个跟头一个跟头跌过去。</p>



<p>Open AI现在呢，跌的跟头有点少，而上一个跌的跟头，也就是去年11月啊，把山姆奥特曼干掉。虽然我们都很开心看到山姆奥特曼回来，但是当时我就做了节目讲说，这种回归了以后，他的心态会发生一定的扭曲，而且他整个的监督机制或者内部的一些制衡机制就已经被破坏掉了，未来啊是蛮有隐患的。</p>



<p>今天看的就是这个隐患，已经啊彻底的不可调和，爆发掉了啊。但是现在呢，还只是一个小的隐患。等真的Open AI出现什么东西，他的产品给整个社会造成巨大损失的时候，那才是啊真正比较大的隐患爆发。但是这件事呢，不可避免，也不是说爆发一次 Open AI 就挂了，就是 Open AI 爆发了这样的问题，以后再重新爬起来才可以走的更远。</p>



<p>好啊，这就是今天我们要讲的。伊利尔离开超级对其团队解散，Open AI 一系绝尘的故事。今天这个故事讲到这里，感谢大家收听，请帮忙点赞点小铃铛，参加 Disco 讨论群，也欢迎有能力有兴趣的朋友加入我们的付费频道。</p>



<p>再见。</p>
]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
