硕鼠的博客站

范路的博客主站,时而会发些东西。

大家好,这里是老范讲故事。今天来讲两个故事。第一个故事是:微软正在撤离中国AI团队。这个事情呢,应该是突然传出来的,应该是礼拜三传出来的。因为礼拜三我们在做《老范读评》的时候,就一帮人问:“哎,赶快说说,到底咋回事?”呃,第一个呢,这个事,我没有向任何微软员工去求证啊,这个一定要讲清楚。因为万一说对了,说错了,在给别人找麻烦,这事不合适。咱们呢,只能够根据现在公开的信息来进行一些分析和猜测啊,这个里头没有任何内幕消息,一定要跟大家讲清楚,不是说我认识谁谁谁了,我去问了谁谁谁了啊,千万千万要说明白。特别是刚才有这个人讲,说是微软员工来听自己的瓜了啊,这个还是给了我一点点小压力。

这个事情呢,突然传出来,据说是有几百人的团队要撤离,是微软中国区,云的关于大模型的一些团队,以他们团队,可能还有另外几个团队为主吧。啊,这些团队呢,正在撤离。据说呢,是这些人收到邮件了,邮件上写的是,他们可以离开去美国、澳大利亚,有的是写爱尔兰,也有写新西兰的。而且呢,全家人都可以一起去办移民。后边有一点未经证实,但是其实是整个事件里的关键是什么呢?就是不转岗到底会不会被裁员。如果有些人说,“我愿意留着,也没什么事,看你原来的事。”那这个呢,其实就是微软内部经常干的这种事情,因为我原来有些同事就是通过微软内部的这种转岗,从国内转到美国去了,拿到了美国绿卡,后来也拿到了美国国籍。这个故事是存在的。微软呢,过一段时间就会干,或者说他一直在干这样的事情,他也一直是有这样的机会给大家说,“哎,你们可以去申请,申请说你到底是在哪边。”其实谷歌应该也有,但是这个里头有几个问题啊,第一个问题是什么?就是他不会一下出一大批…

或者是集中在某几个部门,而且呢,通常也不会说你不转岗就要裁员,这个事情一般是不会说的。所以这个里头呢,真正的关键点,不是说是不是有人要去移民,到或者说被微软transfer到不爱去了,或者是全家一起给你办签证,这个事都不是关键。关键是什么?就是它到底是一个什么样的部门,对吧?这个部门是一起都走了,还是说给你留几个,还是说走了,走完了以后剩下人还能不能干活,这个才是关键。

其实微软出来后来辟谣来了,但是辟了谣的这个事呢,又得把这事说清楚。对吧,第一个呢,讲的是一小部分员工,得到了可以选择国际轮岗的机会,这是微软官方写的啊。然后呢,说员工可以选择接受轮岗,或者继续现在岗位工作。这件事呢,虽然他并没有说啊,你不转岗就要裁员这个事情,但是呢,现在网上讲的是什么呢?就是说他可能部门大部分人都走了,对吧?你把这个人留下来可能也没啥事干,因为你一旦出去以后,他有时差呀,你没法跟原来团队配合啊,这个事可能也不一定会留得下。而且呢,据说留下来的人也担心被裁员,那么这个事情实际上是没有说清楚的。

然后呢,微软还在讲,说一直有向员工提供内部轮岗机会的机制,这个事倒是真的,微软是一直都有这种机制。但是呢,你一次性的把整个部门或者说几百人一把都弄出去的这个事情,这个应该也没有这么干吧。原来可能就是大家自己去申请,觉得你应该在哪边去上班,都是允许的。然后呢,微软还讲了最后一句话,是什么呢?叫不会影响公司在国内的运营,因为有很多人在传言。说微软要整个退出中国,那么这个事呢,还是要出来辟一个谣的。说这个没有。那么,微软是不是真的把AI部门撤走了呢?刚才我们讲了,微软虽然辟谣,但是呢,说的并不清晰。你如果说只是像某几个人啊,开放了这样的说法,“哎,你们现在可以了啊,那些人可以了。”微软这么多年一直在干,为什么以前没爆出来?这次为什么又闹起来了?那么,肯定不是说大家申请了,“啊,可以去了,没事了。”而是公司发了信出来,对吧,说你们这个部门的人整个都签走了,或者说那几个部门的人都要签走。一定是出现这个事情,那微软呢,并没有说清楚,说到底是哪些部门的人走掉了,而是说我们有这个机会。

第二个呢,微软虽然内部有这种转岗制度,但是原来不是这么运转的。为什么引起关注了?第一个就是说,AI现在是一个很敏感的事情,算是整个IT圈或者互联网圈,全村最靓的仔了吧,大家所有希望都在这了。而且呢,现在全世界做AI这块,基本上也就是美国跟中国,在努力的折腾。其他的国家,其实在这块都要稍微差那么一点点。

第二个就是比例,其实并没有说清楚,到底是哪些部门的,多少人走。这个事其实微软并没有出来解释。

第三个呢,就是人稍微有些多,据说有几百人,一开始时候有三四百人,后来还有各种数字出来。但是呢,这个事呢,并没有一个完整的数字,或者很准确的数字,因为微软官方不出。现在有很多这些数据是哪儿出来的呢?就是有这种匿名的社交软件,大家说,“哎,我们是这个什么什么公司的在这说。”但是呢,它是匿名,也搞不清是谁说的。但是,相信这个事应该是真的。

最后呢,如果是不离开就拿补偿的话,那这个事情就完完全全变性质了,跟原来那种轮岗,“你不愿意走,就留在这接着干”这个事就完全两回事。虽然微软自己辟谣说他们不愿意走,就可以接着在现在岗位上上班。有可能是外面传完了以后,微软内部也进行了一定的调整,这个事的可能性是存在的。但是呢,留下来这些人,肯定也是一个缓兵之计了。我相信。大部分人有机会还是惦记跑的啊。或者说,咱们可能在这听节目的人,都是惦记有机会就跑了。但没有哪个人说,能上来看YouTube,还是说,我就要坚持在这里奋斗到底啊。现在这个事呢,被曝出来,还有一个原因,就是很多人叫“吃不到葡萄说葡萄酸”。看到别人拖家带口的都跑路了,肯定有些人是羡慕嫉妒恨了。也有人痛心疾首说,“你们怎么可以去投奔美帝呢?你怎么不可以留下来建设祖国呢?”当然,我相信这种人呢,更多的应该还是在恨,说这个机会为啥不是我的呢?那些骂的最欢的人,你给他一个这样的机会,你看他走不走,对吧?也不能说所有人都会走吧,但是肯定还是大部分人会走的。

现在就有些人就要去吵吵啊,说“我走不了,你们也别想走”。那么,在这肯定就会有些人会留下。这个呃,就算是闹起来了以后的一个,对于本来可以全家出逃的这些人的,一个不是那么好的结果吧。但是,希望他们再过一段时间,还是可以顺利出逃吧。那微软,我相信,他还是在做撤走AI相关团队这个事情。说为什么他要去做这个事情呢?啊,就甭管微软怎么辟谣,我依然相信这个事在干啊。第一个就是中国的生意呢,现在确实不太好做。在商言商,如果中国有生意,那肯定大家还是要来做对吧?甭管是说在中国卖open AI的东西,卖微软自己的东西,还是做各种的系统集成,那有生意大家干嘛不干呢?

但是呢,微软云的open AI业务,在中国卖的好不好呢?听说卖的其实还不错啊,就是微软云的open AI服务,中国是可以卖的,而且也确实有人买啊,也应该有一些业绩。但是呢,所有购买了这个服务的大客户小客户,不管大小,都要求微软签保密协议。你必须保密,我买了你东西,你不能跟任何人说。这是很奇怪的事情,因为大家可能买完了以后,回去就跟人说,“哎,”自研,自主知识产权——对吧,你看,我的模型已经完全可以达到GPT的水平了。对吧,谁要合伙,买的是微软的服务,这个可能性都是存在的。而且,微软这次辟谣,为什么显得很软弱无力呢?辟谣时,它只能说“生意照做”。正常辟谣,应该怎么说?哎,你看,我卖得很好啊,对吧,我卖给谁谁谁了,谁谁谁用得很棒,谁谁谁用完后,还说我的产品非常好用。结果,举不出任何有力的证据,说:“哎,原来干什么,我接着干啊。”至于谁买了我的东西,我生意做得好不好,哎,咱们讳莫如深。微软现在整成这样,中国的生意确实不好做。

虽然OpenAI的服务在中国也卖掉了,但是不许说,哈哈,你也不能对外宣扬。现在,整个信创产业让微软看到未来的希望,基本上是很渺茫的。对吧,现在的信创产业要求是:不能用Intel的芯片,不能用微软的操作系统,你必须上Linux。而微软,你说它在国内能卖掉多少这个OpenAI的服务,云服务其实卖不掉多少。微软在国内,肯定Windows啊,Office这些东西你还是要老老实实卖,剩下就是一大堆系统集成,对吧,这是微软在国内要努力去做的生意。但是,这几块其实已经很难做了。

信创上来以后,他们说你怎么可以用Windows的东西呢?你怎么可以用Office呢?你还可以怎么用Windows?都变成这样。现在大家可能买Windows更多的是为了游戏本,对吧,拿来打游戏。而正儿八经上班的,建设社会主义的,都是用Linux了,或者是国产Linux。可能再过几天,鸿蒙PC系统就会出来了。就算有个别单位还在买新的……还在用,也只能偷偷用啊,像做贼一样。不许说了,这是微软正在迁移整个AI团队的一个原因吧。当然,还有一个原因是什么呢?就是中国的程序员,特别是AI相关的高端程序员,也算是一种土特产吧,咱们就产这东西,你咋办呢?前两天还看一个文章,说刚刚发布的GPT-4,17个人的团队,就是他,这个“欧”是欧美嘛,就是万能的对吧。17个人的团队里,6个华人,然后这6个华人呢,分别毕业于清华、北大、上海交大、中国科技大学和MIT,清华有俩。6个华人里的,还有一个,是美国信息学奥林匹克竞赛的教练。啊,微软在中国招一批这样的人以后,领导澳大利亚、领导美国,或者到任何一个本身原来用工成本很高,也没有这么高人才密度的地方去,也确实可以解决它的问题啊,这个我觉得是没有任何毛病的。

现在美国呢,也在提案说限制中国使用美国的大模型。5月8号,美国联邦众议院外交事务委员会主席,迈克·科恩(Mike Cohen),联合另外三位众议院代表,共同发起了一项新的立法提案。大家注意啊,前面疯TikTok的是能源与商务委员会,这一次提案的是外交事务委员会的主席。这个提案,叫第118届国会HR8315提案,要求进一步修订2018年出口管制改革法案,防止包括中国在内的外国竞争对手开发和利用美国的人工智能及其他关键技术。它原来有这出口管制改革法案,现在说我们要,再调一调,把这个人工智能相关的东西也加进去。

这个迈克尔参议员是干嘛的呢?啊,他是个共和党,众议院外交事务委员会主席。封禁TikTok的法案,最初不是他写的,就是“保护美国人免受外国对手控制应用程序侵害法案”,不是他写的,那个是能源与商务委员会写的。但是,他对这个法案其实作出了很大的贡献,就是那个对外援助法案,是他起早的。他提议说:“咱们把这个对外援助法案,跟这个保护美国人免受外国对手控制应用程序侵害法案,合并起来,一起投票。然后呢,众议院投完了,参议院投,投完了以后,送到拜登桌上咔一把签字。”这个事是他干的。当然了,这个人也爆出了一点点小丑闻。那是什么呢?就是在做这个法案联合投票之前,购买了大量的梅塔的股票。那这个事,你说他是啊,有什么问题没有?不知道,美国的法律是怎么规定这件事情的。

现在呢,其实有很多的中国AI人才和AI团队呢,都在出逃的路上。这个几条路:第一条呢,就是海外大厂,叫微软这样的大厂,包括像谷歌啊,他们都会在国内进行招聘。招聘完了以后,在国内进行一定的研发,然后呢,再向海外转港。这几年的话,海外大厂的吸引力其实又高起来了,因为原来有一段时间,海外大厂的吸引力是没有国内互联网大厂高的,因为国内互联网大厂真给钱。现在啊,又有了一些新的动向。

然后第二个呢,就是国内互联网大厂也在努力招聘。招聘完了以后呢,很多也会把他们的AI团队外派到海外去。为什么呢?因为他们要使用海外的数据和海外的算力,而且呢,也可以就近的跟海外的同行进行交流与碰撞,甚至呢,也会在海外猎头,再去招海外的人进来干活,服务于海外用户。这个也是一个出逃路径。

第三个呢,就是国内的一些创业企业说,算了,咱就创业吧,自己重新做大模型。那么这些人呢,会拿美元的融资,拿完了以后,这个团队就开始“润”,润完了以后去海外上市。国外的大厂,有些时候,也会直接投资和收购中国团队。欧洲的汽车厂比较喜欢干这个事情,特别是国内的一些自动驾驶团队。但是这个搞完了以后呢,还是要在中国干活,他们不会把这些人运到海外去,但是也不好说了,他们肯定也缺人。那美国人真的能够封住中国AI发展之路吗?这件事呢,其实有些难的,不容易。为什么呢?因为“梯子”还在。对吧,你像我们现在还可以坐在这看YouTube,我们还可以挂到梯子上去访问ChatGPT。他除非是在美国那边自己建“强”,否则的话,其实意义并没有那么大。但你说美国现在在不在建“强”呢?其实也在。就是现在很多的服务会检测IP,你比如说像插着VPN,不是说中国政府封了他们,不让他们进来,而是插着VPN自己的网站说,“我检测到你的IP地址在中国,我就不给你服务了。”这个是单向的。他们这种“墙”其实对于各种梯子,特别是做梯子的,每天还在研究说,“我怎么能够骗过这些‘墙’啊?”他们现在其实做的并没有那么好吧。

真正让中国AI技术腾飞的,并不是GPT-4,GPT-4会起到一定的作用,但是我觉得,它们更多的是指明方向就可以了。人一看,“哦,GPT-4,又有一个新的方向被指明了。”GPS也忽悠了一帮人去折腾,然后其他的各种应用方法,都是大家跟着GPT去学就完了,因为它毕竟是个开源系统。Charge GPT能够给中国的AI做的贡献最大的是什么?就是帮我们的中国AI初训练数据集,这个是他们能够干的比较多的事情。甚至呢,有一些可以跟中国的一些应用系统相继结合,但这块呢,应该少一点。真正让中国AI技术腾飞的,应该是GitLab和Hugging Face,就是开源的东西,才是让中国技术腾飞的关键。

就是别人一开源,我们就遥遥领先啊。Open AI的服务呢,依然是可以通过微软云接入的。因为,国内反正我是接触过他们的一些代理商,他们是可以拿出证书来说,我们得到授权,可以去销售这个基于微软云的Open AI产品。你可以拿着这个证书自己去使用。但是现在呢,是不允许对外公开,也就是说,你去对公众服务,这事不行。但是你说我在自己系统内部用,这个事是没有什么问题的。

所谓的算力限制,你说哎,美国人不给我们卖显卡了,不给我们卖算力卡,A100、H100后面的这些卡都不卖给我们了,这事怎么办?其实呢,我觉得在这一块上,真的没有那么厉害,没有那么严重。为什么?就是本地推理,其实对算力的要求并没有那么高。我就是为本地来服务一下。咱们国内啊,A100、H100我估计明面上的应该是没有,但是走私进来的其实是蛮多的。而且现在国内,我听说H100其实已经可能,呃,有一些过剩了,就是或者A100或者H100这样的卡,已经有点过剩了,就是从国外走私进来太多了,很多都在问说你要不要,你要不要。中国人的购买力,你还是要相信的,各种钻空子的能力,你还是要相信。这个东西其实国内并不少,只是现在可能还存在一些走私集团,或者是什么啊,地下的一个渠道里面。现在并没有明目张胆的装到这个机房里边去。

大模型训练,我真的需要训练大模型了,对于国内的算力来说呢,应对上一代的模型训练其实是够的。那你说我要训练一个像拉玛3这样的东西,这个可能稍微有些困难,但也不是说做不出来,还是能做,对吧?你说我要去做这个,呃,GPT-5这个层次的,可能你就真没戏了。现在呢,GPT-4层次的这些大模型训练,国内的这些现有算力去训练,其实是可以做,就是慢些呗,啊,用的电脑,用的这个主机多一些,还是能做的。另外呢,就是国外还有巨大的算力池。就甭管是腾讯、百度、阿里,对吧?再加上字节跳动,在全世界范围内,实际上是有非常巨大的算力池的。他们在全世界也是买了很多的H100,然后在这边堆着,可以算。这个并不用太担心算力的问题。我觉得这一块卡脖子,基本上卡了个寂寞。

国内现在大模型的发展其实也在很快速地推进。我最近在横向比较各种模型。文心,嗯,实在懒得关注,什么时候跟他聊天,什么时候都能气你一肚子火,实在是不好使。然后,质朴据说还是不错的,试了一下,感觉还行吧,反正比文心强点。号称是国内唯一的大模型,为什么叫号称呢?因为其他的,特别是开元的一些模型,出来都是到头来就是“骑士币”。原来拉玛2就是骑士币嘛,大家都在那基础上改来改去,所以都是骑士币。

质谱呢,据说他们有一个很大的模型,可以达到千亿规模。他们说我们可以玩这个。还有一个叫DeepSea,这家公司是搞Moe,就是这种专家模型的。千问和E呢,是刚刚发布的理论,同一千问,2.5E,名义万物,也是刚发布的理论。现在叫e log IG,就是他们现在也开始上大模型了,因为原来的Imedium应该是34币。

我现在不知道他起了这样的一个名字,是做了70币啊,还是说可以达到上百币了。这个事,就是上千亿的这种参数,不好说。通1,000问呢,是前面出了一个,110币的,就是1,100亿参数的一个模型,那个确实非常好用。因为我现在海外的云服务器上已经挂上了通1,000问,110币每天在用,效果非常好。

现在,国内各个大模型上来了,就是比较高参数的模型已经上来了,这些模型呢,基本上可以接近GPT-4的水平,虽然不是说全面超越,但是基本上接近了。然后开源模型也在更新,而且E呢,现在也号称要上Moe的这种专家模型。Kimi算是国内的一个显眼包,就是国内闹得最热闹的一个模型。Mimi呢,其实对于日常使用来说,作为替代GPT 3.5-4之间的一个水平吧,可能到3.6、3.7,个别的任务,可能比GPT4还要稍微强一点,在这样的一个水平上,基本上够使。Keep me唯一的问题是什么呢?就是用的人太多,导致他的服务器经常顶不上,就是你可能聊着聊着,他就告诉你说:“哎呀,对不起,我太忙了,让我歇会儿。”其他的都还挺好使的。

然后这两天,字节跳动也在国内发布了豆包大模型,替换了他们原来的云雀大模型。豆包模型的生成水平呢,还是要弱一点,逻辑能力也稍微弱一点。好在它是主打便宜,它的TOKEN的价值,是其他所有现在开放出来的大模型的可能几分之一,它就是量大管饱。底层7座大模型的竞争呢,中国肯定会落后,这个没什么好说的。现在我们要知道,全世界可能做的最好的7座大模型,一个是OpenAI家的GPT-4,或者是GPT4的一些API的这种TOP级别,然后是Cloud3,特别是Opus,这个是做的最好的,然后Gemini的1.5啊,或者是1.5 Pro这样的版本,已经算是还不错了。他们在这三个其实算是各有千秋,有些任务上,Cloud是可以超过GPT4的,但是不能全面超越,这个还是有一点点难度的。在这块,中国现在你说我们能不能超越他们,比较难,但是呢,基本上接近GPT-4的水平还是有一批的。但是在应用层上,我觉得应该不会有特别大的影响,而且做应用这件事,啊,中国人其实还是很擅长的。

我这两天在我的Mac电脑上装了XS GPT的Mac版。现在,只要你用XSGPT,它就推荐你下载这个东西。如果你是Windows用户,它应该不会理会你;但只要你用的是Mac,它就推荐你下载。同时,我也装了豆包的Mac版,这个版本实在是太好用了,我都想去录一节课,跟大家讲讲怎么用这个玩意。这个回头咱们再讲。

美国人呢,肯定还会继续努力来封禁中国使用大模型。但是,这种努力的意义不是那么大。我觉得美国人做的很多努力,比如封禁、各种限制,对中国来说,不能说完全没有影响,肯定是有影响的,但要想把它限制死,又不太容易。毕竟,美国是个法制国家,这事就比较麻烦。比如说,给中国的商品加关税,加完后发现,中国商品便宜的并没变少,怎么办呢?接着就把东南亚四国,比如柬埔寨、马来西亚、泰国、越南加进去,对吧?还说对他们的太阳能板进行调查,看看货是哪儿来的。美国人就这样不停地努力,但努力的过程也没那么快。咱们看看他们下面到底能做成什么样。

至于说微软这个事,后面会怎么办,我觉得,作为国际大厂,可以不断在国内招募AI团队,然后不断搬迁,这其实是一个挺好的方法。你在国内招的这些AI团队,真的是价格便宜量又足啊!而且,大家惦记着带着全家人老小,然后一起搬迁的意愿还是蛮强烈的。国内大厂在想招聘AI团队,这个成本就会上升。为什么呢?你说你给多少钱,加多少期权,对吧?你能够比得上一家人的船票呢?所以,国内的大厂可能会对这些现有的AI团队更好一点点啊。那么,这个可能是微软事件对整个国内AI发展的一个大的改变吧。我们也希望,在国内能够自己做出AI的这种团队来,或者说能够训练模型,能够做出一些独特产品的团队来,能够应润尽润吧。这个也只能说到这了。好,这就是我们今天的第一个故事。

 

Both comments and pings are currently closed.

Comments are closed.

Close Bitnami banner
Bitnami