硕鼠的博客站

范路的博客主站,时而会发些东西。

Posts Tagged ‘TPU’

大家好,欢迎收听老范讲故事YouTube频道。今天我们来讲一讲AM作妖,让苹果的M系列芯片可以继续在AIPC领域里头独霸天下的很长一段时间的故事。刚刚结束的WWDC,大家还看到了Apple Intelligence。有些人觉得在挤牙膏,有些人觉得很震惊,但是有一点是确认的,就是苹果演示了大量可以在本地顺畅运行的模型,以及这些模型可以跟操作系统结合在一起,极大地改进用户体验。这件事情大家还是觉得非常棒的。

那大家有没有想过,所谓的Apple Intelligence,这些可以在本地运行的模型,它的底层到底是什么啊?它的底层就是苹果的M系列芯片。所谓的苹果M系列芯片,是苹果专门为了应对PC工作,在AM的许可标准下,自己定制的一款芯片。现在我们有M1、M2、M3、M4啊,最新的是M4系列芯片。这个芯片呢,跟传统的手机芯片不一样,它的算力会更强,但是跟X86芯片也是不一样的。X86芯片的话,它的耗电啊,它的发热都是很厉害的,而M系列的芯片啊,它的耗电,它的发热都是有极大的改善。因为这种芯片本身是为移动设备开始设计的,所以很省电。在没有非常大的算力要求的时候,它可以关闭大量的核心,非常非常省电。那么省了电它就肯定不发热了嘛,你也不需要再去散热。

Read More…

大家好,欢迎收听老范讲故事的YouTube频道。今天我们又请到了老朋友尹迪狗,给我们介绍一下刚刚召开完的谷歌艾欧。这一次到底发布了什么。而在谷歌艾欧之前的一天,OpenAI我觉得算是故意捣乱截胡,发了个GP4欧出来。我们就正好趁这个时机呢,把这两个发布会或者两两个产品吧,一起来总结一下。首先呢,我想先问一下,GBT4O到底算不算是划时代的产品。嗯,至少模型啊,分成两部分,它发的是PPT是o是模型混合模态嘛,他把语音视频和文字一块训练的嘛,可以同时输入和输出嘛。这个相当于是,嗯,也不叫划时代吧,就是他之前所有的工程技术的沉淀。嗯然后呢,做了一个特别好的一个交互形式,就是语音交互。而且那个语音交互的很大一个特点,发完之后不是马上就有人升级吗,一搜我的这个APP上面的模型以及GPT,搜了然后大家都想打开。那那个耳机,点上去之后呢,可以跟他聊聊天。实际上,那个聊天并不是他发布会上的那种APP,那个还是回合制的,用那个rest接口聊天。我,发出去然后回来,这个回合制的,但是呢,他在发布会上演示的是完全stream的,就是像就像我们现在一样,我们录节目,我们用的是Web RTC协议嘛,streaming,就是你的Server端,它的那个TOKEN,它就不停的接收是吧,做实时处理。这个特别耗流量,耗TOKEN,耗算力的。嗯现在还没用到这个模型,所以大家感受不到,所以我记得第二天还第三天的时候m奥特曼还是他们官方账号,发了一个说明嘛,说哎你们大家用的现在还不是,发布会上也是这个,哈哈哈,一堆人说说这一直完完全不对,这么慢的响应,我觉得借手报了一下,就是他是非常natural,非常自然。可能就是大家第一次用起来 GPT 的感觉,一样哎。哇哦,是他没这样回答问题。就是他确实是有那个时候的一个感觉。

Read More…

大家好,欢迎收听《老范讲故事》YouTube频道。今天咱们来讲一讲Goole I/O,又一次如期举办了。为什么使用了这样的一个词呢?因为提前一天,Open AI已经把风头都抢走了。大家要知道,在往年的Goole I/O啊,一直都是被认为是互联网科技圈里的一次技术盛会。我曾经去过一次,2014年,我是到旧金山,到现场去参加过一次啊,那真的是一场科技盛会。所有的技术媒体,在这之前就要整装待发,我们要在这等着,等什么呢?传达好Goole I/O,向全世界互联网技术圈传达的方向。对吧,大家要好好学习。今年指明的方向是什么?每年都要干这样的一个事情。甚至呢,还有很多的小公司,会在Goole I/O的会场外面举办各种小型沙龙。2014年我就去干这个事情,在Goole I/O外面啊,租了一个小的酒吧。但是,你不敢在他正式开会的时候开会啊,那个时候是抢不到人的。我们都会在他开会散了以后,晚上在周围的小酒吧里边开一些小型的沙龙,跟我们坐下来,我们来讲一讲这个——当时在猎豹移动,是猎豹移动啊,在谷歌里头都干了些什么事情。我还记得那一年我们坐在台下,听着皮查伊在上面讲,提了多少次猎豹移动,大概提了4次还是5次。我啊,还有很多猎豹移动的员工,包括各种老板们,都在下面听着热血澎湃。但是今年,热度全都被Open AI释放掉了。你想,大家都在等着,等着,等着,说哎,Open AI还提前一天来,说我们给大家看一个不一样的。我记得以前有一个这样的故事,是滴滴也是跟另外一家公司去抢,那家公司还比滴滴融的钱多,然后每天在北京交通台做广告,说啊,还有10天,我要告诉你们一个重大消息,还有5天,我要告诉你们一个重大消息,反正每天倒计时往前数。然后滴滴呢,大概提前了一天发布,说不用等了。今儿我就告诉你吧,人家等于是花了30天的钱,滴滴只花了一天的钱,还可以截胡了啊。现在Open AI也干了这么个事,Open AI在提前一天发布了GPT-4,这样一个产品。这个产品呢,从外在表现上说,你说它划时代吗?又好像没有那么划时代。它人性化的很强,就是大家觉得那是一个人了。而且从技术上说呢,也确实有一个进步,什么进步?原来都是说语音识别,内容处理,或者是叫文字处理,然后再到语音输出,原来是这样的输出方式。现在是端到端,我这头进去就是语音,出来的也是语音。这个产品让大家眼前一亮,让这些等了很长时间的技术媒体们,一把把热情全都释放掉了。什么划时代呀,什么“Wow”,还有各种各样的溢美之词,就直接都在它身上释放掉了。这也是很神奇的一个事情。

Read More…
Close Bitnami banner
Bitnami