Jev判定模型的价值、用法与风险

Jev判定模型主题封面,中央是写有“Jev”的判定器,左侧输入大量文本token,右侧只输出概率与置信度,底部用价格、准确率和速度三张信息卡形成鲜明对照;可见事实元素:Jev、100万token才4美分、准确率68%、几百毫秒出结果

这两天,判定模型Jev又刷屏了:极度便宜,极度高效。我们是不是又要见证历史了?

大家好,欢迎收听老范讲故事的YouTube频道

首先提醒大家一句,Jev确实非常便宜,100万token才4美分,而且效率极高,输入信息以后,几百毫秒就出结果。但是,它的准确率也就是68%,一定要小心,它有可能给我们带来巨大的灾难。

Jev这种模型跟传统的大语言模型LLM有一个最本质的区别:它不是生成内容的,只负责下判断,相当于是个判官。但是,这个判官的准确率就是68%。先把结论放在这里:这东西真好用,我自己已经放进流水线了;但是,它不是更聪明的大脑,而是把“下判断”这个岗位从大模型本身上拆下来单独卖,价格打到地板上。

它值钱的地方不是准,它并不比现在的大模型准,后边我们会说数据。它真正强的地方是便宜,便宜到以后什么事情都可以让它先判断一道。这个事我一开始还没注意,Discord上有人问我:“老范,现在Jev模型这么火,你不说两句吗?”当时我说没注意。我的很多选题都来自Discord群,大家看到什么有意思的事情,可以到这里问我;我觉得可以聊两句,就会研究一下,做成节目跟大家分享。刚刚老范透露了如何在节目里点单的流程,大家请记在小本本上。

今天分几段来讲。第一,Jev模型不能干什么,我们先把不能干的事说明白。第二,介绍一下这东西到底是什么、谁做的、名字从哪来,这部分尽量讲故事,具体细节不跟大家分享,因为人家也没公开。第三,我们的AI账单里到底应该用它替换哪一部分。第四,这东西到底怎么用。第五,它到底会如何改变AI产业,英伟达股票会涨还是会跌。最后,我们讲一下这个东西为什么很危险。

先泼三盆冷水:这些事不能交给Jev

先泼三盆冷水。Jev之所以突然爆火,一个很主要的原因,是很多币圈的人发现这玩意可以下判断,可以判断币要涨还是要跌,于是把它推火了。币圈的人一直非常热情,至于他们搞得懂搞不懂并不重要,但他们的热情很强,所以一下就推起来了。首先要讲清楚第一件事:这个东西不能用于炒币、炒股和量化交易。

人家发布产品的时候就说了,这个系统不擅长做算数,你要判断涨跌,别来找它,这玩意判断不准,gram。现在这些炒币的人已经灰溜溜地离开了,因为他们发现用这个东西判断炒币,效果很一般。第二,自动驾驶和人形机器人也不是这种模型擅长的事情。刚才说它快,几百毫秒就可以出结果,但快得看跟谁比。跟GPT、Claude比,它确实很快;跟自动驾驶比,这玩意就不行了。

像特斯拉FSD,做判断只能有20毫秒,因为如果车开到110公里每小时,Jev这种300毫秒的响应速度,车已经开出去9米、10米了,该撞什么早撞上去了,所以这个事也不行。而且这个系统在云端,没有开源,万一网络不通,也是不行的。还有一点,Jev只能处理文本,不能处理图片、视频和声音,所以让它做自动驾驶、做机器人,搞不定。当然,自动驾驶和机器人里一些不那么着急的大逻辑判断,它可以干;但是让它去做一些动作判断——它是干不了的。

自动驾驶响应时间对比图,左边是标注“特斯拉FSD”的车辆控制模块,右边是云端“Jev”文本判定模块,中间用车辆前进距离说明时间差,明确表现Jev不适合紧急动作判断;可见事实元素:特斯拉FSD、20毫秒、车速110公里每小时、Jev、300毫秒、9米、10米、云端、只能处理文本

第三,很多人认为这东西零幻觉,这也是不对的。它在很多时候会告诉你,这个事我拿不准,有可能是真,也有可能是假,但是后边会跟一个数,叫置信度。像我让它做的一些测试,置信度就只有49%,也就是它拿不准。所以千万不要认为这东西零幻觉,而且这个模型最后的判断准确率也就是68%,也不要认为它就是对的,千万不要抱有这种幻想。

阅读更多