程序员的深夜忏悔揭露黑幕:为了派送垃圾订单,我们将活人标记为“资源单位”,这种AI时代的平庸之恶比纳粹更隐蔽|ai scam、labour extraction

程序员的深夜忏悔揭露黑幕:为了派送垃圾订单,我们将活人标记为“资源单位”,这种AI时代的平庸之恶比纳粹更隐蔽|ai scam、labour extraction已关闭评论

“绝望指数”为AI会如何伤害人类给出了新的答案,这就是AI的“平庸之恶”

大家好,欢迎收听老范讲故事的YouTube频道

算法眼中的生命与成本

外卖骑手、网约车司机在算法面前到底算不算人呢?是不是他们只是一个参数呢?在程序员眼里,他们到底是不是生命,还是可以优化的成本曲线呢?

当一个人勤勤恳恳、任劳任怨,遵从了平台的所有合理和不合理的规则以及要求之后,他会奢望自己的勤奋和听话可以换来平台的垂青,会获得应得的收益。事实却是非常残酷的。平台会在这个人身上打一个标签叫“绝望指数”。这是一个背负着房贷、有孩子、绝不可能离开平台的人,一定要把最脏、最累、最没有人想接的单子都派给他。

“屋漏偏逢连夜雨,船迟又遇打头风,麻绳专从细处断,房梁多在榫处折”

这就是现在这么一个残酷的现实。斩杀线再次被人为以及AI协同一起抬升了。

“绝望指数”引发的信任危机

“绝望指数”这个被涉事企业、官方和严肃媒体普遍定性为AI伪造文章里面的词,为什么会引发广泛的社会关注与讨论呢?这就是我们对于AI系统的一种不信任。我们会把身边遇到的各种问题、遇到的各种不公,都归结于这种不可知的AI或者算法里面。

亲身经历:4块钱的“绝望单”

在这里跟大家讲一个小小的经历吧。我前两天在上海去参加石国鹏老师的《耶路撒冷3000年》这样一个讲座。头一天要帮他订矿泉水。大家注意,1月1号到1月3号之间是在休假的,我们准备1月3号的活动用这些矿泉水。

在假期里边去下订单,就没有骑手接单。商家已经把矿泉水准备好了,但是没有骑手给我送来。等了一个多小时也没有送来,最后我给了4块钱的派送附加费。这个4块钱的单子发下去以后,骑手闪电接单,从一个非常遥远的距离送了几箱矿泉水过来。

他绝对不是从楼底下的商户把矿泉水送上来,那个很远很远,大概得有个十几二十公里的地方把这矿泉水给送来了。这就是最差的单:节假日送矿泉水,这矿泉水本身价值并不是很高,而且因为我买的多嘛,所以它是免快递费的,而且还很重。

我现在都不敢想,我这4块钱是到骑手的手里了,还是被平台拿走了。我也不敢想,是多么绝望的人才会去接这种单子,从那么遥远的距离给我送几箱矿泉水来。当然了,下次我还是会点外卖的,因为如果我不点了,这个绝望的人可能就会失去最后的希望。

Reddit爆料:程序员的“忏悔”

说回来这篇文章,就是提出“绝望指数”的这篇文章,到底写了些什么呢?这篇文章是2026年1月1日出现在Reddit“忏悔”目录下的。这是一个全新的账号,只有这一篇文章。

作者先描述了自己的懊恼与纠结,他说我签了很严格的保密协议,现在是使用一次性的笔记本在图书馆的无线网络下发帖,昨天已经提交了两周后离职的通知,希望被起诉。他说如果你们抓住我,你起诉我呀,我憋了8个月,一想到参与了构建这样的系统就夜不能寐,就是完完全全在被自己的良心所谴责。

这位作者做了一个简单的自我介绍,他说他是在一个外卖平台工作,是一位后端工程师。他披露了以下几个核心点:

  • 资源单位(Resource Unit):在我们的平台里头,司机不是人,而是有一个专门的名词叫做“资源单位”。因为你一旦说他是一个人的话,那么写程序的人就会有心理负担。
  • 优先配送费骗局:2.99美金的优先配送费就是一个骗局。给了钱只是在数据结构上添加了一个标记,不会在配送逻辑上做任何调整。因为配送过程本身就是一个不可控的,到底是早点送晚点送,你是高峰期还是低谷期,这个事情对于普通人来说、对于用户来说,你是没法有预期的。他们甚至做过A/B测试,在不付2.99美金的订单上故意延迟了5-10分钟,发现效果很好。
  • 绝望指数(Despair Index):如果一个司机晚上10点钟登陆,毫不犹豫的接下每一个3美元的垃圾订单,系统会给这个人做绝望指数的标记。系统会把最垃圾的订单都给他们,隐藏高价值的订单,只有兼职司机才会看到那些高报价的订单或者是高小费的订单。
  • 巧立名目收费:他们在订单里头有福利费、监督响应费、司机福利费,有一些这样的名词的费用要去收。顾客以为付了1.5美金是在帮助劳动者,实际上这笔钱会进入企业的秘密资金池,用来打压工会,这笔钱是用来雇佣高薪律师打压劳动者的。
  • 小费算计:如果顾客是习惯给小费的,他的这个订单就会故意的降低配送费用。比如说这个人原来是习惯每一单给10美金小费的,那么他这个订单派到司机那里就是两美金了;如果这个人是从来不给小费的,那么他这个单派到司机那里可能就要3美金或者是4美金,才会有人去接单。他把美国人习惯的小费,从补贴司机变成了养肥平台。

舆论风暴与巨头辟谣

这个文章出来以后,一石激起千层浪。1月1号文章最先贴在了“晚期资本主义”这个论坛目录下,没有什么反响。作者再次将文章贴到了“忏悔”目录下,一下就爆了。这个文章有8.8万次赞,4400条评论。这个文章的截图被发到了X上,获得了20万次赞。

美国两大外卖平台股价下挫,一个是DoorDash,一个是UberEats,这两个股价都下跌了3%到5%,这对于他们来说绝对是损失惨重。

那两大外卖平台赶紧出来辟谣灭火。首先是DoorDash的CEO叫Tony Xu发文否认,说这个肯定不是DoorDash,跟我没关系,我们从来不使用“resource unit”这样的内部语言,也绝对没有“绝望指数”这样的内部的黑化,所有指责跟我们没关系。

在美国DoorDash是领跑,第二名就是UberEats。UberEats也公开否认,称这个文章是AI生成的骗局,公关负责人直接出来指控这个文章就是伪造的,是一场AI生成的骗局。但是这位公关负责人并没有否认他们使用了“resource unit”或者是“绝望指数”这样的说法,因为在美国做伪证也是有罪的。

真伪之争:AI生成的文章?

为什么这个文章会被指责是AI生成的呢?Verge记者通过了加密通讯软件Signal联系到了作者,要求提供证据。作者给了UberEats的资深软件工程师的工牌,但是遮住了照片跟名字,还展示了一些内部的PDF文件。

工牌的照片被发现了由谷歌Nano Banana Pro进行编辑或者是生成的指纹。因为你拍一张照片说Nano Banana,请把这个头像和名字给我抹掉,你是可以来做这个事情的,但是一旦经过这个处理以后,这个照片上就会有谷歌的指纹了。在记者要求进一步的沟通和确认的时候,这位作者就直接失联了。所以这个文章被指责是由AI生成的。

对比中国:“困在系统里”的骑手

我们对比一下中国2020年的一篇文章,那个文章叫《外卖骑手困在了系统里》,感觉似曾相识,因为这一套还是中国人玩的要更溜一些。

  • 粘性与沉没成本:中国也在识别“绝望指数”,只是我们使用的词叫“粘性”和“沉没成本”。就是我们来去判断这个骑手是不是背着房贷、是不是一个老骑手、是不是有孩子、他是不是跑的非常勤。如果是这样的话,那我们就判断这个人跟平台之间的粘性很高,他肯定有非常非常高的沉没成本,一旦失去这份工作可能天就塌下来了。这就是斩杀线的最后一线了,所以平台会给这些人派最差的单,因为甭管派什么单,你都会去接的。
  • “蜜月期”与“新手保护期”:在中国的外卖平台里会有新手保护期,在美国叫“蜜罐机制”或者叫“蜜月期”。意思就是新手会多给他们派这种顺路的好单,或者是很高小费的单子、高报价的单子。他们要诱导这些新人成为全职骑手或者全职司机,这样就慢慢的可以让他们进入到系统里边,后面再去收割。
  • 配送费问题:关于优先配送费的骗局,中国跟美国也是惊人的一致。只是美国这个2.99美金的优先配送费是由公司收在口袋里了,他们会把没有交钱的订单变慢;而中国的话,顾客付了钱以后,到底是公司拿到钱还是骑手拿到钱,这个事我不确定。但是他们的做法是把骑手的派单时间缩短,至于骑手如何送达,平台就揣着明白装糊涂了。因为他一旦说我明白的话,他就要承担责任;他一定说我不知道,导致大量的骑手危险驾驶,违反交通规则。

当然了两篇文章里头也有一些不一样的地方,比如说美国的平台里头会去计算小费,而中国的平台是没有小费这种东西的;还有就是美国的平台会去请律师对抗工会,而中国是没有工会这种东西,或者说中国的工会他不是干这件事的。所以这个里头还有一些小小的差异。

AI时代的“平庸之恶”

那么“绝望指数”绝对是AI时代的“平庸之恶”。“平庸之恶”这个词是哪来的?有一位作者叫汉娜·阿伦特,她写了一本书叫《艾希曼在耶路撒冷》,这个里边提出了平庸之恶的概念。

我刚参加了石国鹏的讲座叫《耶路撒冷3000年》,在这个活动上推荐了这本书。这个阿道夫·艾希曼他是干嘛的呢?他是纳粹德国保安总局第四局第四科的科长,也就是犹太事务科的负责人。他负责组织协调将欧洲各地的犹太人驱逐到集中营和灭绝营的具体运输工作,他有一个外号叫“大屠杀的物流专家”。

1945年二战结束的时候,艾希曼被美军短暂关押,但使用假名逃脱了。1950年艾希曼在纳粹逃亡网络的帮助下,持假证件逃往了阿根廷。1960年5月11日,阿根廷布宜诺斯艾利斯郊区,经过长期侦查确认其身份后,摩萨德秘密将其绑架,并通过外交渠道,也就是伪装成以色列航空机组人员,将其偷运回了以色列。

1961年4月11日开庭,给他判了反人类罪、战争罪、反犹太人民罪等15项罪名。而阿道夫·艾希曼不否认事实,但是反复强调自己只是执行命令。1961年12月15日,以色列法院判处艾希曼死刑;1962年6月1日,艾希曼在以色列拉姆拉监狱被绞刑处决。

注意,这是以色列建国以来唯一的一次执行死刑,以色列建国以来唯一的一次经过完整诉讼流程判处并执行的死刑,就是艾希曼这一次。以色列基本是废除死刑的,即使是恐怖分子,最多也就是判一个超长刑期的监禁,不得假释不得减刑,但是他们这个超长刑期经常是几百年,也就相当于是终身监禁了。为什么是这样呢?犹太教的塔木德里头有这样一句话,说一个法庭如果每7年处决一个人就是一个残暴的法庭,即使是70年处决一个人,也是残暴的法庭。所以以色列的司法精神就是宁可错放、不可错杀,它是这样的一个制度。

AI伤害人类的四种可能性

AI时代,AI到底会怎么伤害人类呢?大概会有四种可能性。

  1. 为了利益主动伤害:目前的AI还没有发展到这一步,就是AI自己还没有产生自我意识,他没办法主动的有意识的去做事情。
  2. 计算错误导致的伤害:比如说汽车的自动驾驶系统,他有可能会因为一些计算错误导致人员伤亡。
  3. “电车难题”:就是为了多数人的利益伤害少数人,这个AI系统也是有可能会去做的。
  4. 平庸之恶:而最可怕的一种就是“平庸之恶”。AI可以极大的放大人类作恶的能力,同时还协助人类掩盖罪恶。这就是AI通过平庸之恶伤害人类的一个方法和过程。大企业、大型组织和机构资本,有能力利用AI盘剥普通人,而普通人还没有反抗的能力,只是不断的积累各种不信任,同时怨天尤人,抱怨天道不公,没有什么其他的办法。

如何防备AI的平庸之恶?

这篇文章不管是不是真实的,或者其中到底有多少是真实的,以及其中有多大比例是经过了AI的补充与润色的,这篇文章都揭示了资本借助AI平庸之恶盘剥普通劳动者的这种现象。

中国现在已经在发生一点点改变,就是像美团这样的平台,他们会公开算法,延长配送时间,取消超时罚款,换成了一些积分。原来你超时了我罚你钱,现在我不罚你钱了,但是你不超时,我可以给你送一些积分。号称是得到积分比较高的这些派送员或者叫骑手,他们会优先接到更好的订单。但是这种做法被质疑是换汤不换药。美国经历了“绝望指数”的事情,应该也会做出一些改变。

真正的改变必须有三个条件:

  • 算法公开:算法一定要公开,否则普通人是没有办法去举证的。而且最好是举证关系倒置,就是我认为你有问题,由你来举证说我没问题,而不要让普通人去看代码,这个事情是非常非常不公平的。
  • 反抗能力:要有反抗的能力,要让普通人在受到伤害以后,可以有诉讼的通道,我们可以去告他,这个是第二件事。
  • 弱势群体组织:弱势群体要有组织、要有工会。否则的话,每一次普通人站在平台巨头的面前进行诉讼,都是非常非常不公平的。

总结

最后总结一下,有程序员良心发现,不愿意配合资本去做平庸之恶了,“绝望指数”一篇帖子让美国两大外卖平台股价下挫。看到这个案例,真正要警惕的是AI在人的要求下,通过平庸之恶放大坏人的能力,伤害他人。这就是咱们今天要讲的故事。感谢大家收听,请帮忙点赞、点小铃铛,参加DISCORD讨论群,也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。


背景图片

Prompt:watercolor illustration with high contrast, Uber Eats modern open-plan office interior featuring suspended glowing Uber Eats logo signage, signature Uber Eats color scheme in decor with bold red and white accents, massive wall-mounted digital screen displaying detailed city map overlaid with restaurant icons delivery vehicle markers and customer order pins alongside real-time data visualizations, sharp subject separation, glossy reflections on surfaces, neon cyan rim lighting, deep navy blue background, minimal palette dominated by ink blue neon cyan and subtle gold highlights, cinematic composition, expansive negative space for text overlay, ultra detailed, intricate ink washes, legible minimalist design –ar 16:9 –raw –s 250 –v 7.0 –p lh4so59

Comments are closed.

退出移动版