硕鼠的博客站

范路的博客主站,时而会发些东西。

Posts Tagged ‘ByteDance’

ByteDance的AI大模型被他们自己家的实习生投毒。这是一个什么故事?大家好,这里是老范讲故事的YouTube频道。今天咱们来讲一讲这起投毒事件。不是说举个小药瓶去投毒,而是恶意代码投毒。

事情发生在6月份,一位姓田的博士生在ByteDance实习。因为某些待遇或者资源分配问题,他对ByteDance感觉不满,于是就在代码里面进行了投毒。投毒的方式是他自己进行了一些代码维护,但这些代码是安全的,主要是一些调试用的代码。这些代码去读取一些上传文件之后,就具备了攻击性。

什么意思呢?就是我们去训练大模型的时候,需要把大量的信息数据上传到大模型进行训练。他的这种调试代码上传到服务器上以后,这个时候还是安全的,然后把一些恶意代码隐藏在训练数据里边。他把这些数据读出来以后,就对整个ByteDance的一些训练集群进行了攻击。这其实是黑客普遍采用的一些手段。

Read More…

大家好,

欢迎收听老范讲故事的YouTube频道。今天咱们来讲一讲,字节跳动正在辟谣路透社的小作文。我坚决不卖,我也坚决不拆。

5月30号,路透社发了一篇小作文,说字节跳动正在做一件脏活。什么样的脏活呢?将TikTok上面的推荐算法原代码,从字节跳动的代码仓库中进行分离,拆成一个独立的代码仓库。希望以后呢,在美国的TikTok,能够有一套独立的运行库,与中国的抖音拆开。消息来源呢,是某些不愿意透露姓名的消息人士。这个一定要讲清楚啊。

但所谓的这些不愿意透露姓名的消息人士,都是字节跳动的员工。他们是字节内部使用lock(咱们国内叫飞书,国外叫lock)使用这样的工具进行开会的时候,一些与会人员进行的爆料。如果说出姓名来,就肯定被开除了,这不用想。所以呢,人家说我们坚决不说具体是谁啊,但是呢这是确确实实是与会人员,已经收到相关任务的与会人员啊,他们出来爆料的。甚至呢还有一些说没有参加这个会,但是事后看到了相关会议纪要的人,也在向路透社进行核实。也就是说,从多个角度上,证实了这件事情正在发生。

Read More…
Close Bitnami banner
Bitnami