安全漏洞 : 硕鼠的博客站

Posts Tagged ‘安全漏洞’

实习生代码投毒事件震惊ByteDance：恶意攻击如何利用AI大模型漏洞颠覆数千万美元的损失

10 月.22,2024

ByteDance的AI大模型被他们自己家的实习生投毒。这是一个什么故事？大家好，这里是老范讲故事的YouTube频道。今天咱们来讲一讲这起投毒事件。不是说举个小药瓶去投毒，而是恶意代码投毒。

事情发生在6月份，一位姓田的博士生在ByteDance实习。因为某些待遇或者资源分配问题，他对ByteDance感觉不满，于是就在代码里面进行了投毒。投毒的方式是他自己进行了一些代码维护，但这些代码是安全的，主要是一些调试用的代码。这些代码去读取一些上传文件之后，就具备了攻击性。

什么意思呢？就是我们去训练大模型的时候，需要把大量的信息数据上传到大模型进行训练。他的这种调试代码上传到服务器上以后，这个时候还是安全的，然后把一些恶意代码隐藏在训练数据里边。他把这些数据读出来以后，就对整个ByteDance的一些训练集群进行了攻击。这其实是黑客普遍采用的一些手段。

揭秘Google与Wiz的230亿美金收购案：以色列安全团队的坚决拒绝。Wiz的价值，体现在中国为什么封禁Docker hub上。与Windows蓝屏无关

Filed Under : AIGC by Luke Fan

7 月.26,2024

GPT5如果再不出的话，可能就没有机会了。大家好，这里是老范讲故事的YOUT5频道。今天咱们来讲一讲OpenAI现在身上的压力到底有多大。再不出GPT5，可能真的要出事儿了，因为前面吹过的牛实在太多了，特别是Sola这样的模型，号称可以直接生成长的视频出来，到现在已经半年了，还没有真正拿出来，只是每个月放出几个视频而已。而其他各个公司，按照Sora方向做的产品，已经都开始在公众测试了，这对他们来说一定是巨大的压力。

前一段时间发布的Aceropic Claude 3.5 Sonnet，也把压力给到了OpenAI，因为这个模型的效果已经非常好，而且极其便宜。更不要说昨天刚刚发布的LlamaB这样的一个开源模型。前面咱们讲的Aceropic的模型还是闭源的，而Llama可是个开源模型。405B的话，在各个层次上，都赶超了OpenAI的Chat GPT-4。老大的位置有可能会丧失。

微软蓝屏，这事我也干过！全球Windows蓝屏危机：CrowdStrike安全软件引发系统崩溃，安全软件和操作系统之间的博弈

Filed Under : 微软，还是老大 by Luke Fan

7 月.21,2024

微软Windows全世界蓝屏，这个事情以前我们也干过。大家好，欢迎收听老范讲故事的YouTube频道。今天，咱们来讲讲微软蓝屏到底是怎么回事。

到底什么叫蓝屏啊？咱们先讲一下。我们看到的各种照片，都是一个蓝色的屏幕。但是，现在这个蓝色要比以前好看啊。这个过程呢，其实叫dump。就是微软的Windows发生了不可逆的崩溃的时候，微软会把内存里边的所有数据写到硬盘上去。以便于什么呢？下一次重启的时候或者修复的时候，可以去查找原因。到底是什么原因造成的这一次崩溃啊？什么原因造成的这一次崩溃？以及呢，在下一次重启的时候，可以去恢复部分原来的运行状态啊。这是这样的一个功能。从Windows很早期，就有这样的这种淡薄功能。当然，那个时候的蓝色没有现在的好看啊。当时是一个很饱和的蓝色，现在应该是蓝、灰等各种颜色拼在一起的一个颜色。

软件崩溃，实际上这肯定软件还是有错误嘛。到底分几个层级呢？第一个层级啊，是软件可以自我修复。发现了错误，我们绕过去完事了啊。第二个层级呢，是系统可以隔离掉啊。这个软件坏了，但是我们系统可以把这个坏掉的软件隔离起来啊，不会影响其他的软件去运行。第三个层次，就是系统虽然隔离了这个故障的软件，但是呢，有部分的系统功能就无法工作了。比如说你没法联网了，或者没法去做一些打印啊，或者没法去调用某些数据了。这个也是有可能的啊，这就是更严重一些了。再然后是系统崩溃，就是我们刚才讲出蓝屏了啊。

硕鼠的博客站

范路的博客主站，时而会发些东西。

Posts Tagged ‘安全漏洞’

实习生代码投毒事件震惊ByteDance：恶意攻击如何利用AI大模型漏洞颠覆数千万美元的损失

揭秘Google与Wiz的230亿美金收购案：以色列安全团队的坚决拒绝。Wiz的价值，体现在中国为什么封禁Docker hub上。与Windows蓝屏无关

微软蓝屏，这事我也干过！全球Windows蓝屏危机：CrowdStrike安全软件引发系统崩溃，安全软件和操作系统之间的博弈

近期文章

归档

分类

其他操作