硕鼠的博客站

实习生代码投毒事件震惊ByteDance：恶意攻击如何利用AI大模型漏洞颠覆数千万美元的损失

10 月 22

Luke FanAIGC, 字节跳动，故事多 AIGC可信度, AI协作, AI可信性, AI大模型, AI安全, AI工程风险, AI技术挑战, AI系统, ByteDance, Huggingface平台, Huggingface漏洞, IT业界新闻, IT内鬼, IT安全, IT安全策略, IT工程, IT灾难恢复, PyTorch修改, Pytorch集群, 人员管理挑战, 人工智能实习生, 人工智能未来, 人工智能治理, 人工智能管理, 人工智能风险, 人机协作, 代码安全, 代码漏洞, 代码管理, 代码隐患, 企业损失, 企业数据, 企业风险管理, 信任危机, 前沿科技, 大数据安全, 大模型开发, 安全事件, 安全漏洞, 安全管理, 安全评估, 实习事故, 实习生, 实习生影响, 实习生投毒, 工程信任, 工程漏洞, 工程管理, 开发者风险, 开源开放, 开源系统, 恶意代码, 技术创新, 技术应用, 技术治理, 投毒事件, 操作风险, 故障排除, 数千万美元, 数字化管理, 数字时代, 数据保密, 数据分析, 数据攻击, 数据污染, 数据泄露, 数据隐患, 未来合作挑战, 模型参数扰动, 渗透测试, 现代技术治理, 系统攻击, 系统漏洞, 系统脆弱性, 网络安全, 训练模型, 黑客攻击, 黑客风险 实习生代码投毒事件震惊ByteDance：恶意攻击如何利用AI大模型漏洞颠覆数千万美元的损失已关闭评论

ByteDance的AI大模型被他们自己家的实习生投毒。这是一个什么故事？大家好，这里是老范讲故事的YouTube频道。今天咱们来讲一讲这起投毒事件。不是说举个小药瓶去投毒，而是恶意代码投毒。

事情发生在6月份，一位姓田的博士生在ByteDance实习。因为某些待遇或者资源分配问题，他对ByteDance感觉不满，于是就在代码里面进行了投毒。投毒的方式是他自己进行了一些代码维护，但这些代码是安全的，主要是一些调试用的代码。这些代码去读取一些上传文件之后，就具备了攻击性。

什么意思呢？就是我们去训练大模型的时候，需要把大量的信息数据上传到大模型进行训练。他的这种调试代码上传到服务器上以后，这个时候还是安全的，然后把一些恶意代码隐藏在训练数据里边。他把这些数据读出来以后，就对整个ByteDance的一些训练集群进行了攻击。这其实是黑客普遍采用的一些手段。

揭秘Google与Wiz的230亿美金收购案：以色列安全团队的坚决拒绝。Wiz的价值，体现在中国为什么封禁Docker hub上。与Windows蓝屏无关

7 月 26

Luke FanAIGC 230亿美金, AI/ML/CV, AIGC大模型, Docker镜像, Term Sheet, wiz, 上市估值, 上市计划, 云主机, 云端安全, 云计算安全, 亚马逊云, 代码扫描, 以色列创业, 以色列安全团队, 保密条款, 创业惯例, 创始人背景, 商业头脑, 商业逻辑, 安全公司, 安全漏洞, 安全解决方案, 客户端安全, 容器安全, 容器隔离, 对赌协议, 市场份额, 市场竞争, 市场需求, 市场预期, 微调调用, 微软云, 微软蓝屏, 投资人, 投资意向书, 收购价格, 收购失败, 数据安全, 数据扫描, 数据泄露, 替代解决方案, 未来展望, 特拉维夫, 犹太裔创始人, 病毒库, 盈利点, 私有数据, 精算, 纽约办公室, 股东大会, 股市表现, 股票增长, 自由创业, 英伟达, 萨斯系统, 虚拟机, 计算机安全, 谷歌云, 谷歌收购wiz, 静态镜像, 风险检测 揭秘Google与Wiz的230亿美金收购案：以色列安全团队的坚决拒绝。Wiz的价值，体现在中国为什么封禁Docker hub上。与Windows蓝屏无关已关闭评论

GPT5如果再不出的话，可能就没有机会了。大家好，这里是老范讲故事的YOUT5频道。今天咱们来讲一讲OpenAI现在身上的压力到底有多大。再不出GPT5，可能真的要出事儿了，因为前面吹过的牛实在太多了，特别是Sola这样的模型，号称可以直接生成长的视频出来，到现在已经半年了，还没有真正拿出来，只是每个月放出几个视频而已。而其他各个公司，按照Sora方向做的产品，已经都开始在公众测试了，这对他们来说一定是巨大的压力。

前一段时间发布的Aceropic Claude 3.5 Sonnet，也把压力给到了OpenAI，因为这个模型的效果已经非常好，而且极其便宜。更不要说昨天刚刚发布的LlamaB这样的一个开源模型。前面咱们讲的Aceropic的模型还是闭源的，而Llama可是个开源模型。405B的话，在各个层次上，都赶超了OpenAI的Chat GPT-4。老大的位置有可能会丧失。

微软蓝屏，这事我也干过！全球Windows蓝屏危机：CrowdStrike安全软件引发系统崩溃，安全软件和操作系统之间的博弈

7 月 21

Luke Fan微软，还是老大 360, AI技术, CrowdStrike, EDR软件, Falcon系统, Karl Strick, Linux系统, Windows, YouTube频道, 个人电脑, 中国人数据窃取, 企业安全, 企业服务器, 信息安全, 全球舆论热点, 全面故障分析, 内存转储, 功能损失, 升级与兼容, 华为云, 司法索赔, 合同条款, 响应软件, 奇安信, 安全公司, 安全更新通知, 安全机制, 安全漏洞, 安全防护, 安全需求, 安全预警, 安全风险, 安全风险评估, 客户端操作系统, 市场份额, 开源软件, 微软, 打击, 技术分析, 接口变更影响, 操作系统, 操作系统比较, 操作系统进化, 故障原因, 数据后台, 数据安全, 数据库窃取, 权威解析, 测试流程, 猎豹移动, 理赔问题, 用户体验, 病毒防护, 监控, 硬件驱动, 系统兼容性, 系统升级, 系统崩溃, 系统更新, 系统权限, 系统离奇事件, 系统稳定性, 系统维护, 系统维护难度, 系统隔离, 终端检测, 统一管理, 续约率, 维护成本, 网络入侵, 网络安全, 网络攻击归纳, 网络访问, 网络防御, 老范讲故事, 腾讯, 苹果Mac, 蓝屏, 补丁更新, 软件自我修复, 重启, 金山独霸, 金山网络, 阿里云, 非公开接口, 非法访问, 高权限操作, 黑客攻击 微软蓝屏，这事我也干过！全球Windows蓝屏危机：CrowdStrike安全软件引发系统崩溃，安全软件和操作系统之间的博弈已关闭评论

微软Windows全世界蓝屏，这个事情以前我们也干过。大家好，欢迎收听老范讲故事的YouTube频道。今天，咱们来讲讲微软蓝屏到底是怎么回事。

到底什么叫蓝屏啊？咱们先讲一下。我们看到的各种照片，都是一个蓝色的屏幕。但是，现在这个蓝色要比以前好看啊。这个过程呢，其实叫dump。就是微软的Windows发生了不可逆的崩溃的时候，微软会把内存里边的所有数据写到硬盘上去。以便于什么呢？下一次重启的时候或者修复的时候，可以去查找原因。到底是什么原因造成的这一次崩溃啊？什么原因造成的这一次崩溃？以及呢，在下一次重启的时候，可以去恢复部分原来的运行状态啊。这是这样的一个功能。从Windows很早期，就有这样的这种淡薄功能。当然，那个时候的蓝色没有现在的好看啊。当时是一个很饱和的蓝色，现在应该是蓝、灰等各种颜色拼在一起的一个颜色。

软件崩溃，实际上这肯定软件还是有错误嘛。到底分几个层级呢？第一个层级啊，是软件可以自我修复。发现了错误，我们绕过去完事了啊。第二个层级呢，是系统可以隔离掉啊。这个软件坏了，但是我们系统可以把这个坏掉的软件隔离起来啊，不会影响其他的软件去运行。第三个层次，就是系统虽然隔离了这个故障的软件，但是呢，有部分的系统功能就无法工作了。比如说你没法联网了，或者没法去做一些打印啊，或者没法去调用某些数据了。这个也是有可能的啊，这就是更严重一些了。再然后是系统崩溃，就是我们刚才讲出蓝屏了啊。