10 月 22
Luke FanAIGC, 字节跳动，故事多 AIGC可信度, AI协作, AI可信性, AI大模型, AI安全, AI工程风险, AI技术挑战, AI系统, ByteDance, Huggingface平台, Huggingface漏洞, IT业界新闻, IT内鬼, IT安全, IT安全策略, IT工程, IT灾难恢复, PyTorch修改, Pytorch集群, 人员管理挑战, 人工智能实习生, 人工智能未来, 人工智能治理, 人工智能管理, 人工智能风险, 人机协作, 代码安全, 代码漏洞, 代码管理, 代码隐患, 企业损失, 企业数据, 企业风险管理, 信任危机, 前沿科技, 大数据安全, 大模型开发, 安全事件, 安全漏洞, 安全管理, 安全评估, 实习事故, 实习生, 实习生影响, 实习生投毒, 工程信任, 工程漏洞, 工程管理, 开发者风险, 开源开放, 开源系统, 恶意代码, 技术创新, 技术应用, 技术治理, 投毒事件, 操作风险, 故障排除, 数千万美元, 数字化管理, 数字时代, 数据保密, 数据分析, 数据攻击, 数据污染, 数据泄露, 数据隐患, 未来合作挑战, 模型参数扰动, 渗透测试, 现代技术治理, 系统攻击, 系统漏洞, 系统脆弱性, 网络安全, 训练模型, 黑客攻击, 黑客风险
ByteDance的AI大模型被他们自己家的实习生投毒。这是一个什么故事？大家好，这里是老范讲故事的YouTube频道。今天咱们来讲一讲这起投毒事件。不是说举个小药瓶去投毒，而是恶意代码投毒。
事情发生在6月份，一位姓田的博士生在ByteDance实习。因为某些待遇或者资源分配问题，他对ByteDance感觉不满，于是就在代码里面进行了投毒。投毒的方式是他自己进行了一些代码维护，但这些代码是安全的，主要是一些调试用的代码。这些代码去读取一些上传文件之后，就具备了攻击性。
什么意思呢？就是我们去训练大模型的时候，需要把大量的信息数据上传到大模型进行训练。他的这种调试代码上传到服务器上以后，这个时候还是安全的，然后把一些恶意代码隐藏在训练数据里边。他把这些数据读出来以后，就对整个ByteDance的一些训练集群进行了攻击。这其实是黑客普遍采用的一些手段。
More
7 月 02
Luke Fan老范讲给儿子的IT课程 一分钟一组, 个人信息, 个人安全, 临时账户, 二重认证, 云服务安全, 云端安全, 互联网安全, 使用技巧, 保存密码, 保护措施, 信息保护, 信息找回, 信息管理, 信息连续性, 单人付费, 历史信息备份, 同步账户, 在线账号, 基础账号, 多层保护, 多重安全, 多重认证, 大学新生, 学习资源, 学生用电脑, 学生设备, 学生账户管理, 安全功能, 安全性提高, 安全措施, 安全操作, 安全最佳实践, 安全认证, 安全训练, 安全设置, 安全课程, 安全配置, 安全验证, 完全指南, 实名认证, 家庭付费, 密码安全, 密码工具, 密码生成, 密码管理器, 开学前必备, 弱口令, 微软认证器, 手机认证, 手机配置, 找回账号, 支付安全, 数字安全, 数据保密, 数据保护, 数据安全, 数码安全, 新环境, 校园安全, 注册新账号, 父母必读, 父母指导, 电脑配置, 确认身份, 第三方登录, 网站登录, 网络安全, 网络服务, 网络账号, 设备安全, 设备更换, 设置手机, 设置邮箱, 谷歌认证器, 账号安全, 账号巡回, 账号生成, 账号管理, 账号管理教程, 账号类别, 账号绑定, 账号迁移, 账户保护, 身份认证, 输入信息, 邮箱安全, 防止信息泄露, 防止财产损失, 防破解, 验证器, 高危账号, 高安全性, 高校管理, 高级设置, 高考完
大家好，欢迎收听“老范讲故事”的YouTube频道。今天，咱们来讲一讲大学新生的账号管理课程。大家知道，我儿子参加完高考，过完暑假呢，应该去上大学。昨天呢，也刚给他买了新的电脑，趁此良机，把账号管理这节课给他上了。咱们现在的账号都是什么状态？就是所有网站跟服务，都是需要新的账号的。你不给他提供账号，通常他是不给你提供服务的。为什么呢？他这么贪心吗？一定要让我登录啊？匿名不行吗？不行，因为有很多人会去写爬虫，会去写机器人。当你的这个服务不需要账号认证的时候，这个网站就直接会被攻击。所以，为了避免攻击，他们一定会要求你去登录。然而，登录了以后，还有些其他的好处。比如说，登录了以后，有你的联系方式了，他可以给你发短信、发邮件说：“哎呀，我最近更新了，我最近有优惠，赶快回来买东西啊。”他会干这样的事情。我们现在大部分的账号，都是实名制的啊，都是跟我们身份证绑定的，而且呢，上面都有联系方式。所以呢，进行这种账号管理方面的学习，还是非常非常有必要的。
有一些常见的错误方法。第一个就是使用简单密码啊，我的密码叫12345，这个是不行的。被人猜出来了以后，会损失惨重的。因为很多账号后面是有钱的，你支付账号、银行账号、游戏账号都后面都是有钱的。你让人猜出来了以后，非常麻烦。我记得我在盛大上班的时候，我们专门有一项处罚叫弱口令处罚，就是他每周会有一个机器，自动的尝试所有人的口令，一旦被他试出来了，罚款，而且罚得非常狠啊。我记得是罚……，可能一个月的薪税的百分之多少，具体想不太起来了，反正是挺重的。第一个低级错误是什么？就是使用相同账号。就是我有100个账号，这100个账号的用户名跟密码都一样。这是非常非常危险的，千万不要这么干。为什么？万一有一个网站被破解了，等于你所有这100个账号全都被破解了。人家就知道，说你这个人是用的相同的账号。那你说人家怎么知道我相同啊？人家也不知道，人家会是破解了一个网站，得到了他的全部的用户名和密码信息，以后就会拿着这些用户名和密码，到其他不同的网站上去测试。如果登录成功呢，就说明你被破解了啊。但是这样的一个过程，所以千万不要使用相同账号。第三个呢，就是把密码忘了，这个肯定也是一个很低级的错误。过了一段时间，哎呀，这密码是什么，我想不起来了啊。这个很麻烦。那么我们就要去进行账号管理了。特别是大学新生啊，原来没有那么多账号，上大学了就会有大量的账号出来。我们要去做这件事，进行账号管理。我们要先想清楚一个问题，我们到底怎么算一个人啊？我到底怎么证明我是我啊？首先我们有身份证，身份信息在中国每个人都是有的。你没有身份证，你连算不算个人都不好说啊。然后是手机号，咱们有大量的账号，其实是绑手机号在中。国这块特别严重，在国外还好那么一点点啊。他们动不动就是哎呦，绑个手机号吧，收个验证码吧。实际上就是在绑你手机号。但是你要注意啊，你做手机号的时候，都是进行实名认证的啊。
More
RSS