字节跳动实习生投毒自家大模型细节曝光,影响到底有多大? 内部技术袭击引发权限收紧担忧【今日】_社会新闻_行业资讯_56之窗网
标王 热搜: 贷款  深圳    医院  用户体验  网站建设  机器人  贵金属  桂林市  五角大楼 
 
 
当前位置: 首页 » 资讯 » 行业资讯 » 社会新闻 » 正文

字节跳动实习生投毒自家大模型细节曝光,影响到底有多大? 内部技术袭击引发权限收紧担忧【今日】

放大字体  缩小字体 发布日期:2024-10-20 01:45:05  来源:互联网  作者:56之窗网  浏览次数:1

10月19日,字节跳动大模型训练遭到实习生攻击的事件引起了广泛关注。据知情人士透露,今年6月,字节跳动某技术团队内部发生了一起技术袭击事件,一名实习生因对团队资源分配不满,使用攻击代码破坏了团队的模型训练任务。

字节跳动实习生投毒自家大模型细节曝光,影响到底有多大?

该事件的主要涉事者是一名田姓实习生。他利用Huggingface平台的漏洞,在公司的共享模型中写入了破坏代码,导致模型训练效果不稳定,无法达到预期成果。一位前字节技术员工表示,字节AI Lab的实习生权限和正职员工差异不大,这为此次事件提供了机会,并对此事可能带来的负面影响表达了担忧。

字节跳动实习生投毒自家大模型细节曝光,影响到底有多大? 内部技术袭击引发权限收紧担忧

消息曝光后,涉事实习生试图在社交平台上辟谣,将责任推给他人,但很快遭到接近字节跳动人士的否认。相关知情人士在GitHub上指出,田某在长达两个月的时间里对集群代码进行恶意攻击,对公司近30位各级员工造成巨大伤害,使得同事一个季度的工作白费。所有记录和审查都证明这是不容置疑的事实。录音中的对话显示,田某最初输入的代码本用于调试,但后来通过更新文件变成了攻击代码,导致了一系列问题。田某在录音中承认了这一行为,并表示是因为某些原因导致了极大的不满。

虽然有传闻称此次损失超过千万美元,但内部人士表示实际损失并没有那么严重。据了解,事件发生于今年6月底,目前字节跳动已辞退田姓实习生,并将此事通报给相关行业联盟和其所在的学校。不过,除了被辞退外,田某未受到其他处罚。

多方消息显示,田姓实习生是国内某高校在读博士生,自2021年9月起在字节AI Lab实习。其所在团队在今年4月与北大王立威团队提出了VAR研究,在图像生成质量、推理速度、数据效率和可扩展性等方面均超过了DiT,推理速度比传统自回归模型快约20倍。截至发稿时,字节跳动方面仍未对此事进行公开回应。

 

  以上就是【字节跳动实习生投毒自家大模型细节曝光,影响到底有多大? 内部技术袭击引发权限收紧担忧【今日】】全部内容,更多资讯请关注56之窗网。
 

本文地址:http://hot1.ffsy56.com/newsdetail1837604.html


版权与免责声明:以上所展示的信息由网友自行发布,内容的真实性、准确性和合法性由发布者负责。56之窗网对此不承担任何直接责任及连带责任,56之窗网仅提供信息存储空间服务。任何单位或个人如对以上内容有权利主张(包括但不限于侵犯著作权、商业信誉等),请与我们联系并出示相关证据,我们将按国家相关法规即时移除。
 
推荐图文
最新新闻
点击排行

新闻投稿、广告联系客服QQ:3442875907点击这里给我发消息