首页 > 其他 > 字节大模型遭实习生破坏训练?内部回应:事实确凿

字节大模型遭实习生破坏训练?内部回应:事实确凿

2024-10-21 116

近期,有关字节跳动内部AI模型训练遭遇实习生破坏的传闻引发了广泛关注。据多方消息源透露,这一事件虽属实,但相关损失程度及处理方式存在被外界放大的情况。

据悉,事件的主角是一名来自某高校的博士生,姓田,在今年6月期间作为实习生加入了字节跳动的商业化技术团队。据内部知情人士透露,田姓实习生因对团队内部资源分配感到不满,采取了极端手段,利用技术手段干扰了团队的AI模型训练进程。

具体而言,该实习生据称利用了Hugging Face(HF)平台上的某个已知漏洞,在字节跳动的共享模型环境中植入了恶意代码。这一行为直接导致了模型训练过程中的异常表现,训练效果波动剧烈,无法达到预期标准,给项目进展带来了不小的困扰。更令人棘手的是,这种隐蔽的攻击方式使得AML(人工智能机器学习)团队在初期难以查明问题的真正原因。

字节大模型遭实习生破坏训练?内部回应:事实确凿

面对这一突发情况,字节跳动迅速启动了内部调查程序,并最终确认了田姓实习生的不当行为。据透露,公司方面已决定立即解除与该实习生的劳动关系,并已将此事通报至阳光诚信联盟、企业反舞弊联盟以及该实习生所在的学校,以警示业界并维护行业秩序。

尽管字节跳动官方至今尚未就此事发表正式声明,但公司内部已采取了一系列措施,以加强数据安全与内部管理的防范力度,确保类似事件不再发生。此次事件也为整个科技行业敲响了警钟,提醒企业在追求技术创新的同时,必须高度重视信息安全与职业道德教育。

字节大模型遭实习生破坏训练?内部回应:事实确凿

随着人工智能技术的飞速发展,其在企业中的应用日益广泛,但随之而来的数据安全与伦理问题也日益凸显。字节跳动此次事件再次提醒我们,在享受技术红利的同时,必须建立健全的监管机制与道德准则,以确保技术的健康发展与社会责任的履行。


湘ICP备19005331号-4copyright?2018-2024

guofenkong.com 版权所有

果粉控是专业苹果设备信息查询平台
提供最新的IOS系统固件下载
相关APP应用及游戏下载,绿色无毒,下载速度快。

联系邮箱:guofenkong@163.com