【ITBEAR】近期,字節跳動公司內部發生了一起模型訓練安全事件,引發廣泛關注。據悉,一名實習生因對團隊資源分配心生不滿,利用技術漏洞破壞模型訓練,造成了一定損失。
事件發生在字節跳動商業化技術團隊,實習生田某某通過共享模型注入破壞代碼,導致團隊模型訓練成果受損。不過,公司知情人士透露,損失并未達到千萬美元之巨。
此次事件暴露了字節跳動在技術訓練安全管理方面的漏洞,如權限隔離和共用代碼審計等問題亟待解決。
目前,該實習生已被辭退,公司也已將相關情況通報給行業聯盟和實習生所在學校。
字節跳動在10月15日發布了新的大模型訓練視頻預處理方案,助力解決技術挑戰。