AI模型遭實習生篡改程式碼並惡意攻擊,字節跳動提告北京博士生求償800萬元人民幣!

AI模型遭實習生篡改程式碼並惡意攻擊,字節跳動提告北京博士生求償800萬元人民幣!

科技巨頭字節跳動近日向北京市海淀區人民法院提起訴訟,控告一名前實習生田姓博士生篡改程式碼並攻擊公司內部模型訓練系統。

根據中國《南方都市報》報導,這位實習生擁有相當優秀的學術背景 - 本科畢業於北京航空航天大學軟體學院,目前就讀於北京大學研究所,專攻深度學習最佳化與演算法研究。然而,這樣的高材生卻因一時不滿而做出了令人遺憾的選擇。

事件源於今年10月,業界傳出「某頭部大廠的大型語言模型訓練遭實習生入侵」的消息。據知情人士透露,實習生因對團隊資源分配不滿,利用HuggingFace平台的漏洞,在公司共用模型中植入惡意程式碼。這導致模型訓練效果出現嚴重異常,忽高忽低,無法達到預期目標。

更令人意外的是,當事件曝光後,這位田姓實習生不但沒有認錯,反而在微信群組中否認指控,聲稱是在發表論文後離職,暗示另有他人利用漏洞改動程式碼並嫁禍於他。面對這種態度,字節跳動內部人士表示,公司原本希望透過校方處理,但考慮到當事人完全沒有認知到自己的錯誤,且行為已觸及公司安全紅線,最終決定採取法律行動。

字節跳動在後續發布的澄清聲明中指出,雖然此事確實造成商業化技術團隊研究專案受損,但並未影響到公司的正式專案、線上業務或大型語言模型等其他業務。同時,他們也否認了網路上流傳的「涉及8000多張顯示卡、損失上千萬美元」等誇大說法。

目前,字節跳動向法院提出三項訴求:

  1. 要求賠償侵權損失800萬元(人民幣)
  2. 賠償合理支出2萬元(人民幣)
  3. 要求當事人公開賠禮道歉

這起事件不僅反映出科技公司在資安管理上的挑戰,也凸顯了企業內部人員道德操守的重要性。隨著AI技術的快速發展,如何在開放創新與安全管控之間取得平衡,成為產業界必須正視的課題。

 

janus
作者

PC home雜誌、T客邦產業編輯,曾為多家科技雜誌撰寫專題文章,主要負責作業系統、軟體、電商、資安、A以及大數據、IT領域的取材以及報導,以及軟體相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則