當前位置:蘇州科技局 > 政務公開 > 國內外科技動態

澳科研團隊用新算法幫助“機器學習”抗干擾

發布日期:2019-07-02 09:37:36 來源:新華網
  澳大利亞聯邦科學與工業研究組織(CSIRO)日前發布消息說,該機構的一個科研團隊開發了一套人工智能新算法,可幫助抵御“機器學習”可能遇到的干擾。
  “機器學習”可以在大數據訓練中“學習”正確的工作方法,但它也容易受到惡意干擾。攻擊者一般通過輸入惡意數據來欺騙“機器學習”模型,導致其出現故障。開發新算法的Data61機器學習小組負責人理查德·諾克博士舉例說,在進行圖像識別時,攻擊者通過在圖像上添加一層“干擾波”,可以欺騙“機器學習”模型進行錯誤的圖像分類。
  “我們的新算法通過一種類似疫苗接種的思路來抗干擾。”諾克博士說,他們的新算法可對“機器學習”模型進行防干擾訓練,比如在圖片識別領域,對圖片集合進行小的修改或使其失真,可激發出“機器學習”模型越來越強的抗干擾能力,并形成相關的自我抗干擾訓練模型。當經過小規模的失真訓練后,最終的抗干擾訓練模型將更加強大,在干擾真的到來時,“機器學習”模型將具備“免疫”功能。
小青钱怎么玩