基于詞替換的對(duì)抗文本生成研究

打開文本圖片集

摘  要：對(duì)抗樣本的存在對(duì)自然語言處理領(lǐng)域的眾多應(yīng)用存在安全威脅，對(duì)抗攻擊方法的研究有助于評(píng)估甚至提高深度神經(jīng)網(wǎng)絡(luò)模型的魯棒性?，F(xiàn)有的詞級(jí)文本對(duì)抗攻擊在生成對(duì)抗樣本的過程中，依賴于單詞重要性評(píng)分并排序，但效率低下，需要頻繁訪問目標(biāo)模型來獲取重要性分?jǐn)?shù)。文章針對(duì)該問題，提出通過訓(xùn)練替代模型計(jì)算單詞重要性分?jǐn)?shù)，并結(jié)合語義相似度分層采樣后得到的目標(biāo)模型決策概率差值，對(duì)原始輸入中的單詞進(jìn)行排序。（剩余8287字）