針對傳統(tǒng)機(jī)器學(xué)習(xí)方法不能有效地提取惡意代碼的潛在特征，提出了基于棧式自編碼（ stacked auto en-coder，SAE）的惡意代碼分類算法。其次從大量訓(xùn)練樣本中學(xué)習(xí)并提取惡意代碼紋理圖像特征、指令語句中的隱含特征；在此基礎(chǔ)上，為提高特征選擇對分類算法準(zhǔn)確性的提高，將惡意代碼紋理特征以及指令語句頻度特征進(jìn)行融合，訓(xùn)練棧式自編碼器和softmax分類器。實(shí)驗(yàn)結(jié)果表明，基于惡意代碼紋理特征以及指令頻度特征，利用棧式自編碼分類算法對惡意代碼具有較好的分類能力，其分類準(zhǔn)確率高于傳統(tǒng)淺層機(jī)器學(xué)習(xí)模型（隨機(jī)森林、支持向量機(jī)），相比隨機(jī)森林的方法提高了2. 474%，相比SVM的方法提高了1.235%。