新的深度學(xué)習(xí)文獻(xiàn)本篇文章是Mimicking方法在檢測(cè)任務(wù)上的嘗試。mimicking作為一種模型壓縮的方法，采用大網(wǎng)絡(luò)指導(dǎo)小網(wǎng)絡(luò)的方式將大網(wǎng)絡(luò)習(xí)得的信息用小網(wǎng)絡(luò)表征出來(lái)，在損失較小精度的基礎(chǔ)上大幅提升速度。 Mimicking方法通常會(huì)學(xué)習(xí)概率輸出的前一層，被稱(chēng)為"Deep-ID"，這一層的張量被認(rèn)為是數(shù)據(jù)在經(jīng)過(guò)深度網(wǎng)絡(luò)后得到的一個(gè)高維空間嵌入，在這個(gè)空間中，不同類(lèi)的樣例可分性要遠(yuǎn)超原有表示，從而達(dá)到表示學(xué)習(xí)的效果。本文作者提出的mimicking框架則是選擇檢測(cè)模型中基礎(chǔ)網(wǎng)絡(luò)輸出的feature map進(jìn)行學(xué)習(xí)Mimic作為一種模型小型化的方法，Hinton在 Distilling th