注意力和自注意力機制的區(qū)別是概念和存在意義。如下所示：

注意力機制：主要是引入了注意力機制這個概念，比較有代表性的是SENet。通過對每一個特征層進行全局池化，再到全連接層中找特征之間的聯(lián)系，最后得到權(quán)重劃分。

自注意力機制：主要是根據(jù)兩兩之間的關(guān)系來引入權(quán)重，在通道、空間兩個層面，通過計算每個單元通道與通道之間、像素點與像素點之間的值，來加強兩兩之間的聯(lián)系，進而提高精確度語義分割。

視覺注意力機制：

視覺注意力機制是人類視覺所特有的大腦信號處理機制。人類視覺通過快速掃描全局圖像，獲得需要重點關(guān)注的目標區(qū)域，也就是一般所說的注意力焦點，而后對這一區(qū)域投入更多注意力資源，以獲取更多所需要關(guān)注目標的細節(jié)信息，而抑制其他無用信息。

這是人類利用有限的注意力資源從大量信息中快速篩選出高價值信息的手段，是人類在長期進化中形成的一種生存機制，人類視覺注意力機制極大地提高了視覺信息處理的效率與準確性。