pytorch中的matmul與mm,bmm區(qū)別說明
pytorch中matmul和mm和bmm區(qū)別 matmulmmbmm結(jié)論
先看下官網(wǎng)上對這三個函數(shù)的介紹。
matmul
mm
bmm
顧名思義, 就是兩個batch矩陣乘法.
結(jié)論
從官方文檔可以看出
1、mm只能進行矩陣乘法,也就是輸入的兩個tensor維度只能是( n × m ) (n\times m)(n×m)和( m × p ) (m\times p)(m×p)
2、bmm是兩個三維張量相乘, 兩個輸入tensor維度是( b × n × m ) (b\times n\times m)(b×n×m)和( b × m × p ) (b\times m\times p)(b×m×p), 第一維b代表batch size，輸出為( b × n × p ) (b\times n \times p)(b×n×p)
3、matmul可以進行張量乘法, 輸入可以是高維.
補充：torch中的幾種乘法。torch.mm, torch.mul, torch.matmul
一、點乘
點乘都是broadcast的，可以用torch.mul(a, b)實現(xiàn)，也可以直接用*實現(xiàn)。
>>> a = torch.ones(3,4)
>>> a
tensor([[1., 1., 1., 1.],
[1., 1., 1., 1.],
[1., 1., 1., 1.]])
>>> b = torch.Tensor([1,2,3]).reshape((3,1))
>>> b
tensor([[1.],
[2.],
[3.]])
>>> torch.mul(a, b)
tensor([[1., 1., 1., 1.],
[2., 2., 2., 2.],
[3., 3., 3., 3.]])
當(dāng)a, b維度不一致時，會自動填充到相同維度相點乘。
二、矩陣乘
矩陣相乘有torch.mm和torch.matmul兩個函數(shù)。其中前一個是針對二維矩陣，后一個是高維。當(dāng)torch.mm用于大于二維時將報錯。
>>> a = torch.ones(3,4)
>>> b = torch.ones(4,2)
>>> torch.mm(a, b)
tensor([[4., 4.],
[4., 4.],
[4., 4.]])
>>> a = torch.ones(3,4) >>> b = torch.ones(5,4,2) >>> torch.matmul(a, b).shape torch.Size([5, 3, 2])
>>> a = torch.ones(5,4,2) >>> b = torch.ones(5,2,3) >>> torch.matmul(a, b).shape torch.Size([5, 4, 3])
>>> a = torch.ones(5,4,2) >>> b = torch.ones(5,2,3) >>> torch.matmul(b, a).shape 報錯。
以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方，望不吝賜教。
相關(guān)文章
在使用Python處理比較耗時操作的時候，為了便于觀察處理進度，就需要通過進度條將處理情況進行可視化展示，本文主要介紹了Python進度條的使用，分享給大家，感興趣的可以了解一下2021-05-05
Python Matplotlib數(shù)據(jù)可視化模塊使用詳解
matplotlib是基建立在python之上，適用于創(chuàng)建靜態(tài)，動畫和交互式可視化，通常與數(shù)據(jù)分析模塊pandas搭配使用，用于數(shù)據(jù)的分析和展示，適用于主流的操作系統(tǒng)，如Linux、Win、Mac2022-11-11
使用OpenCV獲取圖像某點的顏色值,并設(shè)置某點的顏色
這篇文章主要介紹了使用OpenCV獲取圖像某點的顏色值,并設(shè)置某點的顏色，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-06-06
Python使用Django實現(xiàn)博客系統(tǒng)完整版
這篇文章主要為大家詳細介紹了Python利用Django完整的開發(fā)一個博客系統(tǒng)，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-03-03
這篇文章主要介紹了python列表:開始、結(jié)束、步長值實例，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2022-05-05
Scapy 是一款使用純Python編寫的跨平臺網(wǎng)絡(luò)數(shù)據(jù)包操控工具,它能夠處理和嗅探各種網(wǎng)絡(luò)數(shù)據(jù)包,本文主要介紹了Python如何使用使用Scapy實現(xiàn)端口探測,有需要的可以參考下2023-10-10
這篇文章給大家分享了Python中字符串的處理技巧，包括拆分含有多種分隔符的字符串、判斷字符串a(chǎn)是否以字符串b開頭或結(jié)尾、調(diào)整字符串中文本的格式已經(jīng)將多個小字符串拼接成一個大的字符串等，感興趣的朋友們可以通過閱讀下文來學(xué)習(xí)。2016-09-09
python+requests接口自動化框架的實現(xiàn)
這篇文章主要介紹了python+requests接口自動化框架的實現(xiàn)，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-08-08
pytorch中retain_graph==True的作用說明
這篇文章主要介紹了pytorch中retain_graph==True的作用說明，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2023-02-02
二叉堆是一種特殊的堆，二叉堆是完全二元樹（二叉樹）或者是近似完全二元樹（二叉樹）。二叉堆有兩種：最大堆和最小堆。最大堆：父結(jié)點的鍵值總是大于或等于任何一個子節(jié)點的鍵值；最小堆：父結(jié)點的鍵值總是小于或等于任何一個子節(jié)點的鍵值。2016-02-02