理解keras中的K.batch_dot和TensorFlow的tf.matmul

概述

在使用keras中的keras.backend.batch_dot和tf.matmul实现功能其实是一样的智能矩阵乘法，比如$A,B,C,D,E,F,G,H，I,J,K,L$都是二维矩阵，中间点表示矩阵乘法，$AG$表示矩阵$A$和$G$矩阵乘法（$A$的列维度等于$G$行维度），$WX=Z$

import keras.backendas Kimport tensorflowas tfimport numpyas np

w= K.variable(np.random.randint(10,size=(10,12,4,5)))
k= K.variable(np.random.randint(10,size=(10,12,5,8)))
z= K.batch_dot(w,k)print(z.shape)#(10, 12, 4, 8)

import keras.backendas Kimport tensorflowas tfimport numpyas np

w= tf.Variable(np.random.randint(10,size=(10,12,4,5)),dtype=tf.float32)
k= tf.Variable(np.random.randint(10,size=(10,12,5,8)),dtype=tf.float32)
z= tf.matmul(w,k)print(z.shape)#(10, 12, 4, 8)

示例

from kerasimport backendas K
a= K.ones((3,4,5,2))
b= K.ones((2,5,3,7))
c= K.dot(a, b)print(c.shape)

会输出：
ValueError: Dimensions must be equal, but are 2 and 3 for ‘MatMul’ (op: ‘MatMul’) with input shapes: [60,2], [3,70].

from kerasimport backendas K
a= K.ones((3,4))
b= K.ones((4,5))
c= K.dot(a, b)print(c.shape)#(3,5)

或者

import tensorflowas tf
a= tf.ones((3,4))
b= tf.ones((4,5))
c= tf.matmul(a, b)print(c.shape)#(3,5)

如果增加维度：

from kerasimport backendas K
a= K.ones((2,3,4))
b= K.ones((7,4,5))
c= K.dot(a, b)print(c.shape)#(2, 3, 7, 5)

这个矩阵乘法会沿着两个矩阵最后两个维度进行乘法，不是element-wise矩阵乘法

from kerasimport backendas K
a= K.ones((1,2,3,4))
b= K.ones((8,7,4,5))
c= K.dot(a, b)print(c.shape)#(1, 2, 3, 8, 7, 5)

$c_{a,b,c,i,j,k}={\sum }_r{w}_{a,b,c,r}{x}_{i,j,r,k}$

keras的dot方法是Theano中的复制

from kerasimport backendas K
a= K.ones((1,2,4))
b= K.ones((8,7,4,5))
c= K.dot(a, b)print(c.shape)# (1, 2, 8, 7, 5).

from kerasimport backendas K
a= K.ones((9,8,7,4,2))
b= K.ones((9,8,7,2,5))
c= K.batch_dot(a, b)print(c.shape)#(9, 8, 7, 4, 5)

或者

import tensorflowas tf
a= tf.ones((9,8,7,4,2))
b= tf.ones((9,8,7,2,5))
c= tf.matmul(a, b)print(c.shape)#(9, 8, 7, 4, 5)

参考

[1]: tf.keras.backend.batch_dot函数
[2]:keras batch_dot
[3]:Understand batch matrix multiplication
[4]:batch_dot