Vamos a repasar algunas de las operaciones con tensores más usuales. Como veremos más adelante, utilizaremos la librería Numpy para llevar a cabo este tipo de operaciones con código.
Una de las operaciones más básicas del álgebra Lineal, el producto escalar entre dos vectores. Como su nombre indica, devuelve un único dato, un escalar.
El producto escalar requiere que ambos vectores tengan el mismo número de elementos.
La operación de multiplicar matrices corresponde al producto escalar de cada fila (eje 1) de la primera matriz con cada columna (eje 2) de la segunda matriz, lo cual devuelve también una matriz.
La operación implica que ambos ejes, el eje 1 de la matriz A y el eje 2 de la matriz B, tengan el mismo número de elementos.
Una propiedad interesante y muy importante en Deep Learning es que la propiedad conmutativa no es aplicable al producto de matrices. Para dos matrices A y B, no es lo mismo A×B que B×A
El producto de Hadamard solo es posible entre matrices de la misma forma, es decir, mismo número de ejes y número de elementos por eje. Puede verse como una superposición en la que cada elemento de la matriz A se multiplica por el elemento en la misma posición de la matriz B, resultando en una matriz de igual forma que las primeras.