La forma de los datos — escalares, vectores, matrices, tensores

En el mundo de la IA, todos los datos —ya sea una imagen, un texto o un audio— terminan organizándose en una forma unificada:Tensor。

Tensor es un término general; según la dimensión, recibe diferentes nombres.

De cero dimensiones a múltiples dimensiones: estructuras de datos anidadas capa por capa

Escalar
26
0 dimensiones: es un solo número
No necesita coordenadas para ubicarse
Vector
[22, 23, 24, 26]
1 dimensión: una secuencia ordenada de números
1 coordenada: ¿en qué posición?
Matriz
Tabla 2D
2 dimensiones: una tabla formada por filas y columnas
2 coordenadas: ¿en qué fila? ¿en qué columna?
Tensor
Cubo de datos
3 dimensiones o más: múltiples tablas apiladas
Se necesitan 3 o más coordenadas para ubicar un número

Otra forma de entenderlo es mediante el «anidamiento»: el escalar está en el interior; si lo envuelves una vez obtienes un vector, otra vez una matriz, y si sigues envolviendo obtienes tensores de mayor dimensión.

Tensor: una pila de tablas
Matriz: una tabla
Vector: una fila de números
Escalar: un número

En marcos de aprendizaje profundo como PyTorch y TensorFlow, todos los datos se representan de forma unificada con «tensores».

Un escalar es un tensor de 0 dimensiones, un vector es un tensor de 1 dimensión y una matriz es un tensor de 2 dimensiones: son casos especiales de tensores.

Entender la forma de los datos mediante la dimensión

Escalar (0 dimensiones)

Es solo un número. Por ejemplo, la temperatura 26°C. En NumPy, shape se muestra como una tupla vacía()。

Vector (1 dimensión)

Una secuencia ordenada de números. Por ejemplo, el registro de temperatura de cada hora en un día. Shape es(n,), donde n es el número de elementos.

Matriz (2 dimensiones)

Una tabla con filas y columnas. Por ejemplo, una tabla de temperaturas de 7 días a la semana, 24 horas al día. Shape es(número de filas, número de columnas)。

Tensor (3 dimensiones o más)

Múltiples capas de datos apilados. Por ejemplo, las temperaturas de 300 ciudades del país, cada ciudad con 7 días a la semana y 24 horas al día. Shape es(número de ciudades, número de días, número de horas)es decir(300, 7, 24)。

La dimensión puede entenderse simplemente como:cuántas «coordenadas» necesitas para fijar un número concreto.


Ejemplos de la vida cotidiana

A continuación, usaremos un escenario progresivo para consolidar la comprensión.

Escenario 1: registrar la temperatura actual

Solo necesitas escribir un número:26. Esto es unescalar. No tiene dimensiones; es simplemente un valor aislado.

Escenario 2: registrar la variación de temperatura en un día

Mides cada hora desde la mañana hasta la noche y obtienes 24 números:[22, 23, 24, 26, 28, ...]。

Esto es unvector. Necesitas una coordenada (¿en qué hora?) para ubicar un valor de temperatura concreto.

Escenario 3: registrar la temperatura de una semana

Organizas los datos de siete días en una tabla: cada fila es un día y cada columna es una hora.

Esto es unamatrizde 7 filas y 24 columnas. Necesitas dos coordenadas (¿qué día? ¿qué hora?) para ubicarlo.

Escenario 4: registrar la temperatura de las ciudades del país

Hay 300 ciudades en el país, y cada ciudad tiene una tabla de 7×24.

Estas 300 tablas apiladas juntas forman untensor 3D. Necesitas tres coordenadas (¿qué ciudad? ¿qué día? ¿qué hora?).


Definición matemática

Escalar

Un escalar es un número individual, se escribe como \( a = 26 \), o \( x \in \mathbb{R} \) (x pertenece al conjunto de los números reales).

Vector

Un vector es un conjunto ordenado de números, normalmente escrito en vertical (vector columna):

\[ \mathbf{v} = \begin{bmatrix} v_1 \\ v_2 \\ \vdots \\ v_n \end{bmatrix} \in \mathbb{R}^{n} \]

\( \mathbb{R}^{n} \) indica que es un vector real de n dimensiones; \( v_1 \) es la primera componente y \( v_n \) es la n-ésima componente.

Matriz

Una matriz es un arreglo rectangular de m filas y n columnas:

\[ \mathbf{A} = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix} \in \mathbb{R}^{m \times n} \]

Se denota como matriz m×n (m filas y n columnas); \( a_{ij} \) representa el elemento de la fila i y la columna j.

Tensor

Un tensor es la generalización de vectores y matrices a cualquier número de dimensiones.

La forma de un tensor de k dimensiones se denota como \( (d_1, d_2, \dots, d_k) \), con un total de \( d_1 \times d_2 \times \cdots \times d_k \) elementos.

Tabla comparativa de referencia rápida

NombreDimensiónEjemplo de ShapeNúmero de coordenadasNotación matemática
Escalar0()0\( x \in \mathbb{R} \)
Vector1(n,)1\( \mathbf{v} \in \mathbb{R}^{n} \)
Matriz2(m, n)2\( \mathbf{A} \in \mathbb{R}^{m \times n} \)
Tensor 3D3(d1, d2, d3)3\( \mathcal{T} \in \mathbb{R}^{d_1 \times d_2 \times d_3} \)

Práctica con Python

A continuación, usaremos NumPy para crear y examinar estas estructuras de datos.El atributoshape

Ejemplo

import numpy as np

Ejemplo
scalar = np.array(26)
# Escalar (tensor 0D): shape = ()
vector = np.array([22, 23, 24, 26, 28, 30, 31, 29])
# Vector (tensor 1D): shape = (n,)
matrix = np.array([[1, 2, 3], [4, 5, 6]])
# Matriz (tensor 2D): shape = (filas, columnas)
tensor_3d = np.array([[[1,2,3],[4,5,6]], [[7,8,9],[10,11,12]]])
# Tensor 3D: shape = (capas, filas, columnas)
batch_images = np.array([
    [[[10],[20]],[[30],[40]]],
    [[[50],[60]],[[70],[80]]],
    [[[90],[100]],[[110],[120]]]
])

print(# Tensor 4D: simula 3 imágenes de un solo canal de 2x2 píxeles, scalar.shape, "   ndim=", scalar.ndim)
print("Escalar: shape=", vector.shape, "   ndim=", vector.ndim)
print("Vector: shape=", matrix.shape, "   ndim=", matrix.ndim)
print("Matriz: shape=", tensor_3d.shape, "  ndim=", tensor_3d.ndim)
print("Tensor 3D: shape=", batch_images.shape, " ndim=", batch_images.ndim)

"Tensor 4D: shape="

标量:    shape= ()        ndim= 0
向量:    shape= (8,)      ndim= 1
矩阵:    shape= (2, 3)    ndim= 2
3D 张量: shape= (2, 2, 3) ndim= 3
4D 张量: shape= (3, 2, 2, 1) ndim= 4

La regla del atributo Shape

La regla del atributo ShapeAtributoSignificadoEscalarVector (8 elementos)3D(2×2×3)
.shapeMatriz (2×3)()(8,)(2, 3)(2, 2, 3)
.ndimTamaño de cada dimensión0123
.sizeNúmero de dimensiones = len(shape)18612

Número total de elementos

Al depurar código de deep learning, cuando veas un error de shape mismatch, lo primero es imprimir el shape para revisar las dimensiones de los datos.


Visualización 3D de tensores

Visualización 3D de tensores

A continuación, dibujamos un tensor 3×3×3 como 27 puntos en el espacio: los tres ejes de coordenadas corresponden a «fila, columna, canal», y la intensidad de color de cada punto representa el valor numérico en esa posición. Puedes arrastrar el ratón para rotar la vista.

Distribución espacial de un tensor 3×3×3 · Cuanto más brillante es el color, mayor es el valor


Escenarios de aplicación en IA

Clasificación de imágenes: de tensores 3D a 4D

Clasificación de imágenes: de tensores 3D a 4D(224, 224, 3)En la tarea de clasificación de ImageNet, las imágenes de entrada se redimensionan uniformemente a 224×224 píxeles. Una imagen en color individual es un tensor 3D con forma

.(32, 224, 224, 3)。

Durante el entrenamiento real, la GPU procesa un lote (batch) a la vez (por ejemplo, 32 imágenes), y los datos se convierten en un tensor 4D(N, H, W, C).(N, C, H, W)Ten en cuenta que diferentes marcos tienen diferentes convenciones sobre la posición del canal: TensorFlow/Keras usa

Cuando veas el error "shape mismatch: (32, 224, 224, 3) vs (32, 3, 224, 224)", se debe a que la posición de los canales es inconsistente: usa.permute()o.transpose()ajustarlo.

Procesamiento del lenguaje natural: matrices de embedding

El tamaño del vocabulario del modelo BERT es 30522, con dimensión oculta de 768. El shape de su matriz de embeddings de palabras es(30522, 768)——cada fila es un vector de 768 dimensiones para una palabra.

La serie GPT también es así: GPT-2 tiene un vocabulario de 50257, con dimensión de embeddings de 768 (modelo pequeño) a 1600 (modelo grande).

Cuando ingresas un texto, el modelo primero consulta la tabla para convertir cada ID de palabra en su vector de embedding correspondiente; esto es «buscar en la tabla y tomar la fila»: una operación de indexación de matrices.

Capa totalmente conectada: el papel central de la multiplicación de matrices

Una red clásica de reconocimiento de dígitos manuscritos MNIST: entrada de 784 dimensiones (píxeles 28×28 aplanados), primera capa oculta de 256 dimensiones.

El shape de la matriz de pesos W₁ es(256, 784). Cada propagación hacia adelante calculah = W₁ @ x, que es una matriz de 256×784 multiplicada por un vector de 784 dimensiones.

La propagación hacia adelante de toda la red neuronal, en esencia, es una alternancia de multiplicaciones de matrices capa por capa y funciones de activación.

Datos de video: tensores 5D

El video puede entenderse como una secuencia de múltiples fotogramas. Un clip de video en color de 16 fotogramas 224×224 tiene un shape de(16, 224, 224, 3)。

Después de agregar la dimensión batch, se convierte en un tensor 5D(8, 16, 224, 224, 3)——esta es la entrada estándar para modelos de clasificación de video (como 3D-ResNet).


Otras extensiones