Matrices especiales -- matriz identidad, matriz diagonal, matriz simétrica

Algunos tipos de matrices aparecen repetidamente en IA; tienen estructuras y propiedades especiales. Conocerlos te ayuda a comprender rápidamente el comportamiento de los optimizadores, los efectos de la regularización y el significado de las transformaciones de datos.

Matriz identidad I

La diagonal principal está compuesta por 1, el resto está compuesto por 0

Multiplicar por cualquier matriz = no cambia

Equivale al «1» en los números

Matriz diagonal

Solo hay valores en la diagonal principal

Cada dimensión se escala de forma independiente

Equivale a un ecualizador de audio

Matriz simétrica

Traspuesta = ella misma

Simétrica respecto a la diagonal principal

Todos los valores propios son reales

Matriz identidad: el «1» de las matemáticas

\[ \mathbf{I}_n = \begin{bmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & 1 \end{bmatrix} \]

Para cualquier matriz A de forma compatible: \( \mathbf{I}A = A \), \( A\mathbf{I} = A \).

Matriz diagonal: escala cada dimensión de forma independiente

\[ \mathbf{D} = \text{diag}(d_1, d_2, \dots, d_n) = \begin{bmatrix} d_1 & 0 & \cdots & 0 \\ 0 & d_2 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & d_n \end{bmatrix} \]

Multiplicar una matriz diagonal por un vector = aplicar independientemente diferentes coeficientes de escala a cada componente del vector.

Matriz simétrica: trasponerla sigue siendo ella misma

\( \mathbf{A}^T = \mathbf{A} \), es decir \( a_{ij} = a_{ji} \).

Una matriz simétrica tiene una propiedad muy importante:Todos los valores propios son realesy los vectores propios son mutuamente ortogonales.

Esto hace que las matrices simétricas sean extremadamente útiles en optimización y estadística: la matriz de covarianza y la matriz hessiana son matrices simétricas.


Ejemplos de la vida cotidiana

Matriz identidad: una operación que no hace nada

Abres una imagen en PS, la guardas directamente sin hacer ninguna edición. Entrada = salida.

La matriz identidad es la expresión matemática de ese «no hacer nada».

Matriz diagonal: ecualizador de audio

Cada deslizador del ecualizador controla independientemente el volumen de una banda de frecuencia: agudos +3 dB, graves -2 dB, medios sin cambios.

Cada banda no interfiere con las demás y se escala por separado. Este es el comportamiento de una matriz diagonal.

Matriz simétrica: el reflejo en el espejo

De pie frente a un espejo, tu mano izquierda corresponde a la posición de tu mano derecha en el espejo. Arriba y abajo no cambian, izquierda y derecha se intercambian.

Una matriz simétrica es similar: simétrica respecto a la diagonal principal; al intercambiar las posiciones simétricas respecto a la diagonal, el valor no cambia.


Definición matemática

Tipo de matrizCondición de definiciónNotación
Matriz identidad\( I_{ii}=1, I_{ij}=0 \; (i \neq j) \)\( \mathbf{I}_n \)
Matriz diagonal\( D_{ij}=0 \) cuando \( i \neq j \)diag(d₁,...,dₙ)
Matriz simétrica\( A_{ij} = A_{ji} \) para todo i,j\( \mathbf{A} = \mathbf{A}^T \)

Práctica con Python

Ejemplo

import numpy as np

# Matriz identidad
I = np.eye(3)
A = np.array([[4,7,2],[3,5,1],[6,8,9]])
print("I @ A == A:", np.allclose(I @ A, A))

# Matriz diagonal: escala independiente
D = np.diag([2, 3, 5])
v = np.array([1, 1, 1])
print("D @ [1,1,1] =", D @ v)  # [2, 3, 5]

# Matriz simétrica
S = np.array([[1,4,5],[4,2,6],[5,6,3]])
print("S simétrica:", np.allclose(S.T, S))
eigenvals = np.linalg.eigvals(S)
print("Valores propios todos reales:", np.all(np.isreal(eigenvals)))

# La matriz de covarianza es naturalmente simétrica
data = np.random.randn(100, 5)
cov = np.cov(data.T)
print("Matriz de covarianza simétrica:", np.allclose(cov, cov.T))
I @ A == A: True
D @ [1,1,1] = [2 3 5]
S 对称: True
特征值全实数: True
协方差矩阵对称: True

Aplicaciones en IA

Optimizador Adam = escala adaptativa con matriz diagonal

Adam mantiene el promedio móvil exponencial del cuadrado del gradiente \( v_t \) para cada parámetro, y al actualizar usa \( \theta_{t+1} = \theta_t - \eta \cdot m_t / \sqrt{v_t} \). Matemáticamente, \( 1/\sqrt{v_t} \) escala independientemente cada componente del parámetro — esto es multiplicar una matriz diagonal por el vector de gradiente. Los componentes de gradiente activos reducen la tasa de aprendizaje; los inactivos la aumentan.

Matriz de covarianza para PCA

El primer paso de la reducción de dimensionalidad con PCA: calcular la matriz de covarianza de los datos centrados \( \Sigma = X^TX/(n-1) \). Esta es una matriz simétrica (\Sigma_{ij} = \Sigma_{ji}) y sus valores propios son todos reales. Los vectores propios correspondientes a los k valores propios más grandes son las direcciones de los componentes principales. La clase PCA de sklearn hace esto internamente.

Inicialización identidad en redes neuronales recurrentes

Las matrices de pesos recurrentes de RNN y LSTM suelen inicializarse como matriz identidad. Esto asegura que en las primeras etapas del entrenamiento, la información del estado oculto pueda transmitirse «sin cambios», evitando que el gradiente decaiga demasiado rápido a lo largo de los pasos de tiempo. Esta técnica se conoce como IRNN (Identity RNN).

Inicialización de Xavier/Glorot

La inicialización de Xavier elige cuidadosamente la varianza de los pesos para mantener consistente la varianza de salida de cada capa: \( Var(W) = 2/(n_{in} + n_{out}) \). Esto equivale a la restricción de la matriz diagonal (la varianza) sobre una distribución normal con esa varianza.


Otras extensiones