Matrices especiales -- matriz identidad, matriz diagonal, matriz simétrica
Algunos tipos de matrices aparecen repetidamente en IA; tienen estructuras y propiedades especiales. Conocerlos te ayuda a comprender rápidamente el comportamiento de los optimizadores, los efectos de la regularización y el significado de las transformaciones de datos.
Matriz identidad I
La diagonal principal está compuesta por 1, el resto está compuesto por 0
Multiplicar por cualquier matriz = no cambia
Equivale al «1» en los números
Matriz diagonal
Solo hay valores en la diagonal principal
Cada dimensión se escala de forma independiente
Equivale a un ecualizador de audio
Matriz simétrica
Traspuesta = ella misma
Simétrica respecto a la diagonal principal
Todos los valores propios son reales
Matriz identidad: el «1» de las matemáticas
\[ \mathbf{I}_n = \begin{bmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & 1 \end{bmatrix} \]Para cualquier matriz A de forma compatible: \( \mathbf{I}A = A \), \( A\mathbf{I} = A \).
Matriz diagonal: escala cada dimensión de forma independiente
\[ \mathbf{D} = \text{diag}(d_1, d_2, \dots, d_n) = \begin{bmatrix} d_1 & 0 & \cdots & 0 \\ 0 & d_2 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & d_n \end{bmatrix} \]Multiplicar una matriz diagonal por un vector = aplicar independientemente diferentes coeficientes de escala a cada componente del vector.
Matriz simétrica: trasponerla sigue siendo ella misma
\( \mathbf{A}^T = \mathbf{A} \), es decir \( a_{ij} = a_{ji} \).
Una matriz simétrica tiene una propiedad muy importante:Todos los valores propios son realesy los vectores propios son mutuamente ortogonales.
Esto hace que las matrices simétricas sean extremadamente útiles en optimización y estadística: la matriz de covarianza y la matriz hessiana son matrices simétricas.
Ejemplos de la vida cotidiana
Matriz identidad: una operación que no hace nada
Abres una imagen en PS, la guardas directamente sin hacer ninguna edición. Entrada = salida.
La matriz identidad es la expresión matemática de ese «no hacer nada».
Matriz diagonal: ecualizador de audio
Cada deslizador del ecualizador controla independientemente el volumen de una banda de frecuencia: agudos +3 dB, graves -2 dB, medios sin cambios.
Cada banda no interfiere con las demás y se escala por separado. Este es el comportamiento de una matriz diagonal.
Matriz simétrica: el reflejo en el espejo
De pie frente a un espejo, tu mano izquierda corresponde a la posición de tu mano derecha en el espejo. Arriba y abajo no cambian, izquierda y derecha se intercambian.
Una matriz simétrica es similar: simétrica respecto a la diagonal principal; al intercambiar las posiciones simétricas respecto a la diagonal, el valor no cambia.
Definición matemática
| Tipo de matriz | Condición de definición | Notación |
|---|---|---|
| Matriz identidad | \( I_{ii}=1, I_{ij}=0 \; (i \neq j) \) | \( \mathbf{I}_n \) |
| Matriz diagonal | \( D_{ij}=0 \) cuando \( i \neq j \) | diag(d₁,...,dₙ) |
| Matriz simétrica | \( A_{ij} = A_{ji} \) para todo i,j | \( \mathbf{A} = \mathbf{A}^T \) |
Práctica con Python
Ejemplo
# Matriz identidad
I = np.eye(3)
A = np.array([[4,7,2],[3,5,1],[6,8,9]])
print("I @ A == A:", np.allclose(I @ A, A))
# Matriz diagonal: escala independiente
D = np.diag([2, 3, 5])
v = np.array([1, 1, 1])
print("D @ [1,1,1] =", D @ v) # [2, 3, 5]
# Matriz simétrica
S = np.array([[1,4,5],[4,2,6],[5,6,3]])
print("S simétrica:", np.allclose(S.T, S))
eigenvals = np.linalg.eigvals(S)
print("Valores propios todos reales:", np.all(np.isreal(eigenvals)))
# La matriz de covarianza es naturalmente simétrica
data = np.random.randn(100, 5)
cov = np.cov(data.T)
print("Matriz de covarianza simétrica:", np.allclose(cov, cov.T))
I @ A == A: True D @ [1,1,1] = [2 3 5] S 对称: True 特征值全实数: True 协方差矩阵对称: True
Aplicaciones en IA
Optimizador Adam = escala adaptativa con matriz diagonal
Adam mantiene el promedio móvil exponencial del cuadrado del gradiente \( v_t \) para cada parámetro, y al actualizar usa \( \theta_{t+1} = \theta_t - \eta \cdot m_t / \sqrt{v_t} \). Matemáticamente, \( 1/\sqrt{v_t} \) escala independientemente cada componente del parámetro — esto es multiplicar una matriz diagonal por el vector de gradiente. Los componentes de gradiente activos reducen la tasa de aprendizaje; los inactivos la aumentan.
Matriz de covarianza para PCA
El primer paso de la reducción de dimensionalidad con PCA: calcular la matriz de covarianza de los datos centrados \( \Sigma = X^TX/(n-1) \). Esta es una matriz simétrica (\Sigma_{ij} = \Sigma_{ji}) y sus valores propios son todos reales. Los vectores propios correspondientes a los k valores propios más grandes son las direcciones de los componentes principales. La clase PCA de sklearn hace esto internamente.
Inicialización identidad en redes neuronales recurrentes
Las matrices de pesos recurrentes de RNN y LSTM suelen inicializarse como matriz identidad. Esto asegura que en las primeras etapas del entrenamiento, la información del estado oculto pueda transmitirse «sin cambios», evitando que el gradiente decaiga demasiado rápido a lo largo de los pasos de tiempo. Esta técnica se conoce como IRNN (Identity RNN).
Inicialización de Xavier/Glorot
La inicialización de Xavier elige cuidadosamente la varianza de los pesos para mantener consistente la varianza de salida de cada capa: \( Var(W) = 2/(n_{in} + n_{out}) \). Esto equivale a la restricción de la matriz diagonal (la varianza) sobre una distribución normal con esa varianza.
Otras extensiones