Magnitud de vectores y similitud coseno

El producto punto del capítulo anterior contiene información tanto de longitud como de dirección.

En este capítulo los separamos:La magnitud mide el tamaño por separado, y la similitud coseno mide la consistencia de la dirección por separado。

Magnitud: ¿qué tan largo es un vector?

La magnitud es la "distancia en línea recta" desde el origen hasta el punto final del vector — una generalización del teorema de Pitágoras en espacios de alta dimensión.

Norma L1

\( \|\mathbf{v}\|_1 = \sum |v_i| \)

Distancia de Manhattan: caminar por las calles

L1 de (3,4) = 7

Norma L2 (por defecto)

\( \|\mathbf{v}\|_2 = \sqrt{\sum v_i^2} \)

Distancia en línea recta: volar por el aire

L2 de (3,4) = 5

Si no se indica lo contrario, "magnitud" o \( \|\mathbf{v}\| \) se refiere por defecto a la norma L2.

Vector unitario: elimina la longitud, conserva solo la dirección

Cualquier vector no nulo dividido por su propia magnitud produce un vector de longitud 1Vector unitario:

\[ \hat{\mathbf{v}} = \frac{\mathbf{v}}{\|\mathbf{v}\|} \]

Después de la normalización, la dirección del vector no cambia, pero su magnitud se convierte en 1.

Similitud coseno: solo importa la dirección, no la magnitud

Similitud coseno = normalizar ambos vectores como vectores unitarios y luego calcular el producto punto:

\[ \text{cosine\_sim}(\mathbf{a}, \mathbf{b}) = \frac{\mathbf{a}\cdot\mathbf{b}}{\|\mathbf{a}\|\|\mathbf{b}\|} = \cos\theta \]

Misma dirección

cos=1

Direcciones perpendiculares

cos=0

Direcciones opuestas

cos=-1

La similitud coseno solo se preocupa por la dirección, no por la longitud.

v = (3,4) y w = (6,8) (w = 2v), la longitud es el doble, pero la similitud coseno = 1 — porque tienen exactamente la misma dirección.


Ejemplos de la vida cotidiana

Magnitud: medida de distancia

La distancia en línea recta de tu casa a la escuela es 5 km (L2 = 5), pero caminando por las calles hay que rodear 7 km (L1 = 7).

Ambas medidas tienen sus usos; en IA se usa principalmente la L2.

Similitud coseno: coincidencia de gustos musicales

Zhang San escuchó 100 canciones y Li Si escuchó 10 canciones. Con el producto punto, la puntuación de Zhang San es naturalmente más alta.

Pero con la similitud coseno, solo se observa si la dirección de los gustos coincide — Zhang San (usuario activo) y Li Si (usuario nuevo) también pueden compararse de manera justa.


Definición matemática

Desglosando la fórmula clave

\[ \mathbf{a} \cdot \mathbf{b} = \|\mathbf{a}\| \|\mathbf{b}\| \cos\theta \]

Producto punto = producto de longitudes × consistencia de dirección. A la inversa, se puede calcular:

\[ \cos\theta = \frac{\mathbf{a} \cdot \mathbf{b}}{\|\mathbf{a}\| \|\mathbf{b}\|} \]

Práctica con Python

Ejemplo

import numpy as np

v_ejemplo = np.array([3, 4, 0])
w_ejemplo = np.array([6, 8, 0])  # el doble de v

# magnitud
norm_v = np.linalg.norm(v_ejemplo)   # L2 por defecto
norm_w = np.linalg.norm(w_ejemplo)
print(f"||v|| = {norm_v:.1f}, ||w|| = {norm_w:.1f}")  # 5, 10

# normalización
unit_v = v_ejemplo / norm_v
unit_w = w_ejemplo / norm_w
print("v normalizado:", unit_v)    # [0.6, 0.8, 0.]
print("w normalizado:", unit_w)    # [0.6, 0.8, 0.] ¡exactamente iguales!

# similitud coseno
cos_sim = np.dot(v_ejemplo, w_ejemplo) / (norm_v * norm_w)
print(f"Similitud coseno = {cos_sim:.4f}")  # 1.0

# calcular matriz de similitud coseno por lotes
embeddings = np.array([
    [0.2, 0.5, 0.1, 0.8, 0.3],
    [0.3, 0.6, 0.2, 0.7, 0.4],
    [0.9, 0.1, 0.8, 0.1, 0.9],
])
norms = np.linalg.norm(embeddings, axis=1, keepdims=True)
normalized = embeddings / norms
sim_matrix = normalized @ normalized.T
print("\n"Matriz de similitud coseno:")
print(np.round(sim_matrix, 3))
||v|| = 5.0, ||w|| = 10.0
v 归一化: [0.6 0.8 0. ]
w 归一化: [0.6 0.8 0. ]
余弦相似度 = 1.0000

余弦相似度矩阵:
[[1.    0.996 0.146]
 [0.996 1.    0.182]
 [0.146 0.182 1.   ]]

Casos de uso en IA

Búsqueda semántica y sistemas de recomendación

Después de codificar la consulta y los documentos como vectores, se ordenan por similitud coseno — para encontrar los documentos más relevantes. La búsqueda semántica de Google y la recuperación vectorial en RAG (generación aumentada por recuperación) dependen de la similitud coseno.

En comparación con el producto punto, la similitud coseno no se ve afectada por la magnitud del vector — el vector de un artículo largo puede tener una magnitud grande, pero con la similitud coseno se puede comparar de manera justa la consistencia de dirección con una consulta corta.

Reconocimiento facial: similitud coseno > distancia euclidiana

Modelos de reconocimiento facial como FaceNet mapean rostros a vectores de incrustación de 128 dimensiones. Si dos rostros coinciden se determina con la similitud coseno — es insensible a las condiciones de iluminación y al brillo de la foto (que afectan la magnitud del vector).

Dos fotos de la misma persona con diferente iluminación tienen vectores de incrustación con direcciones casi idénticas (cos ≈ 0.95+), pero sus magnitudes pueden diferir mucho.

Regularización L2 para prevenir el sobreajuste

Añadir \( \lambda\|\mathbf{w}\|^2 \) (decaimiento de pesos) a la función de pérdida penaliza magnitudes de pesos demasiado grandes. Una magnitud de pesos grande significa que el modelo confía en exceso en ciertas características y generaliza mal. La regularización L2 lo atrae hacia el origen.

Normalización en Batch Normalization

BN normaliza los valores de activación de cada capa: resta la media y divide por la desviación estándar, transformando los datos en una distribución de magnitud estable. Esto usa el concepto de norma L2 para controlar la escala de las salidas de cada capa.


Otras extensiones