Funciones y límites -- El punto de partida del cálculo

El cálculo es el motor matemático del proceso de entrenamiento de la IA. Antes de aprender derivadas, repasa el concepto de función y luego comprende el «límite»: la idea central del cálculo.

¿Qué es un límite?

El límite describe «cuando x se acerca infinitamente a un punto sin ser igual a él, hacia qué valor se aproxima f(x)».

Por ejemplo: \( f(x) = \frac{x^2-1}{x-1} \), no está definida en x=1. Pero cuando x se acerca a 1, f(x) se aproxima a 2.

Límite por la izquierda

x → 1⁻ (acercándose desde la izquierda)

f(0.999) → 2

Límite

Límites laterales iguales → existe

\( \lim_{x\to 1} f(x) = 2 \)

Límite por la derecha

x → 1⁺ (acercándose desde la derecha)

f(1.001) → 2

Continuidad = Sin rupturas

f(x) es continua en el punto a: \( \lim_{x\to a} f(x) = f(a) \)——El límite en ese punto = el valor de la función en ese punto.

La mayoría de las funciones de pérdida (MSE, entropía cruzada) son continuas y derivables: esta es la premisa para poder optimizarlas con descenso de gradiente.


Ejemplos de la vida cotidiana

Velocidad instantánea

Quieres saber la velocidad justo en el tercer segundo. Pero un «instante» tiene un intervalo de tiempo de 0, y el desplazamiento también es 0, por lo que 0/0 no tiene sentido.

La solución del cálculo: toma intervalos de tiempo cada vez más cortos y observa hacia qué valor se aproxima la velocidad media. Ese valor al que se aproxima es la velocidad instantánea, es decir, la derivada.


Definición matemática

\[ \lim_{x \to a} f(x) = L \]

Reglas de operación de límites: el límite de una suma, resta, producto o cociente = la suma, resta, producto o cociente de los límites (siempre que el límite del denominador no sea 0).


Práctica con Python

Ejemplo

import numpy as np

def f(x):
    return (x**2 - 1) / (x - 1)

print("=== lim_{x->1} (x^2-1)/(x-1) = 2 ===")
# Aproximación desde ambos lados
for delta in [0.1, 0.01, 0.001, 0.0001]:
    print(f"x = {1-delta:.4f}, f(x) = {f(1-delta):.6f}")
    print(f"x = {1+delta:.4f}, f(x) = {f(1+delta):.6f}")
print("→ No importa desde qué lado nos aproximemos, f(x) se acerca a 2")
=== lim_{x->1} (x^2-1)/(x-1) = 2 ===
x = 0.9000, f(x) = 1.900000
x = 1.1000, f(x) = 2.100000
x = 0.9900, f(x) = 1.990000
x = 1.0100, f(x) = 2.010000
→ 无论从哪边逼近,f(x)都趋近于 2

Escenarios de aplicación en IA

La definición de gradiente depende del límite

La definición de derivada es en sí misma un límite: \( f'(x) = \lim_{h \to 0} \frac{f(x+h)-f(x)}{h} \). Aunque el cálculo de gradientes en la retropropagación utiliza derivación analítica en lugar de límites numéricos, la idea de límite es la clave para entender que «la tasa de aprendizaje no puede ser demasiado grande»: una tasa de aprendizaje demasiado grande equivale a usar un h demasiado grande para aproximar la derivada.

Requisitos de continuidad de la función de pérdida

El descenso de gradiente requiere que la función de pérdida sea derivable en casi todas partes. Tanto MSE como la entropía cruzada son suaves y continuas: esta es la premisa para que se conviertan en funciones de pérdida estándar. La Hinge Loss (usada en SVM) no es derivable en su punto de inflexión, por lo que debe sustituirse por un subgradiente.

Selección de funciones de activación

ReLU no es derivable en x=0 (las derivadas laterales no son iguales), pero en la práctica se usa el subgradiente 0 en su lugar, y el modelo aún puede entrenarse con normalidad. LeakyReLU y GELU son derivables en todas partes, por lo que el flujo de gradiente es más suave.


Otras extensiones