MAE (Mean Absolute Error)

El Error Absoluto Medio (MAE, por sus siglas en inglés) es una de las métricas más fundamentales para evaluar modelos de regresión. Su definición es directa y su interpretación intuitiva.

Definición

Sea un conjunto de $n$ observaciones con valores reales $y_1, y_2, \ldots, y_n$ y valores predichos $\hat{y}_1, \hat{y}_2, \ldots, \hat{y}_n$.

El MAE se define como:

Desglose de la fórmula

Analicemos cada componente:

Propiedades matemáticas

Propiedad 1: No negatividad

El MAE siempre es mayor o igual a cero:

Demostración: El valor absoluto siempre es no negativo ($|x| \geq 0$ para todo $x \in \mathbb{R}$). La suma de valores no negativos es no negativa. Dividir por $n > 0$ preserva el signo.

Propiedad 2: Identidad

El MAE es cero si y solo si todas las predicciones son perfectas:

Demostración:

$(\Rightarrow)$ Si MAE = 0, entonces $\sum |y_i - \hat{y}_i| = 0$. Como cada término es no negativo, todos deben ser cero: $|y_i - \hat{y}_i| = 0 \Rightarrow y_i = \hat{y}_i$.

$(\Leftarrow)$ Si $y_i = \hat{y}_i$ para todo $i$, entonces $|y_i - \hat{y}_i| = 0$ para todo $i$, y la suma es 0.

Propiedad 3: Unidades

El MAE tiene las mismas unidades que la variable objetivo $y$:

Esto hace que el MAE sea directamente interpretable. Si $y$ está en dólares, el MAE también está en dólares.

Propiedad 4: Robustez ante outliers

El MAE es menos sensible a valores atípicos que el MSE porque usa el valor absoluto (función lineal) en lugar del cuadrado (función cuadrática).

Ejemplo: Sean los errores $\{1, 2, 3, 100\}$:

El MSE amplifica desproporcionadamente el outlier de 100.

Interpretación geométrica

El MAE puede interpretarse como la distancia Manhattan (o norma $L^1$) promedio entre los vectores de valores reales y predichos.

Si definimos $\vec{y} = (y_1, \ldots, y_n)$ y $\hat{\vec{y}} = (\hat{y}_1, \ldots, \hat{y}_n)$:

donde $\|\cdot\|_1$ es la norma $L^1$ (suma de valores absolutos).

Relación con la mediana

El MAE está íntimamente relacionado con la mediana. Si buscamos un valor constante $c$ que minimice el error absoluto total:

La solución es $c = \text{mediana}(y_1, \ldots, y_n)$.

Esto contrasta con el MSE, donde el valor óptimo es la media.

Ejemplo numérico

Supongamos que tenemos un modelo que predice precios de casas (en miles de dólares):

Cálculo paso a paso:

Interpretación: El modelo se equivoca, en promedio, por $10,000 en sus predicciones de precio.

Implementación

import com.minerva.core.primitives.Vector;
import com.minerva.metrics.RegressionMetrics.RegressionMetrics;
 
public class MAEExample {
    public static void main(String[] args) {
        Vector actual = new Vector(new double[] {250, 300, 180, 420});
        Vector predicted = new Vector(new double[] {245, 310, 175, 400});
        
        RegressionMetrics metrics = new RegressionMetrics();
        double mae = metrics.MAE(actual, predicted);
        
        System.out.println("MAE: " + mae);
    }
}

MAE: 10.0

Limitaciones

1. No diferenciable en cero: La función valor absoluto no es diferenciable en $x = 0$, lo que puede causar problemas en algoritmos de optimización basados en gradiente.

2. No penaliza errores grandes: La relación lineal puede ser no deseada cuando errores grandes son particularmente costosos.

3. Sensible a la escala: El MAE depende de las unidades de $y$, lo que dificulta comparar modelos de diferentes dominios.

Ver también

• MSE — Métrica cuadrática que penaliza errores grandes
• RMSE — MSE en unidades originales

Bonus: Análisis avanzado del MAE

El problema de no diferenciabilidad

La función valor absoluto $f(x) = |x|$ no es diferenciable en $x = 0$:

Los límites laterales no coinciden, por lo que la derivada no existe en el origen.

Subgradiente

Para manejar esta no diferenciabilidad, usamos el concepto de subgradiente del análisis convexo.

El subgradiente de $f(x) = |x|$ es:

Para el MAE como función de las predicciones $\hat{y}$:

donde $\text{sign}(x) \in [-1, 1]$ cuando $x = 0$.

Demostración: La mediana minimiza el MAE

Teorema: Sea $c^* = \arg\min_c \sum_{i=1}^{n} |y_i - c|$. Entonces $c^*$ es la mediana de $\{y_1, \ldots, y_n\}$.

Demostración:

Definimos $L(c) = \sum_{i=1}^{n} |y_i - c|$.

El subgradiente de $L$ respecto a $c$ es:

Para un mínimo, necesitamos $0 \in \partial_c L$, es decir:

Esto ocurre cuando hay tantos $y_i > c^*$ como $y_i < c^*$, lo cual es precisamente la definición de la mediana.

Función de pérdida Huber

Para combinar las ventajas del MAE (robustez) y MSE (diferenciabilidad), se usa la pérdida de Huber:

Esta función es:

• Cuadrática para errores pequeños ($|e| \leq \delta$): comportamiento tipo MSE
• Lineal para errores grandes ($|e| > \delta$): comportamiento tipo MAE
• Diferenciable en todo el dominio

Su derivada es:

Regresión de cuantiles

El MAE es un caso especial de la regresión de cuantiles con $\tau = 0.5$.

La función de pérdida de cuantil (pinball loss) es:

Para $\tau = 0.5$:

Minimizar $\sum \rho_\tau(e_i)$ produce el cuantil $\tau$ condicional, y para $\tau = 0.5$ obtenemos la mediana condicional.

Análisis de sensibilidad: Función de influencia

La función de influencia mide cómo un punto atípico afecta a un estimador.

Para la media (minimizador de MSE):

Esta función no está acotada: un outlier puede mover la media arbitrariamente.

Para la mediana (minimizador de MAE):

Esta función está acotada en $[-1, 1]$: un outlier tiene influencia limitada.

Esto demuestra formalmente por qué el MAE es más robusto que el MSE.

Conexión con normas $L^p$

El MAE y MSE son casos especiales de la familia de métricas $L^p$:

A medida que $p$ aumenta, la métrica se vuelve más sensible a los errores grandes.