Validación y Análisis · Tema 19

Máxima verosimilitud

¿Qué valor del parámetro vuelve tus datos los menos sorprendentes? El EMV responde con una curva, un máximo y una incerteza honesta.

01 · Punto de partida

El parámetro que menos se sorprende

Tirás una moneda 10 veces y salen 7 caras. ¿p = 0,5 o p = 0,7? Con p = 0,7 ese resultado es mucho más probable que con p = 0,3. Máxima verosimilitud elige el θ que maximiza la probabilidad de lo observado.

  • ¿Cómo se escribe L(θ) para tu modelo?
  • ¿Dónde está su máximo (EMV)?
  • ¿Qué tan puntiaguda es la curva (incerreza)?
  • ¿Cuándo el EMV falla con poco n?

02 · Definición

Verosimilitud, log y EMV

L

Verosimilitud

P(datos|θ) vista como función de θ. No suma 1 en θ: no es probabilidad del parámetro.

ℓ

Log-verosimilitud

Suma de logs: más estable y derivable. Mismo máximo que L, curva más parabólica.

θ̂

EMV

El θ del pico. Asintóticamente insesgado, eficiente y normal: la base de Wald e IC (Tema 26).

EMV en modelos comunes.
ModeloEMVLectura
Bernoulli(p)k/nProporción de éxitos
Poisson(λ)Media muestralCoincide con momentos
Normal(μ,σ)Media y s★ (con n)s con n es algo sesgada

03 · Método

Protocolo en 5 pasos

  1. 1
    Escribir el modelo P(x|θ).

    Bernoulli, Poisson, exponencial: sin modelo no hay L. El modelo se elige por el dato (conteo, espera, proporción).

  2. 2
    Formar ℓ(θ) = Σ log P.

    Con n grande trabajar en log evita underflow (productos ínfimos).

  3. 3
    Maximizar por grilla o derivada.

    En 1D la grilla fina basta y grafica la curva: el pico es el EMV y el ancho, la incerteza.

  4. 4
    Estimar EE por curvatura.

    EE ≈ 1/√(curvatura). Pico filoso = seguro; pico plano = dudoso (Fisher).

  5. 5
    Dar IC de Wald.

    θ̂ ± 2·EE ≈ 95%. Con n chico o p en bordes, usar Wilson/exacto en vez de Wald.

modelo→ℓ(θ)→pico + curva→Wald

04 · Lectura honesta

Curva, bordes y sesgos

Curva filosa

Mucho n, pico claro

El EMV se impone y el IC es angosto. Wald funciona y la normal asintótica vale.

Curva plana o borde

Poco n o p ≈ 0/1

Varios θ empatan o el pico toca el borde: Wald miente (sale de [0,1]). Usar Wilson o exacto.

L no es P(θ)
L(θ) no integra 1 ni es creencia sobre θ. Para eso hace falta prior (bayesiano): aquí solo ranking de θ.
Invarianza
EMV de g(θ) es g(θ̂). Estimar odds = p̂/(1−p̂) sale gratis del EMV de p.
Sesgo en n chico
El EMV de σ² con /n subestima. Con poco n corregir (Bessel /n−1) o informar el sesgo.

05 · Representación en Python

EMV de una moneda con grilla

Python en tu navegador. 7 caras en 10 tiros: ¿p̂ y su curva?

k, n = 7, 10
import math
def logL(p):
    return k*math.log(p) + (n-k)*math.log(1-p)

grilla = [round(0.05+0.05*i, 2) for i in range(19)]
mejor = max(grilla, key=logL)
print(f"EMV p̂ = {k}/{n} = {k/n:.2f} (pico en {mejor})")
for p in [0.3, 0.5, 0.7, 0.9]:
    print(f"p={p}: logL={logL(p):.2f}")
ee = math.sqrt(mejor*(1-mejor)/n)
print(f"EE ≈ {ee:.3f} -> IC95 Wald [{mejor-2*ee:.2f}, {mejor+2*ee:.2f}]")

El pico está en 0,70 con IC ≈ [0,41, 0,99]: con n=10 la incerteza es enorme aunque el pico sea claro.

Poisson: el EMV es la media

xs = [4, 6, 5, 7, 3, 5]
lam = sum(xs)/len(xs)
print(f"EMV λ̂ = media = {lam:.2f}")
print("Misma receta: L(λ), log, pico, curvatura")

06 · Exploración

Laboratorio: la curva que elige sola

La moneda real tiene p verdadero (verde). Tirás n veces (semilla fija) y observás k caras. La curva lima es L(p) normalizada; el punto naranja, tu EMV = k/n con banda de Wald ±2·EE. Achicá n y mirá cómo el pico se aplana.

EXPERIMENTO 19

EMV = k/n con incerteza

L(p) · pico = EMV · ancho = honestidad

Los resultados numéricos aparecen debajo.
k caras0
EMV p̂0,00
IC95 Wald—
¿Atrapa?—

Con n=40, el pico está cerca del verdadero y la banda lo atrapa.

Eje x: p de 0 a 1. Curva: verosimilitud relativa (pico = 1). Verde: verdad. Naranja + banda: tu estimación honesta.

Preguntas para explorar

  1. Con p=0,6 y n=40: ¿k, p̂ e IC? ¿Atrapa al verdadero?
  2. Bajá a n=10: ¿ancho del IC y forma del pico? ¿El punto sigue valiendo lo mismo?
  3. Subí a n=200: ¿pico y banda? ¿Qué le pasa a la diferencia entre EMV y verdad?
Ver respuestas sugeridas
  1. k ≈ 24, p̂ ≈ 0,60, IC ≈ ±0,15: atrapa. La curva es redondeada pero con pico visible.
  2. IC ≈ ±0,30 y pico chato: el punto baila mucho entre muestras. Vale menos aunque la regla sea la misma: la honestidad está en el ancho.
  3. Pico aguja sobre la verdad y banda ±0,07: consistencia en acción. Más n, menos baile.

07 · Comprensión

Confusiones frecuentes

«L alta = θ probable»

L ordena θ por compatibilidad con los datos, no da P(θ). Sin prior no hay probabilidad del parámetro.

«EMV siempre insesgado»

Solo asintóticamente. Con poco n hay sesgo (σ² con /n). Informarlo o corregirlo.

«Wald vale siempre»

Con n chico o p en bordes sale de [0,1] o cubre mal. Ahí Wilson o exacto (Clopper-Pearson).

«Pico agudo = modelo correcto»

Agudo = preciso, no = verdadero. Con modelo falso, precisión alrededor del θ equivocado.

08 · Práctica guiada

Ejercicios con Python

Ejercicio 1: EMV a ojo y con grilla

9 éxitos en 12. ¿p̂ y logL en 0,5 vs. 0,75?

import math
k, n = 9, 12
print("p̂ =", k/n)
for p in [0.5, 0.75]:
    print(p, round(k*math.log(p)+(n-k)*math.log(1-p), 2))
Ver solución razonada

p̂ = 0,75 con logL −6,91 vs. −8,32 en 0,5: el pico está en 0,75 por 1,4 nats. La grilla lo confirma sin derivar.

Ejercicio 2: Wald en el borde

10/10 éxitos. ¿Qué pasa con Wald?

p, n = 1.0, 10
import math
ee = math.sqrt(p*(1-p)/n)
print(f"EE={ee:.3f} IC=[{p-2*ee:.2f}, {p+2*ee:.2f}] (degenerado: usar Wilson)")
Ver solución

EE = 0 e IC = [1, 1]: absurdo. Con 10/10 la incerteza no es cero; Wilson da ≈ [0,72, 1,00]. Wald colapsa en bordes.

Ejercicio 3: invarianza gratis

Si p̂ = 0,6, ¿EMV de odds p/(1−p)?

Ver una posible respuesta
p = 0.6
print("oddŝ =", round(p/(1-p), 2), "(g(p̂) sin reoptimizar)")

1,50: la invarianza regala el EMV transformado. El IC se transforma con delta o se recalcula en la escala nueva.

09 · Síntesis

Ideas para recordar

  • θ̂ = argmax L: el θ que vuelve lo observado menos sorprendente.
  • ℓ en log, grilla en 1D, pico + curva siempre graficados.
  • Ancho = honestidad (Fisher); Wald θ̂ ± 2·EE con n suficiente y lejos de bordes.
  • L no es P(θ); modelo falso + MV = precisión alrededor del error.
  • Bernoulli p̂ = k/n, Poisson λ̂ = media: la misma receta general.

En el próximo bloque mediremos el error: absoluto, relativo y cuadrático medio.