Inferencia estadística · Ejercicios del parcial 1
Cada ejercicio se resuelve paso a paso. Avanza con →, vuelve aquí con la tecla I, y pasa el cursor sobre los símbolos para ver qué significan.
Sea \(\{Y_n\}_{n \in \mathbb{N}}\) una sucesión de variables aleatorias con \(\D{Yn}{Y_n} \sim \D{bin}{\text{bin}(n, \alpha)}\). Muestre que \(\D{cp}{\dfrac{Y_n}{n} \xrightarrow{p} \alpha}\).
Recordatorio · Convergencia en probabilidad
\(W_n \xrightarrow{p} c\) significa que, para cualquier distancia \(\D{eps}{\varepsilon} \gt 0\) que fijemos,
En palabras: la probabilidad de que \(W_n\) quede lejos de \(c\) se hace cada vez más pequeña.
Qué significa aquí. \(Y_n/n\) es la proporción de éxitos en \(n\) ensayos. Hay que mostrar que se acerca a la probabilidad de éxito \(\alpha\).
La herramienta
Teorema · Desigualdad de Chebyshev
Si \(W\) tiene media \(E[W]\) y varianza finita, para todo \(\varepsilon \gt 0\):
Receta. Para probar \(W_n \xrightarrow{p} c\) basta con:
Entonces la cota \(\text{Var}(W_n)/\varepsilon^2\) tiende a \(0\), y la probabilidad, que está entre \(0\) y esa cota, también.
Aplicar la receta
Recordatorio · Binomial y constantes
Si \(Y \sim \text{bin}(n, \alpha)\): \(E[Y] = n\alpha\) y \(\text{Var}(Y) = n\alpha(1-\alpha)\). Además \(E[cY] = c\,E[Y]\) y \(\text{Var}(cY) = c^2\,\text{Var}(Y)\).
Chebyshev con \(W = Y_n/n\):
Sea \(\{Y_n\}_{n \in \mathbb{N}}\) una sucesión de variables aleatorias con \(\D{E}{E[Y_n]} = \D{mu}{\mu}\) y \(\D{Var}{\text{Var}[Y_n]} = \dfrac{3}{n^3}\). Muestre que \(\D{cp}{Y_n \xrightarrow{p} \mu}\).
Teorema · Desigualdad de Chebyshev
Es la misma receta del ejercicio 1: la media ya es \(\mu\), y la varianza \(3/n^3\) tiende a \(0\).
Aplicar Chebyshev
Fijamos cualquier \(\varepsilon \gt 0\) y usamos \(W = Y_n\):
Como \(\varepsilon\) está fijo y \(n^3 \to \infty\), la fracción tiende a \(0\). La probabilidad queda atrapada entre \(0\) y algo que tiende a \(0\):
Sea \(X_1, \dots, X_n\) una muestra aleatoria de una \(\text{Uniforme}[0, \D{theta}{\theta}]\). Muestre que \(\D{xmin}{X_{(1)}} \xrightarrow{p} 0\) y \(\D{xmax}{X_{(n)}} \xrightarrow{p} \theta\).
Intuición. Con muchos datos, el más pequeño queda pegado a \(0\) y el más grande queda pegado a \(\theta\).
Recordatorio · Mínimo y máximo
Con \(F(x) = x/\theta\) y observaciones independientes:
El mínimo pasa de \(x\) si todas pasan de \(x\); el máximo no pasa de \(x\) si ninguna pasa de \(x\).
Recordatorio · Potencias
Si \(0 \le r \lt 1\), entonces \(r^n \to 0\) cuando \(n \to \infty\).
Parte 1
Fijamos \(\varepsilon\) con \(0 \lt \varepsilon \lt \theta\). (Si \(\varepsilon \ge \theta\), la probabilidad ya es \(0\), porque \(X_{(1)} \le \theta\).)
Como \(X_{(1)} \ge 0\), estar lejos de \(0\) significa ser grande: \(|X_{(1)} - 0| \ge \varepsilon\) es lo mismo que \(X_{(1)} \ge \varepsilon\).
El número \(r = 1 - \varepsilon/\theta\) está entre \(0\) y \(1\), así que \(r^n \to 0\).
Parte 2
Como \(X_{(n)} \le \theta\), estar lejos de \(\theta\) significa quedarse corto: \(|X_{(n)} - \theta| \ge \varepsilon\) es lo mismo que \(X_{(n)} \le \theta - \varepsilon\).
Otra vez \(r = (\theta - \varepsilon)/\theta\) está entre \(0\) y \(1\), así que \(r^n \to 0\).
Por eso \(X_{(n)}\) es un buen estimador de \(\theta\): con muchos datos queda muy cerca del verdadero valor.
Sea \(\{X_n\}_{n \in \mathbb{N}}\) una sucesión de variables aleatorias con \(\D{Xn}{X_n} \sim \D{gam}{\Gamma\bigl(n, \tfrac1n\bigr)}\). Muestre que \(\D{cp}{X_n \xrightarrow{p} 1}\).
Recordatorio · Distribución gamma
Si \(X \sim \Gamma(\alpha, \beta)\), con forma \(\alpha\) y escala \(\beta\):
Aquí \(\alpha = n\) y \(\beta = \tfrac1n\). (Tomamos el segundo parámetro como escala: con la otra convención la media sería \(n^2\) y no podría acercarse a \(1\).)
Aplicar Chebyshev
Teorema · Desigualdad de Chebyshev
Sea \(X_1, \dots, X_n\) una muestra aleatoria de una \(\text{Uniforme}[0, \D{lam}{\lambda}]\) y sea \(\D{Zn}{Z_n = n\bigl(\lambda - X_{(n)}\bigr)}\). Muestre que \(Z_n\) converge en distribución y halle la distribución límite.
Recordatorio · Convergencia en distribución
\(Z_n \xrightarrow{d} Z\) significa que las funciones de distribución se acercan:
Receta. Calcular \(P(Z_n \le z)\) para cada \(n\), tomar el límite, y reconocer qué distribución es.
Intuición. \(\lambda - X_{(n)}\) es lo que le falta al máximo para llegar a \(\lambda\). Es muy pequeño, del orden de \(1/n\); multiplicar por \(n\) lo "amplía" para ver su forma.
Paso 1
\(Z_n \ge 0\) siempre, así que \(P(Z_n \le z) = 0\) si \(z \lt 0\). Para \(z \ge 0\) (y \(n\) grande, de modo que \(z/n \lt \lambda\)):
El máximo es menor que un valor si todas lo son, y \(F(x) = x/\lambda\):
Paso 2
Límite clave
Con \(c = -z/\lambda\):
Esa es la función de distribución de una exponencial con media \(\lambda\) (densidad \(\tfrac1\lambda e^{-z/\lambda}\)). Para \(z \lt 0\) el límite es \(0\), igual que en la exponencial.
Sea \(X_1, \dots, X_n\) una muestra aleatoria de una distribución con densidad \(\D{f}{f(x) = e^{-(x-\theta)}}\), \(x \gt \D{theta}{\theta}\), \(\theta \gt 0\). Sea \(\D{Zn}{Z_n = n\bigl(X_{(1)} - \theta\bigr)}\). Halle la distribución límite de \(Z_n\).
Receta. Igual que en el ejercicio 5: calcular \(P(Z_n \le z)\) y tomar el límite.
Recordatorio · Del capítulo 1, ejercicio 6
Para esta densidad, \(P(X_i \gt x) = e^{-(x-\theta)}\), y para el mínimo (todas deben pasar de \(x\)):
El cálculo
\(Z_n \ge 0\) porque \(X_{(1)} \gt \theta\). Para \(z \gt 0\):
La \(n\) se cancela: \(Z_n\) tiene exactamente la misma distribución para todo \(n\). Así que el límite es esa misma distribución.
Sea \(X_1, \dots, X_{50}\) una muestra aleatoria con densidad \(\D{f}{f(x) = 3x^2}\), \(0 \lt x \lt 1\). Si \(\D{xbar}{\bar X_{50}}\) es la media muestral, calcule aproximadamente \(\D{P}{P}\bigl(\tfrac{5}{11} \lt \bar X_{50} \lt \tfrac{6}{11}\bigr)\).
Idea. "Aproximadamente" con una media muestral casi siempre significa: usar el teorema del límite central.
Teorema del límite central
Si \(X_1, \dots, X_n\) son independientes, con la misma distribución, media \(\D{mu}{\mu}\) y varianza \(\D{sigma2}{\sigma^2}\) finita, entonces
En la práctica: para \(n\) grande, \(\bar X_n\) es aproximadamente normal con media \(\mu\) y varianza \(\sigma^2/n\).
Paso 1
Se integran contra la densidad: \(E[X] = \int x f(x)\,dx\) y \(E[X^2] = \int x^2 f(x)\,dx\).
Para la media de \(50\) observaciones:
Paso 2
Restamos la media y dividimos por la desviación en los dos extremos: \(\tfrac{5}{11} \approx 0.4545\) y \(\tfrac{6}{11} \approx 0.5455\).
¿Por qué da prácticamente cero? La media de la población es \(0.75\) y el intervalo \((0.45,\ 0.55)\) está a más de \(7\) desviaciones por debajo. Con \(50\) datos, el promedio casi nunca se aleja tanto de \(0.75\).
El procedimiento es el mismo para cualquier intervalo: calcular \(\mu\) y \(\sigma^2\), estandarizar, y leer \(\Phi\) en la tabla.
Sea \(X_1, X_2, \dots\) una sucesión de variables independientes con \(X_n \sim \D{ber}{\text{Ber}(p)}\). Sea \(\D{Yn}{Y_n = \frac1n \sum_{i=1}^n X_i}\). Muestre que
Qué es \(Y_n\). Cada \(X_i\) vale \(1\) (éxito) o \(0\) (fracaso). Entonces \(Y_n\) es la proporción de éxitos: es la media muestral \(\bar X_n\).
Idea. Es exactamente el teorema del límite central aplicado a variables de Bernoulli. Solo hay que revisar las hipótesis y calcular \(\mu\) y \(\sigma^2\).
Aplicar el teorema
Teorema del límite central
Si las \(X_i\) son independientes, idénticamente distribuidas, con media \(\mu\) y varianza \(\sigma^2 \lt \infty\):
Sustituyendo \(\bar X_n = Y_n\), \(\mu = p\) y \(\sigma = \sqrt{p(1-p)}\) en el teorema:
Sea \(X_1, X_2, \dots\) una sucesión de variables independientes con densidad \(\D{f}{f(x) = \alpha x^{-\alpha-1}}\), \(x \gt 1\), \(\alpha \gt 0\). Sea \(\D{Yn}{Y_n = \dfrac{X_{(n)}}{n^{1/\alpha}}}\). Muestre que \(Y_n\) converge en distribución y halle el límite.
Receta. Como en los ejercicios 5 y 6: calcular \(P(Y_n \le y)\) y tomar el límite.
Primero la función de distribución de una observación:
Paso 1
El máximo no pasa de un valor si ninguna observación pasa de él: \(P(X_{(n)} \le x) = F(x)^n\).
Fijamos \(y \gt 0\). Para \(n\) grande, \(y\,n^{1/\alpha} \gt 1\) y podemos usar \(F\):
Como \(\bigl(n^{1/\alpha}\bigr)^{-\alpha} = n^{-1} = \frac1n\):
Si \(y \le 0\), \(P(Y_n \le y) = 0\), porque \(Y_n \gt 0\).
Paso 2
Límite clave
Con \(c = -y^{-\alpha}\):
\(G\) es una función de distribución: crece de \(0\) (cuando \(y \to 0^+\)) a \(1\) (cuando \(y \to \infty\)) y es continua. Se llama distribución de Fréchet, con densidad \(\alpha y^{-\alpha-1} e^{-y^{-\alpha}}\).
Sea \(X_1, X_2, \dots\) una sucesión de variables independientes con \(X_n \sim \D{bin}{\text{bin}\bigl(n, \tfrac{\lambda}{n}\bigr)}\), con \(\lambda\) constante. Muestre que \(\D{cd}{X_n \xrightarrow{d} \D{poi}{p(\lambda)}}\).
Intuición. Muchos ensayos (\(n\)), cada uno con probabilidad de éxito muy pequeña (\(\lambda/n\)), con un número esperado de éxitos fijo, \(n \cdot \lambda/n = \lambda\). Así se cuentan eventos raros.
Criterio para variables con valores enteros
Si \(X_n\) y \(X\) toman valores en \(\{0, 1, 2, \dots\}\) y \(P(X_n = k) \to P(X = k)\) para cada \(k\), entonces \(X_n \xrightarrow{d} X\).
Hay que mostrar que la probabilidad binomial de cada \(k\) tiende a la de Poisson: \(\D{poi}{P(X = k) = e^{-\lambda}\dfrac{\lambda^k}{k!}}\).
Paso 1
Fijamos \(k\) y escribimos \(P(X_n = k)\) con \(p = \lambda/n\):
Usamos \(\binom nk = \frac{n(n-1)\cdots(n-k+1)}{k!}\) y reordenamos:
Paso 2
Esto vale para cada \(k = 0, 1, 2, \dots\). Por el criterio para variables enteras:
Sea \(X_1, \dots, X_n\) una muestra aleatoria de una \(\D{poi}{p(\lambda)}\) y \(\D{xbar}{\bar X_n}\) la media muestral. Muestre que
Idea. Si el denominador fuera \(\sqrt{\lambda/n}\), sería directamente el límite central (la Poisson tiene varianza \(\lambda\)). Pero aparece \(\bar X_n\) en lugar de \(\lambda\).
El plan: escribir la expresión como (límite central) \(\times\) (algo que tiende a \(1\)), y usar el teorema de Slutsky.
Pasos 1 y 2
Para la Poisson, \(E[X_i] = \lambda\) y \(\text{Var}(X_i) = \lambda\).
Pieza 1 · Teorema del límite central
Pieza 2 · Ley débil de los grandes números
\(\bar X_n \xrightarrow{p} \lambda\). Si \(g\) es continua en \(\lambda\), entonces \(g(\bar X_n) \xrightarrow{p} g(\lambda)\). Con \(g(x) = \sqrt{\lambda / x}\):
Paso 3
La expresión del enunciado es exactamente \(A_n \cdot B_n\):
Teorema de Slutsky
Si \(A_n \xrightarrow{d} A\) y \(B_n \xrightarrow{p} c\) (una constante), entonces \(A_n B_n \xrightarrow{d} cA\).
Detalle: \(\bar X_n = 0\) tiene probabilidad \(e^{-n\lambda} \to 0\), así que ese caso no afecta el límite.
Considere el espacio de probabilidad \(([0,1], \mathcal B[0,1], P)\), con \(P\) la distribución uniforme en \([0,1]\). Sea \(\D{Xn}{X_n = I_{[0, 1/n]}(\cdot)}\). Muestre que \(\D{cas}{X_n \xrightarrow{a.s.} 0}\).
Recordatorio · Qué es cada cosa
Un resultado del experimento es un número \(\omega \in [0,1]\), escogido al azar. La probabilidad de un intervalo es su longitud.
\(X_n(\omega) = 1\) si \(\omega \in [0, 1/n]\), y \(X_n(\omega) = 0\) si no. Es una función indicadora.
Recordatorio · Convergencia casi segura
\(X_n \xrightarrow{a.s.} 0\) significa que el conjunto de los \(\omega\) donde la sucesión de números \(X_1(\omega), X_2(\omega), \dots\) tiende a \(0\) tiene probabilidad \(1\):
Paso 1
Con \(\omega\) fijo, \(X_1(\omega), X_2(\omega), \dots\) es una sucesión de números (ceros y unos). Miramos hacia dónde va.
Ejemplo con \(\omega = 0.3\). Los intervalos \([0,1], [0,\tfrac12], [0,\tfrac13]\) contienen a \(0.3\); desde \([0, \tfrac14]\) ya no:
En general. Si \(\omega \gt 0\), para todo \(n \gt 1/\omega\) se cumple \(1/n \lt \omega\), así que \(\omega \notin [0, 1/n]\) y \(X_n(\omega) = 0\).
Paso 2
El \(0\) está en todos los intervalos \([0, 1/n]\), así que \(X_n(0) = 1\) para todo \(n\). Ahí la sucesión no tiende a \(0\).
Pero un solo punto tiene longitud \(0\), y en este espacio la probabilidad es la longitud: \(P(\{0\}) = 0\).
"Casi segura" quiere decir justamente esto: la convergencia puede fallar, pero solo en un conjunto de probabilidad cero.
Dos monedas no cargadas se lanzan \(n\) veces. Sea \(\D{Xn}{X_n}\) el número de lanzamientos (de los \(n\)) en que no sale ninguna cara. Encuentre el menor \(n\) tal que
Un lanzamiento. "No sale cara" en las dos monedas es sacar sello y sello: probabilidad \(\tfrac12 \cdot \tfrac12 = \tfrac14\).
Los \(n\) lanzamientos son independientes, así que \(X_n\) cuenta éxitos con probabilidad \(\tfrac14\):
Paso 1
\(X_n/n\) es una proporción de éxitos (una media de Bernoullis), así que por el límite central es aproximadamente normal:
El intervalo \([0.2,\ 0.3]\) es \(0.25 \pm 0.05\): simétrico alrededor de la media. Estandarizando:
Paso 2
Queremos \(2\Phi(c) - 1 \ge 0.954\), es decir \(\Phi(c) \ge 0.977\). La tabla normal da \(\Phi(2) \approx 0.977\), así que necesitamos \(c \ge 2\).
El número \(0.954\) del enunciado es justamente \(P(|N(0,1)| \le 2)\): la regla de "dos desviaciones estándar".
Sea \(X_1, \dots, X_{72}\) una muestra aleatoria con densidad \(\D{f}{f(x) = \dfrac{1}{x^2}}\), \(x \gt 1\). Calcule aproximadamente la probabilidad de que más de \(50\) ítems de la muestra sean superiores a \(3\).
Idea. Cada observación es un ensayo: "éxito" si pasa de \(3\). Contamos cuántos éxitos hay entre las \(72\).
La probabilidad de éxito sale de la densidad:
Aproximación normal
\(N\) es una suma de \(72\) Bernoullis independientes, así que es aproximadamente normal:
Corrección por continuidad. \(N\) solo toma valores enteros, y "más de \(50\)" es "\(51\) o más". Al pasar a la normal, cortamos en el punto medio, \(50.5\):
Se esperan unos \(24\) valores por encima de \(3\). Que haya más de \(50\) está a más de \(6\) desviaciones de lo esperado: en la práctica, imposible.
Nota
Una versión conocida de este ejercicio (en el libro de Hogg, McKean y Craig) pregunta por observaciones "menores que \(3\)". Con esa lectura el procedimiento es idéntico, solo cambia \(p\):
Vale la pena confirmar con el profesor cuál de las dos versiones pide.