A inferencia estatística é o procedemento que emprega a análise de datos para inferir as propiedades unha distribución de probabilidade subxacente aos mesmos. Desta forma, infírense propiedades dunha poboación, por exemplo, probando hipóteses ou realizando estimacións. Normalmente, o conxunto de datos observado correspóndese cunha mostra dunha poboación máis grande.

A inferencia estatística contraponse coa estatística descritiva. A estatística descritiva céntrase unicamente nas propiedades dos datos observados e non se basean na suposición de que os datos proceden dunha poboación máis grande. En aprendizaxe automática, o termo inferencia ás veces úsase no sentido de "facer unha predición, avaliando un modelo xa adestrado";} neste contexto, a inferencia das propiedades do modelo denomínase adestramento ou aprendizaxe (en lugar de inferencia), e o uso dun modelo para a predición denomínase inferencia (en lugar de predición); véxase tamén inferencia preditiva.

Introdución A inferencia estatística fai proposicións sobre unha poboación, empregando datos extraídos da poboación con algunha forma de mostraxe. Dada unha hipótese sobre unha poboación, para a que desexamos extraer inferencias, a inferencia estatística consiste en (primeiro) seleccionar un modelo estatístico do proceso que xera os datos e (segundo) deducir proposicións a partir do modelo.

Konishi e Kitagawa afirman que "a maioría dos problemas na inferencia estatística pódense considerar problemas relacionados coa modelaxe estatística". De xeito similar, David Cox dixo: "A forma en que se realiza a tradución dun problema temático a un modelo estatístico adoita ser a parte máis crítica dunha análise".

A consecuencia dunha inferencia estatística é unha proposición estatística. Algunhas formas comúns de proposicións estatísticas son as seguintes:

Unha estimación puntual, é dicir, un valor particular que é o que mellor se aproxima a algún parámetro de interese. Unha estimación dada por un intervalo, por exemplo, un intervalo de confianza. Un intervalo de confianza é un intervalo construído empregando datos dunha mostra, de tal xeito que se o procedemento se repetise en moitas mostras independentes (matematicamente, tomando o límite), unha proporción fixa (por exemplo, o 95%) dos intervalos resultantes contería o valor real do parámetro, é dicir, o parámetro da poboación. Un intervalo crible, é dicir, un conxunto de valores que conteñen, por exemplo, o 95% da crenza posterior. Rexeitamento dunha hipótese. Agrupación en clústeres ou clasificación dos datos en grupos.

Modelos e suposicións Calquera inferencia estatística require dalgunhas suposicións. Un modelo estatístico é un conxunto de suposicións relativas á xeración dos datos observados. As descricións dos modelos estatísticos adoitan centrarse no papel das características da poboación de interese, sobre as que desexamos extraer inferencias. As estatísticas descritivas úsanse normalmente como paso preliminar antes de extraer inferencias máis formais.

Modelos segundo as súas suposicións Distínguense tres tipoloxías de modelos en función da natureza das súas hipóteses:

Totalmente paramétrico. As distribucións de probabilidade que describen o proceso de xeración dos datos asúmense que están completamente descritas por unha familia de distribucións de probabilidade que implican só un número finito de parámetros descoñecidos. Por exemplo, pódese asumir que a distribución poboacional é normal, con media e varianza descoñecidas, e que os conxuntos de datos se xeran mediante mostraxe aleatoria simple. A familia dos modelos lineais xeneralizados é unha clase amplamente empregada e flexible de modelos paramétricos.

Non paramétricos. As suposicións feitas sobre o proceso de xeración dos datos son moito menores que nas estatísticas paramétricas, podendo chegar a ser mínimas. Por exemplo, cada distribución de probabilidade continua ten unha mediana, que se pode estimar empregando a mediana mostral ou o estimador de Hodges-Lehmann, que ten boas propiedades cando os datos proveñen dunha mostraxe aleatoria simple. Semiparamétrico. Este termo normalmente implica suposicións 'intermedias' entre os enfoques totalmente paramétricos e os non paramétricos. Por exemplo, pódese asumir que unha distribución da poboación ten unha media finita. Ademais, pódese supor que o nivel medio de resposta na poboación depende dun xeito verdadeiramente lineal dalgunha covariable (unha suposición paramétrica) pero non facer ningunha suposición paramétrica que describa a varianza arredor desa media (é dicir, sobre a presenza ou posible forma de calquera heteroscedasticidade). De xeito máis xeral, os modelos semiparamétricos adoitan separarse en compoñentes "estruturais" e de "variación aleatoria". Un compoñente trátase parametricamente e o outro non parametricamente. O coñecido modelo de Cox é un conxunto de suposicións semiparamétricas.

Importancia da validación dos modelos

miniatura|A imaxe superior mostra un histograma que avalía a suposición de normalidade, que se pode ilustrar a través da dispersión uniforme baixo a curva de campá. Sexa cal sexa o tipo de modelo que se considere, a inferencia calibrada correctamente, en xeral, require que as suposicións realizadas sexan correctas; é dicir, que os mecanismos de xeración de datos realmente se especificasen correctamente.

As suposicións incorrectas de mostraxe aleatoria simple poden invalidar os resultados da inferencia estatística. Así mesmo, suposicións semiparamétricas e totalmente paramétricas máis complexas tamén son motivo de preocupación. Por exemplo, supoñer incorrectamente o modelo de Cox pode, nalgúns casos, levar a conclusións erróneas. As suposicións incorrectas de normalidade na poboación tamén invalidan algunhas formas de inferencia baseada na regresión.

O uso de calquera modelo paramétrico é visto con escepticismo pola maioría dos expertos en mostraxe de poboacións humanas: "a maioría dos estatísticos de mostraxe, cando tratan con intervalos de confianza, limítanse a afirmacións sobre estimadores baseadas en mostras moi grandes, onde o teorema do central do límite garante que estes estimadores terán distribucións case normais". En particular, unha distribución normal "sería unha suposición totalmente irreal e catastroficamente imprudente se estivésemos a tratar con calquera tipo de poboación económica". Aquí, o teorema do límite central afirma que a distribución da media mostral "para moi mostras grandes" ten unha distribución aproximadamente normal, se a distribución non ten cola pesada.

Distribucións aproximadas Dada a dificultade para especificar distribucións exactas das estatísticas mostrais, desenvolvéronse múltiples métodos para aproximalas.

Para mostras finitas, existe resultados da teoría da aproximación que miden o preto que se achega unha distribución límite á distribución mostral da estatística. Por exemplo, con 10.000 mostras independentes, a distribución normal aproxima (con dous díxitos de precisión) a distribución da media mostral para moitas distribucións de poboación, mediante o teorema de Berry-Esseen. Con todo, para moitos fins prácticos, a aproximación por unha normal proporciona unha boa aproximación á distribución da media mostral cando hai 10 (ou máis) mostras independentes.

Seguindo o traballo de Kolmogorov na década de 1950, a estatística avanzada emprega a teoría da aproximación e a análise funcional para cuantificar o erro de aproximación. Nesta abordaxe, estúdase a xeometría métrica das distribucións de probabilidade; este enfoque cuantifica o erro de aproximación con, por exemplo, a diverxencia de Kullback-Leibler, a diverxencia de Bregman ou a distancia de Hellinger.

Con mostras indefinidamente grandes, os resultados límite como o teorema central do límite describen a distribución límite do estatístico mostral, se existe algunha. Os resultados límite non son afirmacións sobre mostras finitas e, de feito, son irrelevantes para as mesmas. Non obstante, a teoría asintótica das distribucións límite adoita empregarse para traballar con mostras finitas. Por exemplo, os resultados límite empréganse para xustificar o método xeneralizado dos momentos e o uso de ecuacións de estimación xeneralizadas, que son de uso habitual en econometría e bioestatística. A magnitude da diferenza entre a distribución límite e a distribución verdadeira (formalmente, o "erro" da aproximación) pódese avaliar mediante simulacións.

Paradigmas da inferencia Ao longo do tempo establecéronse diferentes escolas da inferencia estatística. Estas escolas (ou "paradigmas") non son mutuamente excluíntes e os métodos que funcionan ben baixo un paradigma adoitan ter interpretacións atractivas baixo outros paradigmas.

Bandyopadhyay e Forster describen catro paradigmas: o paradigma clásico (ou frecuentista), o paradigma bayesiano, o paradigma da verosimilitude e o paradigma baseado no criterio de información de Akaike.

Inferencia frecuentista Este paradigma calibra a plausibilidade das proposicións considerando a mostraxe repetida dunha distribución da poboación para producir conxuntos de datos similares. Ao considerar as características do conxunto de datos baixo mostraxe repetida, pódense cuantificar as propiedades frecuentistas dunha proposición estatística, aínda que na práctica esta cuantificación pode ser complexa.

Exemplos de inferencia frecuentista

p-valor Intervalo de confianza Probas de significación da hipótese nula

Inferencia frecuentista, obxectividade e teoría da decisión Unha interpretación da inferencia frecuentista (ou inferencia clásica) é que só é aplicable en termos da probabilidade frecuentista; é dicir, en termos da mostraxe repetida dunha poboación. Non obstante, o enfoque de Neyman desenvolve estes procedementos en termos de probabilidades previas ao experimento.

Pola contra, a inferencia bayesiana funciona en termos de probabilidades condicionais (é dicir, probabilidades condicionadas aos datos observados), en comparación coas probabilidades marxinais (pero condicionadas a parámetros descoñecidos) utilizadas na abordaxe frecuentista.

Aínda que os estatísticos que empregan a inferencia frecuentista deben escoller por si mesmos os parámetros de interese e os estimadores que se van a empregar, a ausencia de utilidades obviamente explícitas e distribucións previas axudou a que os procedementos frecuentistas sexan amplamente vistos como "obxectivos".

Inferencia bayesiana O cálculo bayesiano describe os graos de crenza ou convicción empregando a "linguaxe" da probabilidade; as crenzas son positivas, integran un e obedecen aos axiomas da probabilidade. A inferencia bayesiana emprega as crenzas posteriores dispoñibles como base para formular proposicións estatísticas.

Exemplos de inferencia bayesiana

Intervalo crible para estimación do intervalo Factor de Bayes para comparación de modelos

Inferencia bayesiana, subxectividade e teoría da decisión Moitas inferencias bayesianas informais baséanse en resumos "intuitivamente razoables" da función posterior. Por exemplo, a media, a mediana e a moda posteriores, os intervalos de densidade posterior máis altos e os factores de Bayes poden motivarse deste xeito.