3 - Estatística Bayesiana
A estatística bayesiana é uma abordagem estatística que se baseia no Teorema de Bayes para fazer inferências sobre parâmetros desconhecidos ou realizar previsões, levando em consideração a probabilidade de um evento ocorrer.
Ou seja, a probabilidade de um evento ocorrer é atualizada à medida que novas evidências são coletadas.
Ao contrário da abordagem frequentista tradicional, que trata os parâmetros como fixos e desconhecidos, a estatística bayesiana expressa incerteza em termos de distribuições de probabilidade.
A estatística bayesiana começa com a especificação de uma distribuição de probabilidade inicial, conhecida como priori (probabilidade anterior), que representa o conhecimento ou crenças prévias sobre o parâmetro desconhecido.
Essa distribuição inicial pode ser baseada em informações históricas, conhecimento especializado ou até mesmo opiniões subjetivas.
Em seguida, com base nos dados observados, é calculada a distribuição de probabilidade posterior, que representa a atualização das crenças sobre o parâmetro desconhecido.
O Teorema de Bayes é fundamental para a estatística bayesiana, pois descreve como a distribuição de probabilidade posterior pode ser obtida a partir da distribuição priori e da verossimilhança dos dados.
A distribuição posterior é proporcional ao produto da distribuição priori e da verossimilhança dos dados.
Em termos matemáticos, isso pode ser expresso da seguinte forma:
- $P(θ|X)$ = $\frac{(P(X|θ)P(θ))}{P(X)}$
onde:
- $P(θ|X)$ é a distribuição posterior do parâmetro θ dado os dados X
- $P(X|θ)$ é a verossimilhança dos dados X dado o parâmetro θ
- $P(θ)$ é a distribuição priori do parâmetro θ
- $P(X)$ é a probabilidade dos dados X
A distribuição posterior fornece uma estimativa atualizada da incerteza sobre o parâmetro desconhecido, levando em consideração tanto as informações prévias quanto as evidências dos dados observados.
Essa distribuição posterior pode ser usada para fazer inferências sobre o parâmetro, como estimativas pontuais, intervalos de confiança e previsões.
Uma das vantagens da estatística bayesiana é a flexibilidade para incorporar informações prévias e atualizá-las à medida que mais dados são coletados.
Além disso, a abordagem bayesiana permite a inclusão de informações subjetivas, tornando-se útil em situações em que o conhecimento especializado é relevante.
No entanto, a estatística bayesiana também apresenta desafios.
A escolha da distribuição priori pode ser um desafio em si, pois ela influencia fortemente a distribuição posterior resultante.
Além disso, a estimação da distribuição posterior pode exigir cálculos complexos, especialmente para modelos estatísticos mais complicados.
No geral, a estatística bayesiana é uma abordagem poderosa que permite atualizar as estimativas e fazer inferências sobre parâmetros desconhecidos com base em informações prévias e evidências dos dados observados.
Ela encontra aplicação em diversas áreas, incluindo medicina, ciências sociais, finanças e ciência de dados.
3.1 - Computação Bayesiana na Ciência da Estatística
3.2 - Exemplos
A seguir são apresentados exemplos usando a biblioteca pymc3 para:
- Cálculo de estimativas bayesianas
- Cálculo de intervalos de credibilidade
- Testes de hipóteses bayesianos
- Modelagem de incertezas
- Previsão e tomada de decisões
Para instalar o PyMC3, você pode usar o gerenciador de pacotes pip:
pip install pymc33.2.1 - Cálculo de estimativas bayesianas
3.2.2 - Cálculo de intervalos de credibilidade
3.2.3 - Testes de hipóteses bayesianos
3.2.4 - Modelagem de incertezas
Neste exemplo, estamos realizando a modelagem de incertezas em um modelo de regressão linear simples.
Temos um conjunto de dados observados x e y, onde y é uma função linear de x com ruído adicional.
Utilizamos distribuições normais como prioris para os parâmetros intercepto e inclinacao do modelo linear.
A verossimilhança é modelada como uma distribuição normal com média igual à soma do intercepto e da inclinação, multiplicada por x, e desvio padrão igual a 1.
Após a amostragem da distribuição a posteriori usando MCMC, obtemos amostras dos parâmetros intercepto e inclinacao.
Em seguida, podemos visualizar as incertezas modeladas, plotando várias linhas de regressão geradas a partir das amostras dos parâmetros.
import pymc3 as pm
import numpy as np
import matplotlib.pyplot as plt
# Dados observados
x = np.array([1, 2, 3, 4, 5])
y = np.array([2, 4, 6, 8, 10]) + np.random.normal(0, 1, 5)
# Modelo bayesiano
with pm.Model() as model:
# Priori sobre os parâmetros
intercepto = pm.Normal('intercepto', mu=0, sd=10)
inclinacao = pm.Normal('inclinacao', mu=0, sd=10)
# Verossimilhança linear
verossimilhanca = pm.Normal('verossimilhanca', mu=intercepto + inclinacao * x, sd=1, observed=y)
# Amostragem da distribuição posterior usando MCMC
trace = pm.sample(1000, tune=1000)
# Amostras dos parâmetros
samples_intercept = trace['intercepto']
samples_slope = trace['inclinacao']
# Plot dos resultados
plt.scatter(x, y, label='Dados Observados')
for i in range(100):
plt.plot(x, samples_intercept[i] + samples_slope[i] * x, color='gray', alpha=0.1)
plt.xlabel('x')
plt.ylabel('y')
plt.title('Modelagem de Incertezas')
plt.legend()
plt.show()Resultado:
O gráfico resultante mostra os dados observados (pontos) juntamente com várias linhas de regressão (linhas cinzas) que representam a incerteza nas estimativas dos parâmetros.
Essa abordagem permite visualizar a variabilidade nas estimativas e a incerteza associada ao modelo.
3.2.5 - Previsão e tomada de decisões
Neste exemplo, estamos realizando a previsão e tomada de decisões usando um modelo de regressão linear simples.
Temos um conjunto de dados observados x e y, onde y é uma função linear de x com ruído adicional.
Após a construção do modelo bayesiano e a amostragem da distribuição a posteriori usando MCMC, realizamos a previsão para novos dados representados por novo_x.
Utilizamos a distribuição normal para modelar a verossimilhança dos dados previstos, com os parâmetros intercepto e inclinacao obtidos a partir do modelo.
Em seguida, realizamos amostragem da distribuição posterior preditiva usando a função pm.sample_posterior_predictive() do PyMC3.
Isso nos fornece amostras dos dados previstos, permitindo calcular medidas estatísticas, como a média e intervalos de credibilidade.
import pymc3 as pm
import numpy as np
import matplotlib.pyplot as plt
# Dados observados
x = np.array([1, 2, 3, 4, 5])
y = np.array([2, 4, 6, 8, 10]) + np.random.normal(0, 1, 5)
# Modelo bayesiano
with pm.Model() as model:
# Priori sobre os parâmetros
intercepto = pm.Normal('intercepto', mu=0, sd=10)
inclinacao = pm.Normal('inclinacao', mu=0, sd=10)
# Verossimilhança linear
verossimilhanca = pm.Normal('verossimilhanca', mu=intercepto + inclinacao * x, sd=1, observed=y)
# Amostragem da distribuição posterior usando MCMC
trace = pm.sample(1000, tune=1000)
# Previsão e tomada de decisões
novo_x = np.array([6, 7, 8])
with model:
# Previsão para novos dados
y_pred = pm.Normal('y_pred', mu=intercepto + inclinacao * novo_x, sd=1, shape=len(novo_x))
# Amostragem da distribuição posterior preditiva
trace_pred = pm.sample_posterior_predictive(trace, var_names=['y_pred'], samples=500)
# Plot dos resultados
plt.scatter(x, y, label='Dados Observados')
plt.plot(novo_x, np.mean(trace_pred['y_pred'], axis=0), color='red', label='Previsão Média')
plt.fill_between(novo_x, np.percentile(trace_pred['y_pred'], 5, axis=0),
np.percentile(trace_pred['y_pred'], 95, axis=0), color='gray',
alpha=0.2, label='Intervalo de Credibilidade (90%)')
plt.xlabel('x')
plt.ylabel('y')
plt.title('Previsão e Tomada de Decisões')
plt.legend()
plt.show()Resultado:
O gráfico resultante mostra os dados observados (pontos), a previsão média (linha vermelha) e um intervalo de credibilidade de 90% (área cinza) para os novos dados previstos.
Essas informações ajudam na tomada de decisões ao avaliar a incerteza nas previsões e fornecer uma faixa de valores prováveis para os novos dados.
