Documents

b-inferencia-bayesiana do Stern.pdf

Description
Inferência Bayesiana Notas de Aula Luı́s Gustavo Esteves e Rafael Bassi Stern Última revisão: 18 de Agosto de 2017 Por favor, enviem comentários, typos e erros para rbstern@gmail.com Agradecimentos: Grato pelas sugestões de Michelangelo dos Anjos, Yuri Benites, Ian Danilevicz, Andressa Dantas, Thales Egydio, Luı́s Es
Categories
Published
of 152
All materials on our website are shared by users. If you have any questions about copyright issues, please report us to resolve them. We are always happy to assist you.
Related Documents
Share
Transcript
  Inferˆencia Bayesiana Notas de Aula Lu´ıs Gustavo Esteves e Rafael Bassi Stern´Ultima revis˜ao: 18 de Agosto de 2017Por favor, enviem coment´arios, typos e erros para rbstern@gmail.com Agradecimentos : Grato pelas sugest˜oes de Michelangelo dos Anjos, Yuri Benites, Ian Danilevicz, AndressaDantas, Thales Egydio, Lu´ıs Esteves, Rafael Izbicki, Jeremias Le˜ao, Tarc´ısio Lobato, Rafael Paix˜ao, Carlos Pereira,Jo˜ao Poloniato, Aim´ee Shirozono, Jo˜ao Silva, Julio Stern, Aline Tonon, Sergio Wechsler e Victor Zor´e.1  Conte´udo 1 Revis˜ao 4 1.1 Teoria dos conjuntos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41.1.1 Opera¸c˜oes sobre conjuntos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 1.2 Teoria da probabilidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61.2.1 Probabilidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61.2.2 Vari´aveis aleat´orias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.2.3 Distribui¸c˜oes importantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 2 Coerˆencia e Probabilidade: como evitar preju´ızos certos? 11 2.1 Probabilidade marginal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112.2 Probabilidade condicional . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152.3 Caracteriza¸c˜ao da coerˆencia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 2.3.1 Infinitas apostas* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 3 Aprendizado e atualiza¸c˜ao de incertezas 22 3.1 O Teorema de Bayes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223.2 Modelo estat´ıstico . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 4 Explorando o modelo estat´ıstico 33 4.1 Predi¸c˜oes usando o modelo estat´ıstico . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33 4.2 Permutabilidade* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 414.3 Fam´ılias conjugadas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 474.3.1 O modelo beta-binomial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 494.3.2 O modelo normal-normal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 514.3.3 A fam´ılia exponencial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57 5 Revis˜ao sobre o teorema de Bayes e o modelo estat´ıstico 646 Tomando decis˜oes conscientemente 72 6.1 Elementos da tomada de decis˜oes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 726.2 Avaliando alternativas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 736.3 Usando dados para avaliar alternativas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78 7 Inferˆencia Bayesiana 86 7.1 Estima¸c˜ao . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86 7.1.1 Distˆancia quadr´atica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86 7.1.2 Desvio absoluto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 887.2 Regi˜oes de credibilidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 937.2.1 Intervalos de credibilidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 937.2.2 Regi˜oes de credibilidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 967.3 Testes de hip´otese . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1017.3.1 Hip´oteses plenas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1017.3.2 Hip´oteses precisas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1082  7.3.3 Coerˆencia em testes de hip´otese . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1117.4 Princ´ıpio da verossimilhan¸ca . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114 8 Revis˜ao sobre teoria da decis˜ao e inferˆencia bayesiana 1179 Estat´ıstica Bayesiana Computacional 126 9.1 M´etodo de Monte Carlo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1269.1.1 O m´etodo da rejei¸c˜ao . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127 9.2 M´etodo de Monte Carlo via cadeias de Markov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1389.2.1 Cadeias de Markov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1389.2.2 O algoritmo de Metropolis-Hastings . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1409.2.3 Monte Carlo para cadeias de Markov na pr´atica . . . . . . . . . . . . . . . . . . . . . . . . . 1439.2.4 Exerc´ıcios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147 10 Revis˜ao final 15011 Bibliografia 151 3  1 Revis˜ao 1.1 Teoria dos conjuntos Teoria dos Conjuntos ´e o fundamento para a defini¸c˜ao da matem´atica moderna. Em particular, ela ´e usada para definir a Teoria da Probabilidade. Conjuntos s˜ao usados para definir eventos. Esta se¸c˜ao faz uma revis˜ao r´apida e focada de Teoria dos Conjuntos.Um conjunto ´e uma cole¸c˜ao de objetos. Se um conjunto ´e composto por um n´umero finito de objetos, w 1 ,w 2 ,...,w n , denotamos este conjunto por  { w 1 ,w 2 ,...,w n } . Alguns conjuntos s˜ao usados com tanta frequˆenciaque recebem s´ımbolos especiais para design´a-los: ã  N : Os n´umeros naturais,  { 0 , 1 , 2 , 3 ,... } . ã  Z : Os n´umeros inteiros,  { ..., − 2 , − 1 , 0 , 1 , 2 ,... } . ã  R : Os n´umeros reais. Exemplo 1.1  (Conjuntos) . ã  O conjunto de resultados em um dado de 6 faces:  { 1 , 2 , 3 , 4 , 5 , 6 } . ã  O conjunto de resultados em um lan¸camento de moeda:  { T,H  } . ã  O conjunto de resultados em dois lan¸camentos de moeda:  { ( T,T  ) , ( T,H  ) , ( H,T  ) , ( H,H  ) } . ã  O conjunto de n´umeros ´ımpares:  { 2 n + 1 :  n ∈  N }  ou  { 1 , 3 , 5 , 7 ,... } . ã  O conjunto de n´umeros reais n˜ao negativos:  { x  ∈  R  :  x  ≥  0 } . ã  Um c´ırculo de raio 1:  { ( x,y )  ∈  R 2 :  x 2 + y 2 ≤  1 } . Defini¸c˜ao 1.2  ( ∈  e  / ∈ ) .  Escrevemos  w  ∈  S   se o objeto  w  ´e um elemento do conjunto  S   e  w / ∈  S  , caso contr´ario. Exemplo 1.3  ( ∈  e  / ∈ ) . ã  T   ∈ { T,H  } . ã  7  / ∈ { 1 , 2 , 3 , 4 , 5 , 6 } . ã  7 ∈ { 2 n + 1 :  n ∈  N } . Defini¸c˜ao 1.4  ( conjunto vazio  -  ∅ ) .  ∅  ´e o ´unico conjunto sem elementos. Isto ´e, para todo objeto  w ,  w / ∈ ∅ . Defini¸c˜ao 1.5  ( conjuntos disjuntos ) . ã  Dois conjuntos  A  e  B  s˜ao  disjuntos  se, para todo  w  ∈  A  temos  w / ∈  B  e para todo  w  ∈  B ,  w / ∈  A . ã  Uma sequˆencia de conjuntos ( A n ) n ∈ N  ´e disjunta se, para todo  i   =  j ,  A i  ´e disjunto de  A  j . Exemplo 1.6  (Conjuntos disjuntos) . ã { 1 , 2 }  e  { 3 , 4 }  s˜ao disjuntos. ã { 1 , 2 }  e  { 2 , 3 }  n˜ao s˜ao disjuntos pois 2 ∈ { 1 , 2 }  e 2  ∈ { 2 , 3 } .4
Search
Tags
Related Search
We Need Your Support
Thank you for visiting our website and your interest in our free products and services. We are nonprofit website to share and download documents. To the running of this website, we need your help to support us.

Thanks to everyone for your continued support.

No, Thanks