IE344 - Tópicos em Comunicações III | Topics in Communications III | Temas de Comunicaciones III
Turma: D -
Período: 2/2026 -
Tipo Período: 2o. período letivo -
Disciplina: 4 créditos.
Tema: Fundamentos de processamento de sinais: Teoria da estimação e inferência Bayesiana
Ementa: O curso visa apresentar os principais conceitos de teoria da estimação, com ênfase em inferência Bayesiana. Serão abordados os seguintes tópicos:
Teoria da Estimação. Limite Inferior de Cramer-Rao. Estimadores ótimos. Estimação paramétrica. Princípios de testes de hipótese. Fundamentos de inferência Bayesiana. Modelos Bayesianos hierárquicos. Algoritmos Markov Chain Monte Carlo. Implementação em linguagens probabilísticas. Diagnóstico, validação e seleção de modelos. Inferência variacional. Aplicações em problemas de processamento de sinais e ciência de dados.
Bibliografia: [1] S. M. Kay, Fundamentals of Statistical Signal Processing: Estimation Theory, vol. 1. Upper Saddle River, NJ: Prentice Hall PTR, 2013.
[2] L. Wasserman, All of Statistics: A Concise Course in Statistical Inference. New York, NY: Springer, 2008.
[3] A. Gelman, J. B. Carlin, H. S. Stern, D. B. Dunson, A. Vehtari, and D. B. Rubin, Bayesian Data Analysis, 3rd ed. Chapman and Hall/CRC, 2013. doi: 10.1201/b16018.
[4] S. M. Kay, Fundamentals of Statistical Signal Processing: Detection Theory, vol. 2. Upper Saddle River, NJ: Prentice Hall PTR, 2011.
[5] S. M. Kay, Fundamentals of Statistical Signal Processing: Practical Algorithm Development, vol. 3. Upper Saddle River, NJ: Pearson, 2013.
[6] R. McElreath, Statistical Rethinking: A Bayesian Course with Examples in R and Stan, 1st ed. Chapman and Hall/CRC, 2018. doi: 10.1201/9781315372495.
Conteudo Programático: Revisão de teoria da probabilidade. Introdução à teoria da estimação. Estimador não-enviesado de variância mínima (MVUE). Informação de Fisher. Limite inferior de Cramer-Rao (CRLB). Modelos Lineares. Suficiência estatística. Melhor estimador linear não-enviesado (BLUE). Estimação por máxima verossimilhança. Estimadores baseados em mínimos quadrados. Método dos momentos. Bootstrap. Testes de hipótese. Modelos lineares generalizados. Fundamentos de inferência Bayesiana. Distribuições conjugadas. Distribuição a priori de Jeffreys. Modelos Bayesianos hierárquicos. Métodos Monte Carlo. Cadeias de Markov. Algoritmos Markov Chain Monte Carlo (MCMC) – Metropolis Hastings, Amostragem de Gibbs, Hamiltonian Monte Carlo, No U-Turn Sampler (NUTS), Particle MCMC, Approximate Bayesian Computation (ABC). Implementação em linguagens probabilísticas. Diagnóstico de convergência de cadeias MCMC. Métodos para seleção e validação de modelos. Inferência variacional. Aplicações em problemas de processamento de sinais e ciência de dados.
Obs.: Consultar Catálogo vigente na DAC.
Conteudo Programático em Inglês: Review of probability theory. Introduction to estimation theory. Minimum variance unbiased estimator (MVUE). Fisher information. Cramér–Rao lower bound (CRLB). Linear models. Statistical sufficiency. Best linear unbiased estimator (BLUE). Maximum likelihood estimation. Least-squares estimators. Method of moments. Bootstrap. Hypothesis testing. Generalized linear models. Fundamentals of Bayesian inference. Conjugate distributions. Jeffreys prior distribution. Hierarchical Bayesian models. Monte Carlo methods. Markov chains. Markov Chain Monte Carlo (MCMC) algorithms – Metropolis–Hastings, Gibbs sampling, Hamiltonian Monte Carlo, No-U-Turn Sampler (NUTS), Particle MCMC, Approximate Bayesian Computation (ABC). Implementation in probabilistic programming languages. Convergence diagnostics for MCMC chains. Methods for model selection and validation. Variational inference. Applications to signal processing and data science problems.
Conteudo Programático em Espanhol: Revisión de teoría de la probabilidad. Introducción a la teoría de la estimación. Estimador insesgado de mínima varianza (MVUE). Información de Fisher. Límite inferior de Cramér-Rao (CRLB). Modelos lineales. Suficiencia estadística. Mejor estimador lineal insesgado (BLUE). Estimación por máxima verosimilitud. Estimadores basados en mínimos cuadrados. Método de los momentos. Bootstrap. Pruebas de hipótesis. Modelos lineales generalizados. Fundamentos de inferencia bayesiana. Distribuciones conjugadas. Distribución a priori de Jeffreys. Modelos bayesianos jerárquicos. Métodos Monte Carlo. Cadenas de Markov. Algoritmos Markov Chain Monte Carlo (MCMC): Metropolis-Hastings, muestreo de Gibbs, Hamiltonian Monte Carlo, No-U-Turn Sampler (NUTS), Particle MCMC, Approximate Bayesian Computation (ABC). Implementación en lenguajes probabilísticos. Diagnóstico de convergencia de cadenas MCMC. Métodos para selección y validación de modelos. Inferencia variacional. Aplicaciones en problemas de procesamiento de señales y ciencia de datos.
Forma Avaliação: A avaliação será por meio de listas de exercícios teóricas e computacionais.
Ofertar para Graduação:
Sim Número Limite de Alunos de Graduação:
30
Aceita Estudante Especial:
Sim
Número de Alunos Total:
de 0 até 30