Ementa: Revisão de probabilidade, estimação e teoria da informação. Conceitos gerais de aprendizado de máquina. Regressão linear. Classificação linear. Redes neurais artificiais. Deep leaming. Máquinas de vetores-suporte. Aprendizado não-supervisionado. Clusterização, modelos de mistura e extração de variáveis latentes. Aprendizado por reforço. Comitês de máquinas. Árvores de decisão e random forest. Computação evolutiva.

Bibliografia:  R.O. Duda, P. E. Han, D. G. Stork, "Paltem Classification”, Wiley-Interscience, 2º ed., 2000.  T. Hastie, R. Tibshirani, J. Friedman, “The Elements of Statistical Leaming. Data Mining, Inference and Prediction”, Springer, 2º ed., 2009.  CM Bishop, “Pattem Recognition and Machine Leaming”, Springer, 2006.  5. Haykin, "Neural Networks and Leaming Machines”, Prentice Hall, 3º ed., 2008.  E. Alpaydin, “Introduction to Machine Leaming”, MIT Press, 3º ed,, 2014.  5. Raschka, V. Miralili, “Python Machine Leaming", Packt Publishing Ltd., 2º ed. 2017.  A. Géron, "Hands-on Machine Leaming with Scikit-Leam and TensorFlow”, O'Reilly Media, 2017.  | Goodfellow, Y. Bengio, A, Courville, “Deep Leaming", MIT Press, 2016.

Conteudo Programático: 1. Revisão de Probabilidade, Estimação e Teoria da Informação Fundamentos de probabilidade: variáveis aleatórias, distribuições, teorema de Bayes Métodos de estimação: máxima verossimilhança, MAP, estimadores não viesados Entropia, informação mútua e teoria da informação aplicada ao aprendizado 2. Conceitos Gerais de Aprendizado de Máquina Definição e tipos de aprendizado (supervisionado, não supervisionado e por reforço) Generalização, viés e variância, overfitting e underfitting Métricas de desempenho e validação cruzada 3. Regressão Linear Modelo de regressão linear simples e múltipla Estimadores por mínimos quadrados e gradiente descendente Regularização: Ridge e Lasso 4. Classificação Linear Regressão logística Perceptron e separabilidade linear Softmax e classificação multiclasse 5. Redes Neurais Artificiais Modelos de neurônios artificiais Arquiteturas de redes neurais feedforward Algoritmo de retropropagação e ajuste de pesos 6. Deep Learning Redes neurais profundas e arquiteturas avançadas Funções de ativação e otimização de redes profundas Redes convolucionais (CNNs) e recorrentes (RNNs) 7. Máquinas de Vetores de Suporte (SVM) Hiperplanos separadores e margem máxima Funções kernel e SVM não linear SVM para regressão 8. Aprendizado Não Supervisionado Definição e desafios do aprendizado não supervisionado Técnicas de redução de dimensionalidade: PCA, LDA 9. Clusterização, Modelos de Mistura e Extração de Variáveis Latentes Algoritmos de clusterização: K-means, DBSCAN, aglomerativos Modelos de mistura Gaussiana (GMM) e Expectation-Maximization (EM) Modelagem de variáveis latentes e autoencoders 10. Aprendizado por Reforço Modelos de aprendizado baseados em recompensa Processos de decisão de Markov (MDP) Algoritmos Q-learning e Deep Q Networks (DQN) 11. Comitês de Máquinas Bagging, Boosting e AdaBoost Random Forest como ensemble learning Stacking e Blending 12. Árvores de Decisão e Random Forest Construção e critérios de divisão em árvores de decisão Overfitting e poda de árvores Implementação e variações do Random Forest 13. Computação Evolutiva Algoritmos genéticos e otimização bioinspirada Seleção, mutação e crossover Aplicações da computação evolutiva no aprendizado de máquina

Conteudo Programático em Inglês: 1. Review of Probability, Estimation and Information Theory Fundamentals of probability: random variables, distributions, Bayes' theorem Estimation methods: maximum likelihood, MAP, unbiased estimators Entropy, mutual information and information theory applied to learning 2. General concepts of machine learning Definition and types of learning (supervised, unsupervised and reinforcement) Generalization, bias and variance, overfitting and underfitting Performance metrics and cross-validation 3. Linear Regression Simple and multiple linear regression models Least squares and gradient descent estimators Regularization: Ridge and Lasso 4. Linear classification Logistic regression Perceptron and linear separability Softmax and multiclass classification 5. Artificial Neural Networks Artificial neuron models Feedforward neural network architectures Backpropagation algorithm and weight adjustment 6. Deep Learning Deep neural networks and advanced architectures Activation functions and optimization of deep networks Convolutional networks (CNNs) and recurrent networks (RNNs) 7. Support Vector Machines (SVM) Separating hyperplanes and maximum margin Kernel functions and non-linear SVM SVM for regression 8. Unsupervised Learning Definition and challenges of unsupervised learning Dimensionality reduction techniques: PCA, LDA 9. Clustering, Mixture Models and Latent Variable Extraction Clustering algorithms: K-means, DBSCAN, agglomerative Gaussian mixture models (GMM) and Expectation-Maximization (EM) Modeling latent variables and autoencoders 10. Reinforcement Learning Reward-based learning models Markov decision processes (MDP) Q-learning algorithms and Deep Q Networks (DQN) 11. Machine Committees Bagging, Boosting and AdaBoost Random Forest as ensemble learning Stacking and Blending 12. Decision Trees and Random Forest Construction and splitting criteria in decision trees Overfitting and tree pruning Random Forest implementation and variations 13. Evolutionary Computation Genetic algorithms and bio-inspired optimization Selection, mutation and crossover Applications of evolutionary computing in machine learning

Conteudo Programático em Espanhol: 1. Repaso de Probabilidad, Estimación y Teoría de la Información Fundamentos de la probabilidad: variables aleatorias, distribuciones, teorema de Bayes Métodos de estimación: máxima verosimilitud, MAP, estimadores insesgados Entropía, información mutua y teoría de la información aplicada al aprendizaje 2. Conceptos generales de aprendizaje automático Definición y tipos de aprendizaje (supervisado, no supervisado y de refuerzo) Generalización, sesgo y varianza, sobreajuste e infraajuste Métricas de rendimiento y validación cruzada 3. Regresión lineal Modelos de regresión lineal simple y múltiple Estimadores de mínimos cuadrados y de descenso de gradiente Regularización: Ridge y Lasso 4. Clasificación lineal Regresión logística Perceptrón y separabilidad lineal Softmax y clasificación multiclase 5. Redes neuronales artificiales Modelos de neuronas artificiales Arquitecturas de redes neuronales feedforward Algoritmo de retropropagación y ajuste de pesos 6. Aprendizaje profundo Redes neuronales profundas y arquitecturas avanzadas Funciones de activación y optimización de redes profundas Redes convolucionales (CNNs) y redes recurrentes (RNNs) 7. Máquinas de vectores soporte (SVM) Separación de hiperplanos y margen máximo Funciones de núcleo y SVM no lineal SVM para regresión 8. Aprendizaje no supervisado Definición y retos del aprendizaje no supervisado Técnicas de reducción de dimensionalidad: PCA, LDA 9. Clustering, modelos de mezcla y extracción de variables latentes Algoritmos de agrupación: K-means, DBSCAN, aglomerativos Modelos de mezcla gaussiana (GMM) y maximización de expectativas (EM) Modelización de variables latentes y autocodificadores 10. Aprendizaje por refuerzo Modelos de aprendizaje basados en recompensas Procesos de decisión de Markov (MDP) Algoritmos de aprendizaje Q y redes Q profundas (DQN) 11. Comités de máquinas Bagging, Boosting y AdaBoost Random Forest como aprendizaje de conjunto Stacking y Blending 12. Árboles de decisión y Random Forest Criterios de construcción y división en árboles de decisión Sobreajuste y poda de árboles Implementación y variaciones de Random Forest  13. Computación evolutiva Algoritmos genéticos y optimización bioinspirada Selección, mutación y cruce Aplicaciones de la computación evolutiva en el aprendizaje automático

Forma Avaliação: A avaliação consistirá de três componentes: (1) Atividades computacionais, com entrega de relatórios para apresentação e discussão dos resultados envolvendo técnicas de aprendizado de máquina; (2) Prova, que abordará a fundamentação teórica; e (3) Projeto (em grupos), o qual envolverá uma aplicação de aprendizado de máquina em um tema escolhido pelo grupo.