====== Réunion du 13/06/14 ====== **Lieu:** LIMSI-CNRS, salle de conférence ===== Ordre du jour ===== Points administratifs: - le renouvellement - choix des invités - Forum STIC: 02/12 === Noise Contrastive Estimation === Présentation du stage de Matthieu Labeau {{:matthieulabeaunce_16_10_2014.pdf|Slides}} Sur le NCE, - L'article de référence pour l'application aux modèles de langue de [[http://arxiv.org/pdf/1206.6426v1.pdf|Mnih et Teh, 2012]] - L'article théorique de [[http://jmlr.org/proceedings/papers/v9/gutmann10a/gutmann10a.pdf|Gutmann et Hyvärinen, 2010]]. Pour la partie Theano, des pointeurs sont disponibles sur la page [[outils|Outils]]. === Practical Variational Inference for Neural Networks === Basé sur l'article de [[http://papers.nips.cc/paper/4329-practical-variational-inference-for-neural-networks.pdf|A. Graves à NIPS 2011]] - Présentation du cadre général par Yann Ollivier - Présentation du papier par Basile Mayeur {{:graves2011.pdf|}} Sur l'apprentissage Bayésien des modèles neuronaux, il existe parmi les écrits plus anciens: - [[http://www.inference.phy.cam.ac.uk/mackay/BayesNets.html|les écrits de D. MacKay]], en particulier l'article cité par A. Graves est très bien écrit et très interessant (Probable Networks and Plausible Predictions - A Review of Practical Bayesian Methods for Supervised Neural Networks) - La thèse de [[http://www.cs.toronto.edu/~radford/publications.html#thesis|Radford Neal]]