Réunion du 13/06/14

Lieu: LIMSI-CNRS, salle de conférence

Ordre du jour

Points administratifs:

le renouvellement

choix des invités

Forum STIC: 02/12

Noise Contrastive Estimation

Présentation du stage de Matthieu Labeau Slides

Sur le NCE,

L'article de référence pour l'application aux modèles de langue de Mnih et Teh, 2012

L'article théorique de Gutmann et Hyvärinen, 2010.

Pour la partie Theano, des pointeurs sont disponibles sur la page Outils.

Practical Variational Inference for Neural Networks

Basé sur l'article de A. Graves à NIPS 2011

Présentation du cadre général par Yann Ollivier

Présentation du papier par Basile Mayeur graves2011.pdf

Sur l'apprentissage Bayésien des modèles neuronaux, il existe parmi les écrits plus anciens:

les écrits de D. MacKay, en particulier l'article cité par A. Graves est très bien écrit et très interessant (Probable Networks and Plausible Predictions - A Review of Practical Bayesian Methods for Supervised Neural Networks)

La thèse de Radford Neal