User Tools

Site Tools


cr161014

Réunion du 13/06/14

Lieu: LIMSI-CNRS, salle de conférence

Ordre du jour

Points administratifs:

  1. le renouvellement
  2. choix des invités
  3. Forum STIC: 02/12

Noise Contrastive Estimation

Présentation du stage de Matthieu Labeau Slides

Sur le NCE,

  1. L'article de référence pour l'application aux modèles de langue de Mnih et Teh, 2012
  2. L'article théorique de Gutmann et Hyvärinen, 2010.

Pour la partie Theano, des pointeurs sont disponibles sur la page Outils.

Practical Variational Inference for Neural Networks

Basé sur l'article de A. Graves à NIPS 2011

  1. Présentation du cadre général par Yann Ollivier
  2. Présentation du papier par Basile Mayeur graves2011.pdf

Sur l'apprentissage Bayésien des modèles neuronaux, il existe parmi les écrits plus anciens:

  1. les écrits de D. MacKay, en particulier l'article cité par A. Graves est très bien écrit et très interessant (Probable Networks and Plausible Predictions - A Review of Practical Bayesian Methods for Supervised Neural Networks)
  2. La thèse de Radford Neal
cr161014.txt · Last modified: 2014/10/20 14:36 by matthieu.labeau