Bayesian Priors from Loss Matching

Résumé 

Cet article discute le problème de la construction de lois de probabilité a priori dans un contexte où les opinions ou les informations reflétées par ces lois portent uniquement sur les quantités observables du problème. Nous apportons une attention particulière au cas où le paramètre est caractérisé par la minimisation d'une mesure de divergence, et examinons l'application de la règle de Bayes dans cette perspective. Notre point de vue est fondamentalement non paramétrique, et repose sur le “matching” de deux fonctions de perte, l'une liée au modèle, l'autre à l'a priori.

Summary

This paper is concerned with the construction of prior probability measures for parametric families of densities where the framework is such that only beliefs or knowledge about a single observable data point is required. We pay particular attention to the parameter which minimizes a measure of divergence to the distribution providing the data. The prior distribution reflects this attention and we discuss the application of the Bayes rule from this perspective. Our framework is fundamentally non-parametric and we are able to interpret prior distributions on the parameter space using ideas of matching loss functions, one of which is coming from the data model and the other from the prior.