Maximally informative statistics.
Maximum d'entropie et problème des moments
Maximum likelihood principle and -divergence: continuous time observations
The paper investigates the relation between maximum likelihood and minimum -divergence estimates of unknown parameters and studies the asymptotic behaviour of the likelihood ratio maximum. Observations are assumed to be done in the continuous time.
Maximum likelihood principle and -divergence: discrete time observations
The paper investigates the relation between maximum likelihood and minimum -divergence estimates of unknown parameters and studies the asymptotic behaviour of the likelihood ratio maximum. Observations are assumed to be done in the discrete time.
Measures of information associated with Csiszár's divergences
Medidas de entropía en la teoría de la evidencia.
The aim of this paper is to define global measures of uncertainty in the framework of Dempster-Shafer's Theory of Evidence. Starting from the concepts of entropy and specificity introduced by Yager, two measures are considered; the lower entropy and the upper entropy.
Medidas de incertidumbre asociadas a J-divergencias.
En este trabajo se presenta la familia de medidas de incertidumbre asociadas a J-divergencias, que resultan de la distancia entre una distribución y la distribución en la que todos los procesos son equiprobables. Se estudian propiedades teóricas de la familia atendiendo a la pérdida de incertidumbre, a la concavidad y a la condición de medida decisiva. Finalmente se compara a nivel muestral la medida de incertidumbre definida por la función φ(t) = -t log t con las medidas de entropía comúnmente...
Medidas de nitidez para conjuntos difusos.
En este trabajo se realiza un estudio de Medidas de Nitidez para conjuntos difusos. Se comienza dando los conceptos de Medida Puntual de Nitidez o Auto-nitidez puntual y Medida de Nitidez para conjunto difuso, pasando a continuación a dar dos teoremas de construcción de Medidas de Nitidez y uno de caracterización para aquellas medidas que sean valoraciones en el retículo Ln(X).
Métodos de obtención de la información esperada global.
En este trabajo se acomete una generalización de la definición de Shannon-Lindley para la información esperada proporcionada por un experimento que presupone la existencia de estratificación en el espacio muestral. Ante la evidente dificultad de cálculo de la información esperada en la situación planteada -dificultad que se deriva de la existencia de un vector como parámetro de interés y de un resultado muestral que es un conjunto de muestras obtenidas de poblaciones distintas- en este artículo...
Métricas riemannianas asociadas a M-divergencias.
Tras plantear las métricas diferenciales asociadas a M-divergencias para funciones de densidad de probabilidad pertenecientes a la misma familia de funciones paramétricas, consideramos para las funciones Φα(t) = tα la relación entre las matrices que definen las métricas y las matrices α-informativas.Obtenemos, en segundo lugar, las funciones Φ(t) que determinan M-divergencias invariantes, a nivel diferencial, frente a cambios no singulares de parámetros y variables aleatorias.Observamos, finalmente,...
Minimum disparity estimators for discrete and continuous models
Disparities of discrete distributions are introduced as a natural and useful extension of the information-theoretic divergences. The minimum disparity point estimators are studied in regular discrete models with i.i.d. observations and their asymptotic efficiency of the first order, in the sense of Rao, is proved. These estimators are applied to continuous models with i.i.d. observations when the observation space is quantized by fixed points, or at random, by the sample quantiles of fixed orders....
Minimum entropy of error estimate for multi-dimensional parameter and finite-state-space observations
Modified power divergence estimators in normal models – simulation and comparative study
Point estimators based on minimization of information-theoretic divergences between empirical and hypothetical distribution induce a problem when working with continuous families which are measure-theoretically orthogonal with the family of empirical distributions. In this case, the -divergence is always equal to its upper bound, and the minimum -divergence estimates are trivial. Broniatowski and Vajda [3] proposed several modifications of the minimum divergence rule to provide a solution to the...
Monte Carlo detection of outliers of data and cryptographic applications.
Motivation, existence and equivariance of -estimators
Multi-variate correlation and mixtures of product measures
Total correlation (‘TC’) and dual total correlation (‘DTC’) are two classical ways to quantify the correlation among an -tuple of random variables. They both reduce to mutual information when . The first part of this paper sets up the theory of TC and DTC for general random variables, not necessarily finite-valued. This generality has not been exposed in the literature before. The second part considers the structural implications when a joint distribution has small TC or DTC. If , then is...