Disuguaglianza di Jensen

La disuguaglianza di Jensen è un risultato importante nella teoria delle funzioni convessi. Essa fornisce un legame tra il valore atteso di una funzione di una variabile casuale e la funzione di quella variabile casuale del valore atteso. La disuguaglianza è spesso formulata per funzioni convesse, ma può essere estesa a funzioni concave con una direzione inversa nella disuguaglianza.

La formulazione generale della disuguaglianza di Jensen per una funzione convessa $f:\mathbb{R}\to \mathbb{R}$ è la seguente:

$E[f(X)]\ge f(E[X])$

Dove:

• $E[X]$ è il valore atteso della variabile casuale $X$,
• $E[f(X)]$ è il valore atteso della funzione applicata alla variabile casuale $X$.

In termini più generali, se $f$ è una funzione convessa, allora per ogni variabile casuale $X$ con valore atteso $E[X]$, la disuguaglianza di Jensen stabilisce che il valore atteso della funzione applicata a $X$ è maggiore o uguale alla funzione applicata al valore atteso di $X$.

La disuguaglianza di Jensen può essere generalizzata a funzioni concave con una direzione inversa nella disuguaglianza. Se $f$ è una funzione concava, allora:

$E[f(X)]\le f(E[X])$

La disuguaglianza di Jensen è ampiamente utilizzata in statistica, teoria delle probabilità e ottimizzazione. La sua applicazione più comune è nella teoria delle informazioni e nella teoria dell’entropia, dove è utilizzata per dimostrare la concavità dell’entropia.