La información mutua puntual representa una medida cuantificada de la mayor o menor probabilidad de que dos eventos ocurran simultáneamente, dadas sus probabilidades individuales y en relación con el caso donde los dos son completamente independientes.
¿Qué mide la información mutua puntual entre dos palabras?
En lingüística computacional, la información mutua puntual de coocurrencia de segundo orden es una medida de similitud semántica. Para evaluar el grado de asociación entre dos palabras dadas, utiliza información mutua puntual (PMI) para ordenar listas de palabras vecinas importantes de las dos palabras de destino de un gran corpus.
¿Qué es la información mutua en la PNL?
Información mutua mide cuánta información - en el sentido teórico de la información - contiene un término sobre la clase. Si la distribución de un término es la misma en la clase que en la colección como un todo, entonces..
¿Cómo se calcula la información mutua puntual?
La fórmula general para la información mutua puntual se proporciona a continuación; es el logaritmo binario de la probabilidad conjunta de X=a y Y=b, dividido por el producto de las probabilidades individuales de que X=a y Y=b.
¿Qué es PMI en el aprendizaje automático?
PMI: Pointwise Mutual Information, es una medida de correlación entre dos eventos x e y. Como puede ver en la expresión anterior, es directamente proporcional al número deveces que ambos eventos ocurren juntos e inversamente proporcionales a las cuentas individuales que están en el denominador.