Clasificador bayesiano ingenuo

En teoría de la probabilidad y minería de datos, un clasificador Bayesiano ingenuo es un clasificador probabilístico basado en el teorema de Bayes y algunas hipótesis simplificadoras adicionales. Es a causa de estas simplificaciones, que se suelen resumir en la hipótesis de independencia entre las variables predictoras, que recibe el apelativo de ingenuo.

En abstracto, el modelo de probabilidad para un clasificador es

sobre una variable dependiente C, con un pequeño número de resultados (o clases). Esta variable está condicionada por varias variables independientes desde F₁ a F_n. El problema es que si el número n de variables independientes es grande (o cuando éstas pueden tomar muchos valores), entonces basar este modelo en tablas de probabilidad se vuelve imposible. Por lo tanto el modelo se reformula para hacerlo más manejable:

Usando el teorema de Bayes se escribe:

Lo anterior podría reescribirse en lenguaje común como:

En la práctica sólo importa el numerador, ya que el denominador no depende de C y los valores de F_i son datos, por lo que el denominador es, en la práctica, constante.

El numerador es equivalente a una probabilidad compuesta:

que puede ser reescrita como sigue, aplicando repetidamente la definición de probabilidad condicional:

... y así sucesivamente. Ahora es cuando la asunción "naïve" de independencia condicional entra en juego: se asume que cada F_i es independiente de cualquier otra F_j para . Esto significa que

por lo que la probabilidad compuesta puede expresarse como

Esto significa que haciendo estas asunciones, la distribución condicional sobre la variable clasificaroria C puede expresarse de la siguiente manera:

donde Z es un factor que depende sólo de , es decir, constante si los valores de F_i son conocidos.

Su uso contra el correo basura

El filtrado Bayesiano aplicado a la detección de correo basura tiene las siguientes ventajas:

• Mira el mensaje completo
• Se adapta a sí mismo a lo largo del tiempo
• Es sensible/adaptable a la empresa/usuario
• Es multilingüe e internacional
• Utiliza inteligencia artificial
• Es difícil de engañar