El Análisis Discriminante Lineal o el Análisis Discriminante Normal o el Análisis de Función Discriminante es una técnica de reducción de dimensionalidad que se usa comúnmente para los problemas de clasificación supervisados. Se utiliza para modelar diferencias en grupos, es decir, separar dos o más clases. Se utiliza para proyectar las características en un espacio de dimensión superior en un espacio de dimensión inferior.

Por ejemplo, tenemos dos clases y necesitamos separarlas de manera eficiente. Las clases pueden tener múltiples características. El uso de una sola entidad para clasificarlos puede resultar en cierta superposición, como se muestra en la siguiente figura. Por lo tanto, seguiremos aumentando el número de características para una clasificación adecuada.

Ejemplo:
Supongamos que tenemos dos conjuntos de puntos de datos pertenecientes a dos clases diferentes que queremos clasificar. Como se muestra en el gráfico 2D dado, cuando los puntos de datos se trazan en el plano 2D, no hay una línea recta que pueda separar completamente las dos clases de los puntos de datos. Por lo tanto, en este caso, se utiliza LDA (Análisis Discriminante Lineal) que reduce el gráfico 2D en un gráfico 1D para maximizar la separabilidad entre las dos clases.

Aquí, el análisis Discriminante Lineal utiliza ambos ejes (X e Y) para crear un nuevo eje y proyecta datos en un nuevo eje de una manera que maximiza la separación de las dos categorías y, por lo tanto, reduce el gráfico 2D a un gráfico 1D.

LDA utiliza dos criterios para crear un nuevo eje:

1. Maximice la distancia entre medias de las dos clases.
2. Minimizar la variación dentro de cada clase.

En el gráfico anterior, se puede observar que un nuevo eje (en rojo) se genera y se representan en el gráfico 2D tal que maximiza la distancia entre el medio de las dos clases, y se minimiza la variación dentro de cada clase. En términos simples, este eje recién generado aumenta la separación entre los puntos dtla de las dos clases. Después de generar este nuevo eje utilizando los criterios mencionados anteriormente, todos los puntos de datos de las clases se representan en este nuevo eje y se muestran en la figura que se muestra a continuación.

Pero el análisis Discriminante lineal falla cuando se comparte la media de las distribuciones, ya que se hace imposible para LDA encontrar un nuevo eje que haga que ambas clases se separen linealmente. En tales casos, utilizamos el análisis discriminante no lineal.

Extensiones a LDA:

1. Análisis Discriminante Cuadrático (QDA): Cada clase utiliza su propia estimación de varianza (o covarianza cuando hay múltiples variables de entrada).
2. Análisis discriminante flexible (FDA) : Donde se utilizan combinaciones no lineales de entradas, como splines.
3. Análisis Discriminante Regularizado (ADR): Introduce la regularización en la estimación de la varianza (en realidad covarianza), moderando la influencia de diferentes variables sobre el ADR.

Aplicaciones:

1. Reconocimiento facial: En el campo de la Visión artificial, el reconocimiento facial es una aplicación muy popular en la que cada cara está representada por un gran número de valores de píxeles. El análisis discriminante lineal (LDA) se utiliza aquí para reducir el número de entidades a un número más manejable antes del proceso de clasificación. Cada una de las nuevas dimensiones generadas es una combinación lineal de valores de píxel, que forman una plantilla. Las combinaciones lineales obtenidas usando el discriminante lineal de Fisher se denominan caras de Fisher.
2. Médicos: En este campo, el análisis discriminante lineal (LDA) se utiliza para clasificar el estado de la enfermedad del paciente como leve, moderado o grave en función de los diversos parámetros del paciente y del tratamiento médico que está atravesando. Esto ayuda a los médicos a intensificar o reducir el ritmo de su tratamiento.
3. Identificación del cliente: Supongamos que queremos identificar el tipo de clientes que tienen más probabilidades de comprar un producto en particular en un centro comercial. Al hacer una simple encuesta de preguntas y respuestas, podemos recopilar todas las características de los clientes. Aquí, el análisis discriminante lineal nos ayudará a identificar y seleccionar las características que pueden describir las características del grupo de clientes que tienen más probabilidades de comprar ese producto en particular en el centro comercial.