Algoritmos basados en métricas y probabilístico-estadístico
Enviado por Ledesma • 7 de Marzo de 2018 • 1.441 Palabras (6 Páginas) • 329 Visitas
...
De las k distancias más cercanas, se obtiene la clase a la cual pertenecen los k patrones, una vez obteniéndose la clase, se suman las frecuencias con las que la clase aparecen.
El nuevo patrón es clasificado a la clase que tenga más frecuencias en el conteo.
Euclidiano
El clasificador euclidiano utiliza el concepto de centroide para realizar la clasificación de un patrón, el centroide no es nada más que un vector con la media de cada atributo de los patrones que pertenecen a la misma clase, de todo el conjunto de entrenamiento. El centroide se vuelve entonces el representante de cada clase.
Primero se calcula la distancia euclidiana del patrón a clasificar con los k centroides, se obtiene el centroide con la menor distancia, y se clasifica el nuevo patrón dentro de la clase que el centroide represente.
LDA (Análisis discriminante lineal)
Fundamentalmente este clasificador lo que hace es un proceso de discriminación o de separación, busca encontrar la función discriminante que permita separar linealmente a todas las clases.
Es una generalización del método discriminante lineal propuesto por Ronald A. Fisher, caracteriza o separa dos o más clases de objetos o eventos. La combinación resultante es utilizada como un clasificador lineal, o, más comúnmente, para la reducción de la dimensión antes de la clasificación.
Se puede observar de manera gráfica el discriminante lineal encontrado hipotéticamente por LDA en la figura 1-b
[pic 3]
[pic 4][pic 5]
Figura 1, a) Una discriminante lineal poco representativa. B) Discriminante lineal optima, minimiza la separación entre los patrones de la misma clase y maximiza la separación entre patrones de la misma clase.
Para la clasificación LDA utiliza variables independientes continuas (patrones) y solo una variable dependiente categórica (clase).
A continuación se describe a grandes rasgos el algoritmo de clasificación LDA.
- Calcular la probabilidad priori de cada clase (número de patrones de la clase / el número total de patrones).
- Calcular el vector promedio de cada clase.
- Calcular el promedio total (promedio de los vectores promedios o centroides).
- Trasladar los datos, estableciendo como origen a µ (patrón – vector promedio total).
- Del conjunto trasladado calcular la matriz de covarianzas para cada clase.
- Calcular la matriz de covarianzas total.
- Obtener la matriz inversa de S.
- Comenzar la clasificación por cada patrón con la función discriminante dada para cada clase.
[pic 6]
En donde
S = Matriz de covarianzas total.
X= Patrón.
P= Probabilidad priori.
---------------------------------------------------------------
Pruebas del conjunto de datos en weka
Bayes-Naive Bayes
[pic 7]
Conjunto de datos completo.
[pic 8]
Hold out (Split 70%).
[pic 9]
K-fold cross validation 10 folds.
[pic 10]
K-fold cross validation 569 folds.
---------------------------------------------------------------
Functions-Logistic
[pic 11]
Con el conjunto de datos completo
[pic 12]
Hold out (Split 70%)
[pic 13]
K-fold cross validation 10 folds.
[pic 14]
K-fold cross validation 569 folds.
---------------------------------------------------------------
Functions-Multilayer perceptron
[pic 15]
Con el conjunto de datos completo
[pic 16]
Hold out (Split 70%)
[pic 17]
K-fold cross validation 10 folds.
[pic 18]
K-fold cross validation 569 folds.
---------------------------------------------------------------
Functions-Simple logistic
[pic 19]
Conjunto de datos completo
[pic 20]
Hold out (Split 70%)
[pic 21]
K-fold cross validation 10 folds.
[pic 22]
K-fold cross validation 569 folds.
---------------------------------------------------------------
Lazi-IBK-1NN
[pic 23]
Con el conjunto de datos completo
[pic 24]
Hold out (Split 70%)
[pic 25]
K-fold cross validation 10 folds.
[pic 26]
...