Care este diferența dintre un clasificator Naive Bayes și AODE?


Răspunsul 1:

AODE este un mod ciudat de relaxare a presupunerilor de independență ale naivilor. Nu mai este un model generativ, dar relaxează ipotezele de independență într-un mod ușor diferit (și mai puțin de principiu) decât face regresia logistică. Înlocuiește problema de optimizare convexă utilizată la antrenamentul unui clasificator de regresie logistică, printr-o dependență (în funcție de numărul de caracteristici) quadratice atât de timp de antrenament, cât și de timp de testare.

Funcționează, în esență, prin crearea, pentru fiecare caracteristică j, a unui clasificator care presupune că celelalte funcții sunt independente, având în vedere eticheta și caracteristica j și prezice prin medierea acestor clasificatori. Acest lucru îi permite să modeleze până la dependențe quadratice între funcțiile din funcția de etichetă, în detrimentul multor parametri suplimentari. După părerea mea, este ușor ad-hoc și ești mai bine să folosești SVM-uri cu sâmbure quadratice (dacă vrei dependențe de funcții) sau regresie logistică (dacă vrei doar un bay naiv mai puțin părtinitor).