Anar al contingut

Aprenentage per conjunts

De L'Enciclopèdia, la wikipedia en valencià

En estadística i aprenentage automàtic, els métodos per conjunts utilisen múltiples algoritmes d'aprenentage per a obtindre un rendiment predictiu millor que el que podria obtindre's en qualsevol dels algoritmes d'aprenentage constituents per sí sols.[1][2][3] A diferència d'un conjunt estadístic en mecànica estadística, que sol ser infinit, un conjunt d'aprenentage automàtic consta únicament d'un conjunt finit concret de models alternatius, pero normalment permet que existixca una estructura molt més flexible entre eixes alternatives.

Descripció general

Els algoritmes d'aprenentage supervisat realisen la tasca de buscar a través d'un espai d'hipòtesis per a trobar una hipòtesis adequada que faça bones prediccions en un problema concret.[4] Encara que l'espai d'hipòtesis continga hipòtesis molt adequades per a un problema concret, pot ser molt difícil trobar una bona. Els conjunts combinen múltiples hipòtesis per a formar una hipòtesis (en sòrt) millor. El terme "conjunt" sol reservar-se als métodos que generen múltiples hipòtesis utilisant el mateix aprenent base. El terme més ampli de sistemes classificadors múltiples també comprén l'hibridació d'hipòtesis que no són induïdes pel mateix aprenent base.

Evaluar la predicció d'un conjunt sol requerir més càlculs que evaluar la predicció d'un únic model. En cert sentit, l'aprenentage per conjunts pot considerar-se una forma de compensar els algoritmes d'aprenentage deficients realisant molts càlculs adicionals. Per un atre costat, l'alternativa és realisar molt més aprenentage en un sistema que no és per conjunts. Un sistema per conjunts pot ser més eficient a l'hora de millorar la precisió global pel mateix aument de recursos de computació, almagasenament o comunicació utilisant eixe aument en dos o més métodos, que lo que s'hauria millorat aumentant l'us de recursos per a un sol método. Els algoritmes ràpits, com els arbres de decisió, solen utilisar-se en métodos de conjunts (per eixemple, els boscs aleatoris), encara que els algoritmes més llents també poden beneficiar-se de les tècniques d'ensamblage.

Per analogia, les tècniques de conjunts s'han utilisat també en escenaris d'aprenentage no supervisat, per eixemple en l'agrupació per consens o en la detecció d'anomalies.

Teoria de conjunts

Empíricamente, els conjunts tendixen a donar millors resultats quan hi ha una diversitat significativa entre els models.[5][6] Per lo tant, molts métodos de conjunts intenten promoure la diversitat entre els models que combinen.[7][8] Encara que potser no siga intuïtiu, es poden utilisar algoritmes més aleatoris (com els arbres de decisió aleatoris) per a produir un conjunt més fort que algoritmes molt delliberats (com els arbres de decisió en reducció d'entropía).[9] No obstant, s'ha demostrat que l'us d'una varietat d'algoritmes d'aprenentage potents és més eficaç que l'us de tècniques que intenten simplificar els models per a promoure la diversitat.[10] És possible aumentar la diversitat en la fase d'entrenament del model utilisant la correlació per a tasques de regressió[11] o utilisant medides d'informació com l'entropía creuada per a tasques de classificació.[12]

Un conjunt de classificadors sol tindre un error de classificació menor que els models base.


Teòricament, es pot justificar el concepte de diversitat perque el llímit inferior de la taxa d'error d'un sistema conjunt es pot descompondre en precisió, diversitat i l'atre terme.[13]

Referències

  1. ↑ Opitz, D.; Maclin, R.(1999-08-01).«Popular Ensemble Methods: An Empirical Study».Journal of Artificial Intelligence Research.11: 169–198.ISSN 1076-9757.doi:10.1613/jair.614.Consultat el 2024-03-05.(en en)
  2. ↑ Polikar, R.(2006).«"Ensemble based systems in decision making"».IEEE Circuits and Systems Magazine..doi:10.1109/MCAS.2006.1688199.
  3. ↑ Rokach, L.(2010).«"Ensemble-based classifiers"».Artificial Intelligence Review..doi:10.1007/s10462-009-9124-7.
  4. ↑ Blockeel H.(2011).«"Hypothesis Space"».Encyclopedia of Machine Learning..doi:10.1007/978-0-387-30164-8_373.
  5. ↑ Kuncheva, L. and Whitaker, C.(2003).«Measures of diversity in classifier ensembles».Machine Learning.
  6. ↑ Sollich, P. and Krogh, A.(1996).«Learning with ensembles: How overfitting ca be useful».Advances in Neural Information Processing Systems, volume 8.
  7. ↑ Brown, G. and Wyatt, J. and Harris, R. and Yao, X.(2005).«Diversity creation methods: a survey and categorisation».Information Fusion.
  8. ↑ Adeva, Juan Jose Garcıa; Beresi, Ulises Cervino; Calp, Rafael A.(2005-12-01).«Accuracy and Diversity in Ensembles of Text Categorisers».CLEI Electronic Journal.8(2): 1:1–1:12.ISSN 0717-5000.doi:10.19153/cleiej.8.2.1.Consultat el 2024-03-05.(en en)
  9. ↑ Ho, T.(1995).«Random Decision Forests».Proceedings of the Third International Conference on Document Analysis and Recognition.
  10. ↑ Gashler, M.; Giraud-Carrier, C.; Martinez, T.(2008).«Decision Tree Ensemble: Small Heterogeneous is Better Than Large Homogeneous».Seventh International Conference on Machine Learning and Applications.doi:10.1109/ICMLA.2008.154.
  11. ↑ Liu, Y.; Yao, X.(1999-12).«Ensemble learning via negative correlation».Neural Networks.12(10): 1399–1404.ISSN 0893-6080.doi:10.1016/s0893-6080(99)00073-8.Consultat el 2024-03-05.
  12. ↑ Shoham, Ron; Permuter, Haim(2019).«"Amended Cross-Entropy Cost: An Approach for Encouraging Diversity in Classification Ensemble (Brief Announcement)"».Cyber Security Cryptography and Machine Learning.doi:10.1007/978-3-030-20951-3_18.
  13. ↑ Morishita, Terufumi; Morio, Gaku; Horiguchi, Shota; Ozaki, Hiroaki(2022-06-28).«Rethinking Fano’s Inequality in Ensemble Learning».Proceedings of the 39th International Conference on Machine Learning.PMLR.: 15976–16016.Consultat el 2024-03-06.(en en)


Referències


Obtingut de «https://lenciclopedia.org/w/index.php?title=Aprenentage_per_conjunts&oldid=1171569»