Description

• Title:
  The Problem of Redundant Variables in Random Forests
• Creator:
  Kubus, Mariusz
• Contributor:
  Opole University of Technology, Faculty of Production Engineering and Logistics, Department of Mathematics and IT Applications;
  marikubu@wp.pl
• Description:
  Random forests are currently one of the most preferable methods of supervised learning among practitioners. Their popularity is influenced by the possibility of applying this method without a time consuming pre‑processing step. Random forests can be used for mixed types of features, irrespectively of their distributions. The method is robust to outliers, and feature selection is built into the learning algorithm. However, a decrease of classification accuracy can be observed in the presence of redundant variables. In this paper, we discuss two approaches to the problem of redundant variables. We consider two strategies of searching for best feature subset as well as two formulas of aggregating the features in the clusters. In the empirical experiment, we generate collinear predictors and include them in the real datasets. Dimensionality reduction methods usually improve the accuracy of random forests, but none of them clearly outperforms the others.;
  Lasy losowe są obecnie jedną z najchętniej stosowanych przez praktyków metod klasyfikacji wzorcowej. Na jej popularność wpływ ma możliwość jej stosowania bez czasochłonnego, wstępnego przygotowywania danych do analizy. Las losowy można stosować dla różnego typu zmiennych, niezależnie od ich rozkładów. Metoda ta jest odporna na obserwacje nietypowe oraz ma wbudowany mechanizm doboru zmiennych. Można jednak zauważyć spadek dokładności klasyfikacji w przypadku występowania zmiennych redundantnych. W artykule omawiane są dwa podejścia do problemu zmiennych redundantnych. Rozważane są dwa sposoby przeszukiwania w podejściu polegającym na doborze zmiennych oraz dwa sposoby konstruowania zmiennych syntetycznych w podejściu wykorzystującym grupowanie zmiennych. W eksperymencie generowane są liniowo zależne predyktory i włączane do zbiorów danych rzeczywistych. Metody redukcji wymiarowości zwykle poprawiają dokładność lasów losowych, ale żadna z nich nie wykazuje wyraźnej przewagi.
• Object availability:
  free access
• Rights:
  This work is licensed under the Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 License.;
  http://creativecommons.org/licenses/by-nc-nd/4.0
• Date:
  2019.02.14;
  2018
• Type:
  Article
• Language:
  English
• Format:
  application/pdf
• Publisher:
  Wydawnictwo Uniwersytetu Łódzkiego
• Relation:
  Acta Universitatis Lodziensis. Folia Oeconomica;339;
  6
• Subject:
  random forests;
  redundant variables;
  feature selection;
  clustering of features;
  lasy losowe;
  zmienne redundantne;
  dobór zmiennych;
  taksonomia cech;
  C1;
  C38;
  C52
• Identifier:
  0208-6018;
  http://hdl.handle.net/11089/26811 ;
  2353-7663;
  10.18778/0208-6018.339.01
• Data provider:
  Repozytorium Uniwersytetu Łódzkiego
• Can I use it?:
  check license
• Type:
  image