Как улучшить качество прогнозных моделей с помощью переменных — правил случайного леса?

В статье пойдет речь о том, как можно улучшить модель логистической регрессии с помощью признаков, полученных на основе правил случайного леса с использованием пакета R inTrees. Как построить ансамбль деревьев, извлечь правила из ансамбля и измерить качество правил? Какими способами можно извлечь компактный набор релевантных и неизбыточных правил? Что представляет собой метод направленного регуляризованного случайного леса? Как конструировать переменные на основе правил случайного леса и использовать их для улучшения модели логистической регрессии?