От линейного правила к ансамблю
Логистическая регрессия — модель классификации, несмотря на название. Она строит линейные оценки по признакам и преобразует их в вероятности классов. Линейная регрессия решает другую задачу: предсказание числовой цели. Не выбирайте тип модели по похожему названию столбца.Регуляризация ограничивает сложность решения. У LogisticRegression параметр C задаёт обратную силу регуляризации: меньше C означает более сильное ограничение. Это гиперпараметр, который выбирается на validation/CV. Масштаб признаков влияет на интерпретацию ограничения, поэтому линейную модель в лаборатории используем со StandardScaler.
Деревья
Дерево решений последовательно делит пространство признаков условиями. Глубокое дерево может почти запомнить train. Ограничения глубины и минимального размера листа помогают контролировать сложность. Деревья обычно не требуют стандартизации числовых признаков, но это не отменяет контракт входа и обработку пропусков согласно конкретной реализации.Random Forest усредняет множество деревьев, обученных с разнообразием данных и признаков. Gradient boosting добавляет модели последовательно, исправляя ошибки предыдущих. Эти семейства могут хорошо работать с табличными данными, но их преимущества надо проверять по одинаковой процедуре, учитывая обучение, задержку и размер артефакта.
Выбор по требованиям
Начните с простой модели, которую можете объяснить и воспроизвести. Сравните качество, время обучения, время запроса и потребление памяти. Победа по одной метрике не делает модель лучшим выбором для ограниченного CPU-сервиса. Не добавляйте нейросеть до понимания данных и baseline.Пример показывает различие обучения и проверки: дерево fit получает train, а predict — отдельные строки. Для реального сравнения моделей используйте одинаковые folds, а не множество случайных test-разбиений в поиске удачного результата.