Как я могу передать категориальные и числовые функции в DecisionTreeRegressor в sklearn?
В приведенном ниже коде показано, как использовать DecisionTreeRegressor для числовых функций:
from sklearn import tree
make_tree = tree.DecisionTreeRegressor()
fit_tree = make_tree.fit(X_train, y_train)
Во-первых, все категориальные признаки должны быть закодированы (представлены числами), чтобы их можно было интерпретировать для регрессионных моделей. Для этого вы можете использовать LabelEncoder с последующим с помощью OneHotEncoder. В случае функций высокой кардинальности можно использовать FeatureHasher.
В качестве примера:
from sklearn.feature_extraction import FeatureHasher
# n_feature: number of unique values in the feature(s)
# input_type should be passed as 'string' to be compatible to pandas DataFrames
feature_hasher = FeatureHasher(n_features=5000, input_type='string')
df['COLUMN_NAME'] = feature_hasher.transform(df['COLUMN_NAME'])
Затем вы можете передать свои функции регрессору.
