Scikit-learn中怎么实现模型微调

949
2024/6/6 18:42:00
栏目: 编程语言
开发者测试专用服务器限时活动,0元免费领,库存有限,领完即止! 点击查看>>

在Scikit-learn中,可以使用GridSearchCV或RandomizedSearchCV来实现模型微调。这两个方法可以帮助我们自动地搜索最优的超参数组合,从而提高模型的性能。

  1. 使用GridSearchCV进行模型微调:
from sklearn.model_selection import GridSearchCV
from sklearn.ensemble import RandomForestClassifier

# 定义要调优的参数网格
param_grid = {
    'n_estimators': [100, 200, 300],
    'max_depth': [None, 10, 20],
    'min_samples_split': [2, 5, 10]
}

# 初始化随机森林分类器
rf = RandomForestClassifier()

# 使用GridSearchCV进行模型微调
grid_search = GridSearchCV(estimator=rf, param_grid=param_grid, cv=5)
grid_search.fit(X_train, y_train)

# 输出最佳参数组合和最佳得分
print("Best parameters found: ", grid_search.best_params_)
print("Best score found: ", grid_search.best_score_)
  1. 使用RandomizedSearchCV进行模型微调:
from sklearn.model_selection import RandomizedSearchCV
from scipy.stats import randint
from sklearn.ensemble import RandomForestClassifier

# 定义要调优的参数分布
param_dist = {
    'n_estimators': randint(100, 1000),
    'max_depth': [None, 10, 20, 30],
    'min_samples_split': randint(2, 20)
}

# 初始化随机森林分类器
rf = RandomForestClassifier()

# 使用RandomizedSearchCV进行模型微调
random_search = RandomizedSearchCV(estimator=rf, param_distributions=param_dist, n_iter=100, cv=5)
random_search.fit(X_train, y_train)

# 输出最佳参数组合和最佳得分
print("Best parameters found: ", random_search.best_params_)
print("Best score found: ", random_search.best_score_)

通过以上步骤,我们可以使用GridSearchCV或RandomizedSearchCV来实现模型微调,并找到最优的超参数组合。

辰迅云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>

推荐阅读: Scikit-learn中怎么实现主成分分析