目录
1、模型选择与调优
1.1 交叉验证
1.2 超参数搜索 - 网格搜索
1.3 模型选择与调优 API
1.4 鸢尾花案例增加K值调优
- sklearn转换器和估算器
- KNN算法
- 模型选择和调优
- 朴素贝叶斯算法
- 决策树
- 随机森林
1、模型选择与调优
1.1 交叉验证
1.2 超参数搜索 - 网格搜索
文章来源:https://www.toymoban.com/news/detail-836636.html
1.3 模型选择与调优 API
文章来源地址https://www.toymoban.com/news/detail-836636.html
1.4 鸢尾花案例增加K值调优
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split, GridSearchCV
from sklearn.neighbors import KNeighborsClassifier
from sklearn.preprocessing import StandardScaler
def knn_iris():
# 用KNN 算法对鸢尾花进行分类
# 1、获取数据
iris = load_iris()
# 2、划分数据集
x_train,x_test,y_train,y_test = train_test_split(iris.data,iris.target,random_state=6)
# 3、特征工程 - 标准化
transfer = StandardScaler()
x_train = transfer.fit_transform(x_train)
x_test = transfer.transform(x_test)
# 4、KNN 算法预估器
estimator = KNeighborsClassifier(n_neighbors=3)
estimator.fit(x_train,y_train)
# 5、模型评估
# 方法1 :直接比对真实值和预测值
y_predict = estimator.predict(x_test)
print("y_predict:\n",y_predict)
print("直接比对真实值和预测值:\n",y_test == y_predict)
# 方法2:计算准确率
score = estimator.score(x_test,y_test)
print("准确率为:\n",score)
return None
def knn_iris_gscv():
# 用KNN 算法对鸢尾花进行分类,添加网格搜索和交叉验证
# 1、获取数据
iris = load_iris()
# 2、划分数据集
x_train,x_test,y_train,y_test = train_test_split(iris.data,iris.target,random_state=6)
# 3、特征工程 - 标准化
transfer = StandardScaler()
x_train = transfer.fit_transform(x_train)
x_test = transfer.transform(x_test)
# 4、KNN 算法预估器
estimator = KNeighborsClassifier()
# 加入网格搜索和交叉验证
# 参数准备
param_dict = {"n_neighbors":[1,3,5,7,9,11]}
estimator = GridSearchCV(estimator,param_grid=param_dict,cv=10)
estimator.fit(x_train,y_train)
# 5、模型评估
# 方法1 :直接比对真实值和预测值
y_predict = estimator.predict(x_test)
print("y_predict:\n",y_predict)
print("直接比对真实值和预测值:\n",y_test == y_predict)
# 方法2:计算准确率
score = estimator.score(x_test,y_test)
print("准确率为:\n",score)
# 最佳参数:best_params_
print("最佳参数:\n",estimator.best_params_)
# 最佳结果:best_score_
print("最佳结果:\n",estimator.best_score_)
# 最佳估计值:best_estimator_
print("最佳估计值:\n",estimator.best_estimator_)
# 交叉验证结果:cv_results_
print("交叉验证结果:\n",estimator.cv_results_)
return None
if __name__ == "__main__":
# 代码1 :用KNN算法对鸢尾花进行分类
knn_iris()
# 代码2 :用KNN算法对鸢尾花进行分类,添加网格搜索和交叉验证
knn_iris_gscv()
到了这里,关于四、分类算法 - 模型选择与调优的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!