使用 GridSearchCV 和 KerasClassifier 调整超参数
超参数调整是通过调整神经网络的参数来提高模型的效率。一些 scikit-learn API，如 GridSearchCV 和 RandomizedSearchCV 用于执行超参数调整。
在本文中，您将学习如何使用 GridSearchCV 来调整 Keras 神经网络超参数。
方法：
- 我们将使用 KerasClassifier 包装 Keras 模型，以便在 scikit-learn 中使用，这是一个包装器。
- 我们将使用 KerasClassifier 和 GridSearchCV 进行交叉验证
- 调整超参数，如时期数、神经元数量和批量大小。
用于 Keras 的 scikit-learn 分类器 API 的实现：
tf.keras.wrappers.scikit_learn.KerasClassifier(
build_fn=None, **sk_params
)
代码：
# import the libraries
import tensorflow as tf
import pandas as pd
from sklearn.compose import ColumnTransformer
from sklearn.preprocessing import OneHotEncoder
from keras.wrappers.scikit_learn import KerasClassifier
from sklearn.model_selection import GridSearchCV
from sklearn.preprocessing import LabelEncoder
from sklearn.preprocessing import StandardScaler
数据集可以从这里下载
导入数据集，我们将使用该数据集预测客户是留下还是离开。
代码：
# The last column is a binary value
dataset = pd.read_csv('Churn_Modelling.csv')
X = dataset.iloc[:, 3:-1].values
y = dataset.iloc[:, -1].values
代码：预处理数据
le = LabelEncoder()
X[:, 2] = le.fit_transform(X[:, 2])
#perform one hot encoding
ct = ColumnTransformer(transformers=[('encoder', OneHotEncoder(), [1])], remainder='passthrough')
X = np.array(ct.fit_transform(X))
# perform standardization of the data.
sc = StandardScaler()
X = sc.fit_transform(X)
要使用 KerasClassifier 包装器，我们需要在一个函数中构建我们的模型，该函数需要传递给 KerasClassifier 构造函数中的build_fn参数。
代码：
def build_clf(unit):
# creating the layers of the NN
ann = tf.keras.models.Sequential()
ann.add(tf.keras.layers.Dense(units=unit, activation='relu'))
ann.add(tf.keras.layers.Dense(units=unit, activation='relu'))
ann.add(tf.keras.layers.Dense(units=1, activation='sigmoid'))
ann.compile(optimizer = 'adam', loss = 'binary_crossentropy', metrics = ['accuracy'])
return ann
代码：创建KerasClassifier类的对象
model=KerasClassifier(build_fn=build_clf)
现在我们将创建我们想要调整的参数的字典，并作为 GridSearchCV 中的参数传递。
代码：
params={'batch_size':[100, 20, 50, 25, 32],
'nb_epoch':[200, 100, 300, 400],
'unit':[5,6, 10, 11, 12, 15],
}
gs=GridSearchCV(estimator=model, param_grid=params, cv=10)
# now fit the dataset to the GridSearchCV object.
gs = gs.fit(X, y)
best_score_成员给出了在优化过程中观察到的最佳分数，而best_params_描述了获得最佳结果的参数组合。
代码：
best_params=gs.best_params_
accuracy=gs.best_score_