|
這篇文章教你如何使用 Lazy Predict 運行超過 40 個機器學習模型進行回歸項目。 假設你需要執(zhí)行一項回歸機器學習項目。你已經(jīng)分析了你的數(shù)據(jù)，進行了一些數(shù)據(jù)清洗，創(chuàng)建了一些虛擬變量，現(xiàn)在，是時候運行機器學習回歸模型了。你想到的十大模型有哪些？大多數(shù)人可能都不知道有“十大回歸模型”。如果你不知道，也不必擔心，因為在本文的最后，你不僅可以運行 10 個機器學習回歸模型，而且能運行 40 多個機器學習回歸模型。 幾周前，我在博客上發(fā)表了一篇名為《如何用幾行代碼運行 30 個機器學習模型》（How to Run 30 Machine Learning Models with a Few Lines of Code）的文章，反響非常好。實際上，這是我到目前為止最受歡迎的博文。在那篇博文中，我創(chuàng)建了一個分類項目來嘗試 Lazy Predict?，F(xiàn)在，我要在一個回歸項目測試 Lazy Predict。因此，我將使用典型的西雅圖房價數(shù)據(jù)集，在 Kaggle 上就能找到。 不需要很多代碼，Lazy Predict 就能幫助構(gòu)建幾十個模型，并幫助了解哪些模型在不經(jīng)過任何參數(shù)調(diào)整的情況下工作得更好。說明其工作原理的最好方法就是使用一個小項目，現(xiàn)在就開始吧。 首先，要安裝 Lazy Predict，你可以pip install lazypredict回歸項目到你的終端。簡單得很。接下來，讓我們導入一些用于本項目的庫。你可以在這里找到完整的 Notebook。 # Importing important libraries
import pyforest
from lazypredict.Supervised import LazyRegressor
from pandas.plotting import scatter_matrix
# Scikit-learn packages
from sklearn.linear_model import LinearRegression
from sklearn.tree import DecisionTreeRegressor
from sklearn.ensemble import ExtraTreesRegressor
from sklearn import metrics
from sklearn.metrics import mean_squared_error
# Hide warnings
import warnings
warnings.filterwarnings(“ignore”)
# Setting up max columns displayed to 100
pd.options.display.max_columns = 100
你可以看到我導入了pyforest而非 Pandas 和 Numpy。在 Notebook 中，PyForest 可以非常快速地導入所有重要的庫。我寫了一篇關于它的博文，你可以在 這里 找到。接下來，讓我們來導入數(shù)據(jù)集。 # Import dataset
df = pd.read_csv('../data/kc_house_data_train.csv', index_col=0)
看看這個數(shù)據(jù)集是什么樣子。 
下面我們來檢查一下數(shù)據(jù)類型。 # Checking datatimes and null values
df.info()
下面是吸引我注意力的幾件事情。第一件是id列與這個小項目沒有任何關聯(lián)。但是，如果你想更深入地研究這個項目，你應該檢查是否存在重復項。另外，date列是一個對象類型。應將其改為 DateTime 類型。這些列中的zipcode，lat和long可能與價格幾乎或者根本沒有關聯(lián)。然而，因為本項目的目標是演示lazy predict，所以我會保留它們。 接下來，在運行第一個模型之前，讓我們檢查一些統(tǒng)計數(shù)據(jù)，以找出需要修改的地方。 
是的，我看到了一些有趣的事情。首先，有一所房子有 33 間臥室，那不可能是真的。所以我在網(wǎng)上查了一下，結(jié)果發(fā)現(xiàn)我用它的id找到了這套房子，它實際上有 3 間臥室。你可以在 這里 找到這套房子。此外，有些房子看上去沒有衛(wèi)生間。我會包括至少 1 個衛(wèi)生間，這樣我們就可以完成數(shù)據(jù)清理了。 # Fixing house with 33 bedrooms
df[df['bedrooms'] == 33] = df[df['bedrooms'] == 3]
# This will add 1 bathroom to houses without any bathroom
df['bathrooms'] = df.bedrooms.apply(lambda x: 1 if x < 1 else x)
我們現(xiàn)在可以拆分訓練集和測試集了。但是在此之前，讓我們確保代碼不會出現(xiàn)nan或infinite的值。 # Removing nan and infinite values
df.replace([np.inf, -np.inf], np.nan, inplace=True)
df.dropna(inplace=True)
現(xiàn)在將數(shù)據(jù)集分為 X 和 Y 兩個變量。我會給訓練集分配 75% 的數(shù)據(jù)集，給測試集 25%。 # Creating train test split
X = df.drop(columns=['price])
y = df.price
# Call train_test_split on the data and capture the results
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=3,test_size=0.25)
是時候找點樂子了！下面的代碼將運行 40 多個模型，并顯示每個模型的 R-Squared 和 RMSE。做好準備，開始！ reg = LazyRegressor(ignore_warnings=False, custom_metric=None)
models, predictions = reg.fit(X_train, X_test, y_train, y_test)
print(models)
哇！對于花費在上面的工作來說，這些結(jié)果非常好。對普通模型而言，這些都是非常好的 R-Squared 和 RMSE。就像我們看到的，我們運行了 41 個普通模型，并且得到了我們需要的指標，你可以看到每個模型所花費的時間。一點也不差。那么，你如何確定這些結(jié)果是否正確呢？通過運行一個模型，我們可以查看結(jié)果，看它是否和我們得到的結(jié)果相近。我們要不要測試一下基于直方圖的梯度提升回歸樹？如果你從未聽說過這種算法，不要擔心，因為我也從沒聽說過它。你可以在 這里 找到一篇關于它的文章。
首先，讓我們用 scikit-learn 導入這個模型。 # Explicitly require this experimental feature
from sklearn.experimental import enable_hist_gradient_boosting
# Now you can import normally from ensemble
from sklearn.ensemble import HistGradientBoostingRegressor
此外，我們還創(chuàng)建了一個函數(shù)來檢查模型的度量。 # Evaluation Functions
def rmse(model, y_test, y_pred, X_train, y_train):
r_squared = model.score(X_test, y_test)
mse = mean_squared_error(y_test, y_pred)
rmse = np.sqrt(mse)
print('R-squared: ' + str(r_squared))
print('Mean Squared Error: '+ str(rmse))
# Create model line scatter plot
def scatter_plot(y_test, y_pred, model_name):
plt.figure(figsize=(10,6))
sns.residplot(y_test, y_pred, lowess=True, color='#4682b4',
line_kws={'lw': 2, 'color': 'r'})
plt.title(str('Price vs Residuals for '+ model_name))
plt.xlabel('Price',fontsize=16)
plt.xticks(fontsize=13)
plt.yticks(fontsize=13)
plt.show()
最后，我們來運行這個模型并查看結(jié)果。 # Histogram-based Gradient Boosting Regression Tree
hist = HistGradientBoostingRegressor()
hist.fit(X_train, y_train)
y_pred = hist.predict(X_test)
瞧！我們用 Lazy Predict 得到的結(jié)果和這個結(jié)果非常接近。看來這確實很管用。 Lazy Predict 是一個神奇的庫，易于使用，并且非?？焖?，只需要很少的代碼就可以運行普通模型。你可以使用 2 到 3 行的代碼來手動設置，而不需要手工設置多個普通模型。切記，不要把結(jié)果作為最終的模型，應該始終對結(jié)果進行復核，以確保庫工作正常。就像我在其他博文中提到的那樣，數(shù)據(jù)科學是一個復雜的領域，Lazy Predict 并不能取代那些優(yōu)化模型的專業(yè)人員的專業(yè)知識。請讓我知道它是如何為你工作的。 作者介紹： Ismael Araujo，在紐約工作，數(shù)據(jù)科學家、機器學習工程師。 原文鏈接： https:///how-to-run-40-regression-models-with-a-few-lines-of-code-5a24186de7d
你也「在看」嗎？??
|
