ElasticNet#
- class sklearn.linear_model.ElasticNet(alpha=1.0, *, l1_ratio=0.5, fit_intercept=True, precompute=False, max_iter=1000, copy_X=True, tol=0.0001, warm_start=False, positive=False, random_state=None, selection='cyclic')[原始碼]#
使用 L1 和 L2 先驗組合作為正規化項的線性迴歸。
最小化目標函數
1 / (2 * n_samples) * ||y - Xw||^2_2 + alpha * l1_ratio * ||w||_1 + 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2
如果您有興趣分別控制 L1 和 L2 懲罰,請記住這等同於
a * ||w||_1 + 0.5 * b * ||w||_2^2
其中
alpha = a + b and l1_ratio = a / (a + b)
參數 l1_ratio 對應於 glmnet R 套件中的 alpha,而 alpha 對應於 glmnet 中的 lambda 參數。具體來說,l1_ratio = 1 是 lasso 懲罰。目前,l1_ratio <= 0.01 並不可靠,除非您提供自己的 alpha 序列。
請在使用者指南中閱讀更多資訊。
- 參數:
- alphafloat,預設值為 1.0
乘以懲罰項的常數。預設為 1.0。請參閱註釋,了解此參數的確切數學含義。
alpha = 0
等同於普通最小平方法,由LinearRegression
物件求解。由於數值原因,不建議使用alpha = 0
的Lasso
物件。有鑑於此,您應該使用LinearRegression
物件。- l1_ratiofloat,預設值為 0.5
ElasticNet 混合參數,其中
0 <= l1_ratio <= 1
。當l1_ratio = 0
時,懲罰為 L2 懲罰。當l1_ratio = 1
時,懲罰為 L1 懲罰。對於0 < l1_ratio < 1
,懲罰是 L1 和 L2 的組合。- fit_interceptbool,預設值為 True
是否應估計截距。如果為
False
,則假設資料已置中。- precomputebool 或形狀為 (n_features, n_features) 的類陣列,預設值為 False
是否使用預先計算的葛蘭姆矩陣來加速計算。葛蘭姆矩陣也可以作為參數傳遞。對於稀疏輸入,此選項始終為
False
以保留稀疏性。請查看如何在 ElasticNet 中使用預先計算的葛蘭姆矩陣的範例以了解詳細資訊。- max_iterint,預設值為 1000
最大迭代次數。
- copy_Xbool,預設值為 True
如果為
True
,則會複製 X;否則,可能會覆寫 X。- tolfloat,預設值為 1e-4
最佳化的容差:如果更新小於
tol
,則最佳化程式碼會檢查對偶間隙以確保最佳性,並繼續直到它小於tol
,請參閱下面的註解。- warm_startbool,預設值為 False
當設定為
True
時,會重複使用先前呼叫擬合的解作為初始化,否則只會清除先前的解。請參閱詞彙表。- positivebool,預設值為 False
當設定為
True
時,會強制係數為正數。- random_stateint,RandomState 實例,預設值為 None
選擇隨機特徵以進行更新的偽隨機數產生器的種子。當
selection
== 'random' 時使用。傳遞一個 int 以在多個函數呼叫中產生可重複的輸出。請參閱詞彙表。- selection{‘cyclic’, ‘random’},預設值為 ‘cyclic’
如果設定為 ‘random’,則每次迭代都會更新隨機係數,而不是預設情況下按順序循環遍歷特徵。這(設定為 ‘random’)通常會導致更快的收斂,尤其是在 tol 高於 1e-4 時。
- 屬性:
- coef_形狀為 (n_features,) 或 (n_targets, n_features) 的 ndarray
參數向量(成本函數公式中的 w)。
sparse_coef_
形狀為 (n_features,) 或 (n_targets, n_features) 的稀疏矩陣擬合
coef_
的稀疏表示。- intercept_float 或形狀為 (n_targets,) 的 ndarray
決策函數中的獨立項。
- n_iter_int 的列表
座標下降求解器為達到指定的容差而執行的迭代次數。
- dual_gap_float 或形狀為 (n_targets,) 的 ndarray
給定參數 alpha,最佳化結束時的對偶間隙,與 y 的每個觀測值具有相同的形狀。
- n_features_in_int
在fit期間看到的特徵數量。
在 0.24 版本中新增。
- feature_names_in_形狀為 (
n_features_in_
,) 的 ndarray 在fit期間看到的特徵名稱。僅當
X
的特徵名稱都是字串時才定義。在 1.0 版本中新增。
另請參閱
ElasticNetCV
透過交叉驗證進行最佳模型選擇的 Elastic net 模型。
SGDRegressor
實作使用增量訓練的彈性網路迴歸。
SGDClassifier
使用彈性網路懲罰實現邏輯迴歸 (
SGDClassifier(loss="log_loss", penalty="elasticnet")
)。
注意事項
為了避免不必要的記憶體重複,fit 方法的 X 參數應該直接作為 Fortran 連續的 NumPy 陣列傳遞。
基於
tol
的精確停止標準如下:首先,檢查最大座標更新,即 \(\max_j |w_j^{new} - w_j^{old}|\) 是否小於tol
乘以最大絕對係數,\(\max_j |w_j|\)。如果是,則額外檢查對偶間隙是否小於tol
乘以 \(||y||_2^2 / n_{\text{samples}}\)。範例
>>> from sklearn.linear_model import ElasticNet >>> from sklearn.datasets import make_regression
>>> X, y = make_regression(n_features=2, random_state=0) >>> regr = ElasticNet(random_state=0) >>> regr.fit(X, y) ElasticNet(random_state=0) >>> print(regr.coef_) [18.83816048 64.55968825] >>> print(regr.intercept_) 1.451... >>> print(regr.predict([[0, 0]])) [1.451...]
- fit(X, y, sample_weight=None, check_input=True)[來源]#
使用座標下降法擬合模型。
- 參數:
- X{ndarray, 稀疏矩陣, 稀疏陣列},形狀為 (n_samples, n_features)
資料。
請注意,不接受需要
int64
索引的大型稀疏矩陣和陣列。- yndarray,形狀為 (n_samples,) 或 (n_samples, n_targets)
目標。如果需要,將轉換為 X 的 dtype。
- sample_weightfloat 或類陣列,形狀為 (n_samples,),預設值為 None
樣本權重。在內部,
sample_weight
向量將被重新縮放,使其總和為n_samples
。在 0.23 版本中新增。
- check_inputbool,預設值為 True
允許跳過多個輸入檢查。除非您知道自己在做什麼,否則請勿使用此參數。
- 回傳值:
- self物件
擬合的估計器。
注意事項
座標下降法是一種一次考慮資料每一列的演算法,因此如有必要,它會自動將 X 輸入轉換為 Fortran 連續的 NumPy 陣列。
為了避免記憶體重新配置,建議直接使用該格式在記憶體中配置初始資料。
- get_metadata_routing()[來源]#
取得此物件的中繼資料路由。
請查看關於路由機制如何運作的使用者指南。
- 回傳值:
- routingMetadataRequest
封裝路由資訊的
MetadataRequest
。
- get_params(deep=True)[來源]#
取得此估計器的參數。
- 參數:
- deepbool,預設值為 True
如果為 True,將回傳此估計器和包含的子物件(即估計器)的參數。
- 回傳值:
- paramsdict
參數名稱對應到它們的值。
- static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[來源]#
使用座標下降法計算彈性網路路徑。
彈性網路最佳化函數對於單輸出和多輸出有所不同。
對於單輸出任務,它是
1 / (2 * n_samples) * ||y - Xw||^2_2 + alpha * l1_ratio * ||w||_1 + 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2
對於多輸出任務,它是
(1 / (2 * n_samples)) * ||Y - XW||_Fro^2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
其中
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每列範數的總和。
請在使用者指南中閱讀更多資訊。
- 參數:
- X{類陣列、稀疏矩陣},形狀為 (n_samples, n_features)
訓練資料。直接以 Fortran 連續資料傳遞,以避免不必要的記憶體重複。如果
y
是單輸出,則X
可以是稀疏的。- y{類陣列、稀疏矩陣},形狀為 (n_samples,) 或 (n_samples, n_targets)
目標值。
- l1_ratiofloat,預設值為 0.5
傳遞給彈性網路的介於 0 和 1 之間的數字(l1 和 l2 懲罰之間的縮放)。
l1_ratio=1
對應於 Lasso。- epsfloat,預設值為 1e-3
路徑長度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphasint,預設值為 100
沿著正規化路徑的 alpha 數量。
- alphas類陣列,預設值為 None
計算模型的 alpha 列表。如果為 None,則會自動設定 alpha。
- precompute‘auto’、bool 或類陣列,形狀為 (n_features, n_features),預設值為 ‘auto’
是否使用預先計算的 Gram 矩陣來加速計算。如果設定為
'auto'
,則由我們決定。Gram 矩陣也可以作為參數傳遞。- Xy類陣列,形狀為 (n_features,) 或 (n_features, n_targets),預設值為 None
Xy = np.dot(X.T, y) 可以預先計算。僅當預先計算 Gram 矩陣時才有用。
- copy_Xbool,預設值為 True
如果為
True
,則會複製 X;否則,可能會覆寫 X。- coef_init類陣列,形狀為 (n_features, ),預設值為 None
係數的初始值。
- verbosebool 或 int,預設值為 False
詳細程度。
- return_n_iterbool,預設值為 False
是否回傳迭代次數。
- positivebool,預設值為 False
如果設定為 True,則強制係數為正數。(僅當
y.ndim == 1
時允許)。- check_inputbool,預設值為 True
如果設定為 False,則會跳過輸入驗證檢查(包括提供的 Gram 矩陣)。假設它們由呼叫者處理。
- **paramskwargs
傳遞給座標下降求解器的關鍵字引數。
- 回傳值:
- alphasndarray,形狀為 (n_alphas,)
計算模型的路徑上的 alpha。
- coefsndarray,形狀為 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas)
沿著路徑的係數。
- dual_gapsndarray,形狀為 (n_alphas,)
每個 alpha 的最佳化結束時的對偶間隙。
- n_itersint 的列表
座標下降最佳化器達到每個 alpha 指定容差所需的迭代次數。(當
return_n_iter
設定為 True 時回傳)。
另請參閱
MultiTaskElasticNet
使用 L1/L2 混合範數作為正規化器的多任務 ElasticNet 模型。
MultiTaskElasticNetCV
具有內建交叉驗證的多任務 L1/L2 ElasticNet。
ElasticNet
使用 L1 和 L2 先驗組合作為正規化項的線性迴歸。
ElasticNetCV
沿著正規化路徑進行迭代擬合的 Elastic Net 模型。
注意事項
範例請參閱 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。
範例
>>> from sklearn.linear_model import enet_path >>> from sklearn.datasets import make_regression >>> X, y, true_coef = make_regression( ... n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0 ... ) >>> true_coef array([ 0. , 0. , 0. , 97.9..., 45.7...]) >>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3) >>> alphas.shape (3,) >>> estimated_coef array([[ 0. , 0.78..., 0.56...], [ 0. , 1.12..., 0.61...], [-0. , -2.12..., -1.12...], [ 0. , 23.04..., 88.93...], [ 0. , 10.63..., 41.56...]])
- predict(X)[來源]#
使用線性模型進行預測。
- 參數:
- X類陣列或稀疏矩陣,形狀為 (n_samples, n_features)
樣本。
- 回傳值:
- C陣列,形狀為 (n_samples,)
回傳預測值。
- score(X, y, sample_weight=None)[原始碼]#
回傳預測的決定係數。
決定係數 \(R^2\) 定義為 \((1 - \frac{u}{v})\),其中 \(u\) 是殘差平方和
((y_true - y_pred)** 2).sum()
,而 \(v\) 是總平方和((y_true - y_true.mean()) ** 2).sum()
。最佳分數為 1.0,且可能為負值(因為模型可能任意地差)。一個總是預測y
的期望值,而忽略輸入特徵的常數模型,將會得到 \(R^2\) 分數 0.0。- 參數:
- X形狀為 (n_samples, n_features) 的類陣列
測試樣本。對於某些估計器,這可能是一個預先計算的核矩陣或一個形狀為
(n_samples, n_samples_fitted)
的通用物件列表,其中n_samples_fitted
是估計器擬合中使用的樣本數量。- y形狀為 (n_samples,) 或 (n_samples, n_outputs) 的類陣列
X
的真實值。- sample_weight形狀為 (n_samples,) 的類陣列,預設為 None
樣本權重。
- 回傳值:
- score浮點數
self.predict(X)
相對於y
的 \(R^2\)。
注意事項
當在回歸器上調用
score
時使用的 \(R^2\) 分數,從 0.23 版本開始使用multioutput='uniform_average'
,以保持與r2_score
的預設值一致。這會影響所有多輸出回歸器的score
方法(除了MultiOutputRegressor
)。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNet [原始碼]#
請求傳遞給
fit
方法的中繼資料。請注意,只有在
enable_metadata_routing=True
時此方法才相關(請參閱sklearn.set_config
)。請參閱關於路由機制如何運作的 使用者指南。每個參數的選項為
True
:請求中繼資料,並在提供時傳遞給fit
。如果未提供中繼資料,則會忽略請求。False
:不請求中繼資料,且元估計器不會將其傳遞給fit
。None
:不請求中繼資料,且如果使用者提供,則元估計器會引發錯誤。str
:中繼資料應以指定的別名而不是原始名稱傳遞給元估計器。
預設值 (
sklearn.utils.metadata_routing.UNCHANGED
) 保留現有的請求。這允許您變更某些參數的請求,而其他參數則不變。在 1.3 版本中新增。
注意
只有當此估計器用作元估計器的子估計器時,此方法才相關,例如,在
Pipeline
內部使用。否則,它沒有任何效果。- 參數:
- sample_weightstr、True、False 或 None,預設為 sklearn.utils.metadata_routing.UNCHANGED
fit
中sample_weight
參數的中繼資料路由。
- 回傳值:
- self物件
更新後的物件。
- set_params(**params)[原始碼]#
設定此估計器的參數。
此方法適用於簡單的估計器以及巢狀物件(例如
Pipeline
)。後者具有<component>__<parameter>
形式的參數,以便可以更新巢狀物件的每個元件。- 參數:
- **paramsdict
估計器參數。
- 回傳值:
- self估計器實例
估計器實例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNet [原始碼]#
請求傳遞給
score
方法的中繼資料。請注意,只有在
enable_metadata_routing=True
時此方法才相關(請參閱sklearn.set_config
)。請參閱關於路由機制如何運作的 使用者指南。每個參數的選項為
True
:請求中繼資料,並在提供時傳遞給score
。如果未提供中繼資料,則會忽略請求。False
:不請求中繼資料,且元估計器不會將其傳遞給score
。None
:不請求中繼資料,且如果使用者提供,則元估計器會引發錯誤。str
:中繼資料應以指定的別名而不是原始名稱傳遞給元估計器。
預設值 (
sklearn.utils.metadata_routing.UNCHANGED
) 保留現有的請求。這允許您變更某些參數的請求,而其他參數則不變。在 1.3 版本中新增。
注意
只有當此估計器用作元估計器的子估計器時,此方法才相關,例如,在
Pipeline
內部使用。否則,它沒有任何效果。- 參數:
- sample_weightstr、True、False 或 None,預設為 sklearn.utils.metadata_routing.UNCHANGED
score
中sample_weight
參數的中繼資料路由。
- 回傳值:
- self物件
更新後的物件。
- property sparse_coef_#
擬合
coef_
的稀疏表示。