ElasticNet#

class sklearn.linear_model.ElasticNet(alpha=1.0, *, l1_ratio=0.5, fit_intercept=True, precompute=False, max_iter=1000, copy_X=True, tol=0.0001, warm_start=False, positive=False, random_state=None, selection='cyclic')[原始碼]#

使用 L1 和 L2 先驗組合作為正規化項的線性迴歸。

最小化目標函數

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

如果您有興趣分別控制 L1 和 L2 懲罰,請記住這等同於

a * ||w||_1 + 0.5 * b * ||w||_2^2

其中

alpha = a + b and l1_ratio = a / (a + b)

參數 l1_ratio 對應於 glmnet R 套件中的 alpha,而 alpha 對應於 glmnet 中的 lambda 參數。具體來說,l1_ratio = 1 是 lasso 懲罰。目前,l1_ratio <= 0.01 並不可靠,除非您提供自己的 alpha 序列。

請在使用者指南中閱讀更多資訊。

參數:
alphafloat,預設值為 1.0

乘以懲罰項的常數。預設為 1.0。請參閱註釋,了解此參數的確切數學含義。alpha = 0 等同於普通最小平方法,由LinearRegression物件求解。由於數值原因,不建議使用alpha = 0Lasso物件。有鑑於此,您應該使用LinearRegression物件。

l1_ratiofloat,預設值為 0.5

ElasticNet 混合參數,其中 0 <= l1_ratio <= 1。當 l1_ratio = 0 時,懲罰為 L2 懲罰。當 l1_ratio = 1 時,懲罰為 L1 懲罰。對於 0 < l1_ratio < 1,懲罰是 L1 和 L2 的組合。

fit_interceptbool,預設值為 True

是否應估計截距。如果為 False,則假設資料已置中。

precomputebool 或形狀為 (n_features, n_features) 的類陣列,預設值為 False

是否使用預先計算的葛蘭姆矩陣來加速計算。葛蘭姆矩陣也可以作為參數傳遞。對於稀疏輸入,此選項始終為 False 以保留稀疏性。請查看如何在 ElasticNet 中使用預先計算的葛蘭姆矩陣的範例以了解詳細資訊。

max_iterint,預設值為 1000

最大迭代次數。

copy_Xbool,預設值為 True

如果為 True,則會複製 X;否則,可能會覆寫 X。

tolfloat,預設值為 1e-4

最佳化的容差:如果更新小於 tol,則最佳化程式碼會檢查對偶間隙以確保最佳性,並繼續直到它小於 tol,請參閱下面的註解。

warm_startbool,預設值為 False

當設定為 True 時,會重複使用先前呼叫擬合的解作為初始化,否則只會清除先前的解。請參閱詞彙表

positivebool,預設值為 False

當設定為 True 時,會強制係數為正數。

random_stateint,RandomState 實例,預設值為 None

選擇隨機特徵以進行更新的偽隨機數產生器的種子。當 selection == 'random' 時使用。傳遞一個 int 以在多個函數呼叫中產生可重複的輸出。請參閱詞彙表

selection{‘cyclic’, ‘random’},預設值為 ‘cyclic’

如果設定為 ‘random’,則每次迭代都會更新隨機係數,而不是預設情況下按順序循環遍歷特徵。這(設定為 ‘random’)通常會導致更快的收斂,尤其是在 tol 高於 1e-4 時。

屬性:
coef_形狀為 (n_features,) 或 (n_targets, n_features) 的 ndarray

參數向量(成本函數公式中的 w)。

sparse_coef_形狀為 (n_features,) 或 (n_targets, n_features) 的稀疏矩陣

擬合 coef_ 的稀疏表示。

intercept_float 或形狀為 (n_targets,) 的 ndarray

決策函數中的獨立項。

n_iter_int 的列表

座標下降求解器為達到指定的容差而執行的迭代次數。

dual_gap_float 或形狀為 (n_targets,) 的 ndarray

給定參數 alpha,最佳化結束時的對偶間隙,與 y 的每個觀測值具有相同的形狀。

n_features_in_int

fit期間看到的特徵數量。

在 0.24 版本中新增。

feature_names_in_形狀為 (n_features_in_,) 的 ndarray

fit期間看到的特徵名稱。僅當 X 的特徵名稱都是字串時才定義。

在 1.0 版本中新增。

另請參閱

ElasticNetCV

透過交叉驗證進行最佳模型選擇的 Elastic net 模型。

SGDRegressor

實作使用增量訓練的彈性網路迴歸。

SGDClassifier

使用彈性網路懲罰實現邏輯迴歸 (SGDClassifier(loss="log_loss", penalty="elasticnet"))。

注意事項

為了避免不必要的記憶體重複,fit 方法的 X 參數應該直接作為 Fortran 連續的 NumPy 陣列傳遞。

基於 tol 的精確停止標準如下:首先,檢查最大座標更新,即 \(\max_j |w_j^{new} - w_j^{old}|\) 是否小於 tol 乘以最大絕對係數,\(\max_j |w_j|\)。如果是,則額外檢查對偶間隙是否小於 tol 乘以 \(||y||_2^2 / n_{\text{samples}}\)

範例

>>> from sklearn.linear_model import ElasticNet
>>> from sklearn.datasets import make_regression
>>> X, y = make_regression(n_features=2, random_state=0)
>>> regr = ElasticNet(random_state=0)
>>> regr.fit(X, y)
ElasticNet(random_state=0)
>>> print(regr.coef_)
[18.83816048 64.55968825]
>>> print(regr.intercept_)
1.451...
>>> print(regr.predict([[0, 0]]))
[1.451...]
fit(X, y, sample_weight=None, check_input=True)[來源]#

使用座標下降法擬合模型。

參數:
X{ndarray, 稀疏矩陣, 稀疏陣列},形狀為 (n_samples, n_features)

資料。

請注意,不接受需要 int64 索引的大型稀疏矩陣和陣列。

yndarray,形狀為 (n_samples,) 或 (n_samples, n_targets)

目標。如果需要,將轉換為 X 的 dtype。

sample_weightfloat 或類陣列,形狀為 (n_samples,),預設值為 None

樣本權重。在內部,sample_weight 向量將被重新縮放,使其總和為 n_samples

在 0.23 版本中新增。

check_inputbool,預設值為 True

允許跳過多個輸入檢查。除非您知道自己在做什麼,否則請勿使用此參數。

回傳值:
self物件

擬合的估計器。

注意事項

座標下降法是一種一次考慮資料每一列的演算法,因此如有必要,它會自動將 X 輸入轉換為 Fortran 連續的 NumPy 陣列。

為了避免記憶體重新配置,建議直接使用該格式在記憶體中配置初始資料。

get_metadata_routing()[來源]#

取得此物件的中繼資料路由。

請查看關於路由機制如何運作的使用者指南

回傳值:
routingMetadataRequest

封裝路由資訊的 MetadataRequest

get_params(deep=True)[來源]#

取得此估計器的參數。

參數:
deepbool,預設值為 True

如果為 True,將回傳此估計器和包含的子物件(即估計器)的參數。

回傳值:
paramsdict

參數名稱對應到它們的值。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[來源]#

使用座標下降法計算彈性網路路徑。

彈性網路最佳化函數對於單輸出和多輸出有所不同。

對於單輸出任務,它是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

對於多輸出任務,它是

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每列範數的總和。

請在使用者指南中閱讀更多資訊。

參數:
X{類陣列、稀疏矩陣},形狀為 (n_samples, n_features)

訓練資料。直接以 Fortran 連續資料傳遞,以避免不必要的記憶體重複。如果 y 是單輸出,則 X 可以是稀疏的。

y{類陣列、稀疏矩陣},形狀為 (n_samples,) 或 (n_samples, n_targets)

目標值。

l1_ratiofloat,預設值為 0.5

傳遞給彈性網路的介於 0 和 1 之間的數字(l1 和 l2 懲罰之間的縮放)。l1_ratio=1 對應於 Lasso。

epsfloat,預設值為 1e-3

路徑長度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3

n_alphasint,預設值為 100

沿著正規化路徑的 alpha 數量。

alphas類陣列,預設值為 None

計算模型的 alpha 列表。如果為 None,則會自動設定 alpha。

precompute‘auto’、bool 或類陣列,形狀為 (n_features, n_features),預設值為 ‘auto’

是否使用預先計算的 Gram 矩陣來加速計算。如果設定為 'auto',則由我們決定。Gram 矩陣也可以作為參數傳遞。

Xy類陣列,形狀為 (n_features,) 或 (n_features, n_targets),預設值為 None

Xy = np.dot(X.T, y) 可以預先計算。僅當預先計算 Gram 矩陣時才有用。

copy_Xbool,預設值為 True

如果為 True,則會複製 X;否則,可能會覆寫 X。

coef_init類陣列,形狀為 (n_features, ),預設值為 None

係數的初始值。

verbosebool 或 int,預設值為 False

詳細程度。

return_n_iterbool,預設值為 False

是否回傳迭代次數。

positivebool,預設值為 False

如果設定為 True,則強制係數為正數。(僅當 y.ndim == 1 時允許)。

check_inputbool,預設值為 True

如果設定為 False,則會跳過輸入驗證檢查(包括提供的 Gram 矩陣)。假設它們由呼叫者處理。

**paramskwargs

傳遞給座標下降求解器的關鍵字引數。

回傳值:
alphasndarray,形狀為 (n_alphas,)

計算模型的路徑上的 alpha。

coefsndarray,形狀為 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas)

沿著路徑的係數。

dual_gapsndarray,形狀為 (n_alphas,)

每個 alpha 的最佳化結束時的對偶間隙。

n_itersint 的列表

座標下降最佳化器達到每個 alpha 指定容差所需的迭代次數。(當 return_n_iter 設定為 True 時回傳)。

另請參閱

MultiTaskElasticNet

使用 L1/L2 混合範數作為正規化器的多任務 ElasticNet 模型。

MultiTaskElasticNetCV

具有內建交叉驗證的多任務 L1/L2 ElasticNet。

ElasticNet

使用 L1 和 L2 先驗組合作為正規化項的線性迴歸。

ElasticNetCV

沿著正規化路徑進行迭代擬合的 Elastic Net 模型。

注意事項

範例請參閱 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py

範例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])
predict(X)[來源]#

使用線性模型進行預測。

參數:
X類陣列或稀疏矩陣,形狀為 (n_samples, n_features)

樣本。

回傳值:
C陣列,形狀為 (n_samples,)

回傳預測值。

score(X, y, sample_weight=None)[原始碼]#

回傳預測的決定係數。

決定係數 \(R^2\) 定義為 \((1 - \frac{u}{v})\),其中 \(u\) 是殘差平方和 ((y_true - y_pred)** 2).sum(),而 \(v\) 是總平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳分數為 1.0,且可能為負值(因為模型可能任意地差)。一個總是預測 y 的期望值,而忽略輸入特徵的常數模型,將會得到 \(R^2\) 分數 0.0。

參數:
X形狀為 (n_samples, n_features) 的類陣列

測試樣本。對於某些估計器,這可能是一個預先計算的核矩陣或一個形狀為 (n_samples, n_samples_fitted) 的通用物件列表,其中 n_samples_fitted 是估計器擬合中使用的樣本數量。

y形狀為 (n_samples,) 或 (n_samples, n_outputs) 的類陣列

X 的真實值。

sample_weight形狀為 (n_samples,) 的類陣列,預設為 None

樣本權重。

回傳值:
score浮點數

self.predict(X) 相對於 y\(R^2\)

注意事項

當在回歸器上調用 score 時使用的 \(R^2\) 分數,從 0.23 版本開始使用 multioutput='uniform_average',以保持與 r2_score 的預設值一致。這會影響所有多輸出回歸器的 score 方法(除了 MultiOutputRegressor)。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNet[原始碼]#

請求傳遞給 fit 方法的中繼資料。

請注意,只有在 enable_metadata_routing=True 時此方法才相關(請參閱 sklearn.set_config)。請參閱關於路由機制如何運作的 使用者指南

每個參數的選項為

  • True:請求中繼資料,並在提供時傳遞給 fit。如果未提供中繼資料,則會忽略請求。

  • False:不請求中繼資料,且元估計器不會將其傳遞給 fit

  • None:不請求中繼資料,且如果使用者提供,則元估計器會引發錯誤。

  • str:中繼資料應以指定的別名而不是原始名稱傳遞給元估計器。

預設值 (sklearn.utils.metadata_routing.UNCHANGED) 保留現有的請求。這允許您變更某些參數的請求,而其他參數則不變。

在 1.3 版本中新增。

注意

只有當此估計器用作元估計器的子估計器時,此方法才相關,例如,在 Pipeline 內部使用。否則,它沒有任何效果。

參數:
sample_weightstr、True、False 或 None,預設為 sklearn.utils.metadata_routing.UNCHANGED

fitsample_weight 參數的中繼資料路由。

回傳值:
self物件

更新後的物件。

set_params(**params)[原始碼]#

設定此估計器的參數。

此方法適用於簡單的估計器以及巢狀物件(例如 Pipeline)。後者具有 <component>__<parameter> 形式的參數,以便可以更新巢狀物件的每個元件。

參數:
**paramsdict

估計器參數。

回傳值:
self估計器實例

估計器實例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNet[原始碼]#

請求傳遞給 score 方法的中繼資料。

請注意,只有在 enable_metadata_routing=True 時此方法才相關(請參閱 sklearn.set_config)。請參閱關於路由機制如何運作的 使用者指南

每個參數的選項為

  • True:請求中繼資料,並在提供時傳遞給 score。如果未提供中繼資料,則會忽略請求。

  • False:不請求中繼資料,且元估計器不會將其傳遞給 score

  • None:不請求中繼資料,且如果使用者提供,則元估計器會引發錯誤。

  • str:中繼資料應以指定的別名而不是原始名稱傳遞給元估計器。

預設值 (sklearn.utils.metadata_routing.UNCHANGED) 保留現有的請求。這允許您變更某些參數的請求,而其他參數則不變。

在 1.3 版本中新增。

注意

只有當此估計器用作元估計器的子估計器時,此方法才相關,例如,在 Pipeline 內部使用。否則,它沒有任何效果。

參數:
sample_weightstr、True、False 或 None,預設為 sklearn.utils.metadata_routing.UNCHANGED

scoresample_weight 參數的中繼資料路由。

回傳值:
self物件

更新後的物件。

property sparse_coef_#

擬合 coef_ 的稀疏表示。