MultiTaskElasticNetCV#

class sklearn.linear_model.MultiTaskElasticNetCV(*, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, fit_intercept=True, max_iter=1000, tol=0.0001, cv=None, copy_X=True, verbose=0, n_jobs=None, random_state=None, selection='cyclic')[原始碼]#

具有內建交叉驗證的多任務 L1/L2 ElasticNet。

請參閱 交叉驗證估計器 的詞彙條目。

MultiTaskElasticNet 的最佳化目標為

(1 / (2 * n_samples)) * ||Y - XW||^Fro_2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每列範數的總和。

請在使用者指南中閱讀更多內容。

在 0.15 版本中新增。

參數:
l1_ratiofloat 或 float 列表,預設值為 0.5

ElasticNet 混合參數,其中 0 < l1_ratio <= 1。當 l1_ratio = 1 時,懲罰為 L1/L2 懲罰。當 l1_ratio = 0 時,懲罰為 L2 懲罰。對於 0 < l1_ratio < 1,懲罰是 L1/L2 和 L2 的組合。此參數可以是列表,在這種情況下,會透過交叉驗證測試不同的值,並使用提供最佳預測分數的值。請注意,l1_ratio 的值列表的好選擇通常是放置較多接近 1(即 Lasso)的值,而較少接近 0(即 Ridge)的值,如 [.1, .5, .7, .9, .95, .99, 1]

epsfloat,預設值為 1e-3

路徑的長度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3

n_alphasint,預設值為 100

沿著正規化路徑的 alpha 數量。

alphas類陣列,預設值為 None

計算模型的 alpha 列表。如果未提供,則會自動設定。

fit_interceptbool,預設值為 True

是否計算此模型的截距。如果設定為 False,則計算中不會使用截距(即,預期資料是居中的)。

max_iterint,預設值為 1000

最大迭代次數。

tolfloat,預設值為 1e-4

最佳化的容錯值:如果更新小於 tol,則最佳化程式碼會檢查對偶間隙以判斷最佳化程度,並繼續直到它小於 tol

cvint、交叉驗證產生器或可迭代物件,預設值為 None

決定交叉驗證分割策略。cv 的可能輸入為

  • None,使用預設的 5 折交叉驗證,

  • int,指定折數。

  • CV 分割器,

  • 產生 (train, test) 分割作為索引陣列的可迭代物件。

對於 int/None 輸入,使用 KFold

請參閱 使用者指南,了解此處可以使用的各種交叉驗證策略。

在 0.22 版本中變更:如果 cv 為 None,則預設值從 3 折變更為 5 折。

copy_Xbool,預設值為 True

如果為 True,則會複製 X;否則,可能會覆寫 X。

verbosebool 或 int,預設值為 0

詳細程度。

n_jobsint,預設值為 None

在交叉驗證期間要使用的 CPU 數量。請注意,只有在給定 l1_ratio 的多個值時才會使用此值。None 表示 1,除非在 joblib.parallel_backend 內容中。-1 表示使用所有處理器。請參閱 詞彙表 以取得更多詳細資訊。

random_stateint、RandomState 實例,預設值為 None

選擇要更新的隨機特徵的虛擬亂數產生器的種子。當 selection == ‘random’ 時使用。傳遞 int 以在多個函數呼叫中產生可重複的輸出。請參閱 詞彙表

selection{‘cyclic’, ‘random’},預設值為 ‘cyclic’

如果設定為 ‘random’,則每次迭代都會更新一個隨機係數,而不是預設循序迴圈處理特徵。這種做法(設定為 ‘random’)通常會導致顯著更快的收斂,尤其是在 tol 高於 1e-4 時。

屬性:
intercept_形狀為 (n_targets,) 的 ndarray

決策函數中的獨立項。

coef_形狀為 (n_targets, n_features) 的 ndarray

參數向量(成本函數公式中的 W)。請注意,coef_ 儲存 W 的轉置,W.T

alpha_float

交叉驗證所選擇的懲罰量。

mse_path_形狀為 (n_alphas, n_folds) 或 (n_l1_ratio, n_alphas, n_folds) 的 ndarray

測試集中每個折疊的均方誤差,alpha 會變動。

alphas_形狀為 (n_alphas,) 或 (n_l1_ratio, n_alphas) 的 ndarray

用於擬合的 alpha 網格,適用於每個 l1_ratio。

l1_ratio_float

交叉驗證所得的最佳 l1_ratio。

n_iter_int

座標下降求解器為了達到最佳 alpha 的指定容差所執行的迭代次數。

dual_gap_float

最佳 alpha 優化結束時的對偶間隙。

n_features_in_int

fit 期間看到的特徵數量。

在 0.24 版本中新增。

feature_names_in_形狀為 (n_features_in_,) 的 ndarray

fit 期間看到的特徵名稱。僅當 X 具有全為字串的特徵名稱時才會定義。

在 1.0 版本中新增。

另請參閱

MultiTaskElasticNet

具有內建交叉驗證的多任務 L1/L2 ElasticNet。

ElasticNetCV

使用交叉驗證進行最佳模型選擇的彈性網路模型。

MultiTaskLassoCV

使用 L1 範數作為正規化器並內建交叉驗證的多任務 Lasso 模型。

注意事項

用於擬合模型的演算法是座標下降法。

fit 中,一旦透過交叉驗證找到最佳參數 l1_ratioalpha,模型會使用整個訓練集再次擬合。

為了避免不必要的記憶體複製,fit 方法的 Xy 參數應直接作為 Fortran 連續的 numpy 陣列傳遞。

範例

>>> from sklearn import linear_model
>>> clf = linear_model.MultiTaskElasticNetCV(cv=3)
>>> clf.fit([[0,0], [1, 1], [2, 2]],
...         [[0, 0], [1, 1], [2, 2]])
MultiTaskElasticNetCV(cv=3)
>>> print(clf.coef_)
[[0.52875032 0.46958558]
 [0.52875032 0.46958558]]
>>> print(clf.intercept_)
[0.00166409 0.00166409]
fit(X, y, **params)[來源]#

使用座標下降法擬合 MultiTaskElasticNet 模型。

在 alpha 的網格上進行擬合,並透過交叉驗證估計最佳 alpha。

參數:
X形狀為 (n_samples, n_features) 的 ndarray

訓練資料。

y形狀為 (n_samples, n_targets) 的 ndarray

訓練目標變數。如有必要,將會轉換為 X 的 dtype。

**paramsdict,預設值=None

要傳遞給 CV 分割器的參數。

在 1.4 版本中新增:僅在 enable_metadata_routing=True 時可用,可透過使用 sklearn.set_config(enable_metadata_routing=True) 設定。有關詳細資訊,請參閱 Metadata Routing 使用者指南

傳回值:
self物件

傳回 MultiTaskElasticNet 實例。

get_metadata_routing()[來源]#

取得此物件的中繼資料路由。

請查看 使用者指南,了解路由機制如何運作。

在 1.4 版本中新增。

傳回值:
routingMetadataRouter

封裝路由資訊的 MetadataRouter

get_params(deep=True)[來源]#

取得此估算器的參數。

參數:
deepbool,預設值=True

如果為 True,將傳回此估算器和包含的子物件(亦為估算器)的參數。

傳回值:
paramsdict

參數名稱對應到其值的映射。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[來源]#

使用座標下降法計算彈性網路路徑。

單輸出和多輸出的彈性網路優化函數有所不同。

對於單輸出任務,它是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

對於多輸出任務,它是

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每列範數的總和。

請在 使用者指南 中閱讀更多資訊。

參數:
X形狀為 (n_samples, n_features) 的類陣列、稀疏矩陣

訓練資料。直接傳遞為 Fortran 連續資料以避免不必要的記憶體複製。如果 y 是單輸出,則 X 可以是稀疏的。

y形狀為 (n_samples,) 或 (n_samples, n_targets) 的類陣列、稀疏矩陣

目標值。

l1_ratiofloat,預設值=0.5

傳遞給彈性網路(l1 和 l2 懲罰之間的縮放)的 0 到 1 之間的數字。l1_ratio=1 對應於 Lasso。

epsfloat,預設值為 1e-3

路徑的長度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3

n_alphasint,預設值為 100

沿著正規化路徑的 alpha 數量。

alphas類陣列,預設值為 None

計算模型的 alpha 清單。如果為 None,則自動設定 alpha。

precompute‘auto’、bool 或形狀為 (n_features, n_features) 的類陣列,預設值=’auto’

是否使用預先計算的 Gram 矩陣來加快計算速度。如果設定為 'auto',則由我們決定。Gram 矩陣也可以作為參數傳遞。

Xy形狀為 (n_features,) 或 (n_features, n_targets) 的類陣列,預設值=None

可以預先計算的 Xy = np.dot(X.T, y)。僅當預先計算 Gram 矩陣時才有用。

copy_Xbool,預設值為 True

如果為 True,則會複製 X;否則,可能會覆寫 X。

coef_init形狀為 (n_features, ) 的類陣列,預設值=None

係數的初始值。

verbosebool 或 int,預設值=False

詳細程度。

return_n_iterbool,預設值=False

是否傳回迭代次數。

positivebool,預設值=False

如果設定為 True,則強制係數為正值。(僅當 y.ndim == 1 時允許)。

check_inputbool,預設值=True

如果設定為 False,則會跳過輸入驗證檢查(包括提供的 Gram 矩陣)。假設它們由呼叫者處理。

**paramskwargs

傳遞給座標下降求解器的關鍵字參數。

傳回值:
alphas形狀為 (n_alphas,) 的 ndarray

計算模型的路徑上的 alpha。

coefs形狀為 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray

沿著路徑的係數。

dual_gaps形狀為 (n_alphas,) 的 ndarray

每個 alpha 優化結束時的對偶間隙。

n_itersint 的清單

座標下降最佳化器為了達到每個 alpha 的指定容差所採取的迭代次數。(當 return_n_iter 設定為 True 時傳回)。

另請參閱

MultiTaskElasticNet

使用 L1/L2 混合範數作為正規化器訓練的多任務彈性網路模型。

MultiTaskElasticNetCV

具有內建交叉驗證的多任務 L1/L2 ElasticNet。

ElasticNet

將組合的 L1 和 L2 先驗值作為正規化器的線性迴歸。

ElasticNetCV

彈性網路模型,沿著正規化路徑進行迭代擬合。

注意事項

範例請參閱examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py

範例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])
predict(X)[原始碼]#

使用線性模型進行預測。

參數:
Xarray-like 或稀疏矩陣,形狀為 (n_samples, n_features)

樣本。

傳回值:
Carray,形狀為 (n_samples,)

回傳預測值。

score(X, y, sample_weight=None)[原始碼]#

回傳預測的決定係數。

決定係數 \(R^2\) 定義為 \((1 - \frac{u}{v})\),其中 \(u\) 是殘差平方和 ((y_true - y_pred)** 2).sum(),而 \(v\) 是總平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳可能分數為 1.0,且可能為負值(因為模型可能任意更差)。一個總是預測 y 期望值的常數模型,忽略輸入特徵,將獲得 \(R^2\) 分數為 0.0。

參數:
Xarray-like,形狀為 (n_samples, n_features)

測試樣本。對於某些估計器,這可能是一個預先計算的核矩陣或通用物件列表,其形狀為 (n_samples, n_samples_fitted),其中 n_samples_fitted 是估計器擬合時使用的樣本數量。

yarray-like,形狀為 (n_samples,) 或 (n_samples, n_outputs)

X 的真實值。

sample_weightarray-like,形狀為 (n_samples,),預設為 None

樣本權重。

傳回值:
scorefloat

self.predict(X) 相對於 y\(R^2\) 值。

注意事項

在迴歸器上呼叫 score 時使用的 \(R^2\) 分數,自 0.23 版本起使用 multioutput='uniform_average',以與 r2_score 的預設值保持一致。這會影響所有多輸出迴歸器的 score 方法(除了 MultiOutputRegressor 之外)。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNetCV[原始碼]#

請求傳遞給 fit 方法的中繼資料。

請注意,只有當 enable_metadata_routing=True 時,此方法才相關(請參閱 sklearn.set_config)。有關路由機制如何運作,請參閱使用者指南

每個參數的選項為

  • True:請求中繼資料,如果提供,則傳遞給 fit。如果未提供中繼資料,則會忽略該請求。

  • False:不請求中繼資料,且元估計器不會將其傳遞給 fit

  • None:不請求中繼資料,如果使用者提供,則元估計器會引發錯誤。

  • str:中繼資料應以指定的別名而非原始名稱傳遞給元估計器。

預設值 (sklearn.utils.metadata_routing.UNCHANGED) 會保留現有的請求。這允許您變更某些參數的請求,而不是其他參數的請求。

於 1.3 版本新增。

注意

只有當此估計器用作元估計器的子估計器時,此方法才相關,例如在 Pipeline 內部使用。否則沒有任何作用。

參數:
sample_weightstr、True、False 或 None,預設為 sklearn.utils.metadata_routing.UNCHANGED

fitsample_weight 參數的中繼資料路由。

傳回值:
self物件

更新後的物件。

set_params(**params)[原始碼]#

設定此估計器的參數。

此方法適用於簡單估計器以及巢狀物件(例如 Pipeline)。後者具有 <component>__<parameter> 形式的參數,因此可以更新巢狀物件的每個元件。

參數:
**paramsdict

估計器參數。

傳回值:
self估計器實例

估計器實例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNetCV[原始碼]#

請求傳遞給 score 方法的中繼資料。

請注意,只有當 enable_metadata_routing=True 時,此方法才相關(請參閱 sklearn.set_config)。有關路由機制如何運作,請參閱使用者指南

每個參數的選項為

  • True:請求中繼資料,如果提供,則傳遞給 score。如果未提供中繼資料,則會忽略該請求。

  • False:不請求中繼資料,且元估計器不會將其傳遞給 score

  • None:不請求中繼資料,如果使用者提供,則元估計器會引發錯誤。

  • str:中繼資料應以指定的別名而非原始名稱傳遞給元估計器。

預設值 (sklearn.utils.metadata_routing.UNCHANGED) 會保留現有的請求。這允許您變更某些參數的請求,而不是其他參數的請求。

於 1.3 版本新增。

注意

只有當此估計器用作元估計器的子估計器時,此方法才相關,例如在 Pipeline 內部使用。否則沒有任何作用。

參數:
sample_weightstr、True、False 或 None,預設為 sklearn.utils.metadata_routing.UNCHANGED

scoresample_weight 參數的中繼資料路由。

傳回值:
self物件

更新後的物件。