MultiTaskElasticNetCV#
- class sklearn.linear_model.MultiTaskElasticNetCV(*, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, fit_intercept=True, max_iter=1000, tol=0.0001, cv=None, copy_X=True, verbose=0, n_jobs=None, random_state=None, selection='cyclic')[原始碼]#
具有內建交叉驗證的多任務 L1/L2 ElasticNet。
請參閱 交叉驗證估計器 的詞彙條目。
MultiTaskElasticNet 的最佳化目標為
(1 / (2 * n_samples)) * ||Y - XW||^Fro_2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
其中
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每列範數的總和。
請在使用者指南中閱讀更多內容。
在 0.15 版本中新增。
- 參數:
- l1_ratiofloat 或 float 列表,預設值為 0.5
ElasticNet 混合參數,其中 0 < l1_ratio <= 1。當 l1_ratio = 1 時,懲罰為 L1/L2 懲罰。當 l1_ratio = 0 時,懲罰為 L2 懲罰。對於
0 < l1_ratio < 1
,懲罰是 L1/L2 和 L2 的組合。此參數可以是列表,在這種情況下,會透過交叉驗證測試不同的值,並使用提供最佳預測分數的值。請注意,l1_ratio 的值列表的好選擇通常是放置較多接近 1(即 Lasso)的值,而較少接近 0(即 Ridge)的值,如[.1, .5, .7, .9, .95, .99, 1]
。- epsfloat,預設值為 1e-3
路徑的長度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphasint,預設值為 100
沿著正規化路徑的 alpha 數量。
- alphas類陣列,預設值為 None
計算模型的 alpha 列表。如果未提供,則會自動設定。
- fit_interceptbool,預設值為 True
是否計算此模型的截距。如果設定為 False,則計算中不會使用截距(即,預期資料是居中的)。
- max_iterint,預設值為 1000
最大迭代次數。
- tolfloat,預設值為 1e-4
最佳化的容錯值:如果更新小於
tol
,則最佳化程式碼會檢查對偶間隙以判斷最佳化程度,並繼續直到它小於tol
。- cvint、交叉驗證產生器或可迭代物件,預設值為 None
決定交叉驗證分割策略。cv 的可能輸入為
None,使用預設的 5 折交叉驗證,
int,指定折數。
產生 (train, test) 分割作為索引陣列的可迭代物件。
對於 int/None 輸入,使用
KFold
。請參閱 使用者指南,了解此處可以使用的各種交叉驗證策略。
在 0.22 版本中變更:如果 cv 為 None,則預設值從 3 折變更為 5 折。
- copy_Xbool,預設值為 True
如果為
True
,則會複製 X;否則,可能會覆寫 X。- verbosebool 或 int,預設值為 0
詳細程度。
- n_jobsint,預設值為 None
在交叉驗證期間要使用的 CPU 數量。請注意,只有在給定 l1_ratio 的多個值時才會使用此值。
None
表示 1,除非在joblib.parallel_backend
內容中。-1
表示使用所有處理器。請參閱 詞彙表 以取得更多詳細資訊。- random_stateint、RandomState 實例,預設值為 None
選擇要更新的隨機特徵的虛擬亂數產生器的種子。當
selection
== ‘random’ 時使用。傳遞 int 以在多個函數呼叫中產生可重複的輸出。請參閱 詞彙表。- selection{‘cyclic’, ‘random’},預設值為 ‘cyclic’
如果設定為 ‘random’,則每次迭代都會更新一個隨機係數,而不是預設循序迴圈處理特徵。這種做法(設定為 ‘random’)通常會導致顯著更快的收斂,尤其是在 tol 高於 1e-4 時。
- 屬性:
- intercept_形狀為 (n_targets,) 的 ndarray
決策函數中的獨立項。
- coef_形狀為 (n_targets, n_features) 的 ndarray
參數向量(成本函數公式中的 W)。請注意,
coef_
儲存W
的轉置,W.T
。- alpha_float
交叉驗證所選擇的懲罰量。
- mse_path_形狀為 (n_alphas, n_folds) 或 (n_l1_ratio, n_alphas, n_folds) 的 ndarray
測試集中每個折疊的均方誤差,alpha 會變動。
- alphas_形狀為 (n_alphas,) 或 (n_l1_ratio, n_alphas) 的 ndarray
用於擬合的 alpha 網格,適用於每個 l1_ratio。
- l1_ratio_float
交叉驗證所得的最佳 l1_ratio。
- n_iter_int
座標下降求解器為了達到最佳 alpha 的指定容差所執行的迭代次數。
- dual_gap_float
最佳 alpha 優化結束時的對偶間隙。
- n_features_in_int
在 fit 期間看到的特徵數量。
在 0.24 版本中新增。
- feature_names_in_形狀為 (
n_features_in_
,) 的 ndarray 在 fit 期間看到的特徵名稱。僅當
X
具有全為字串的特徵名稱時才會定義。在 1.0 版本中新增。
另請參閱
MultiTaskElasticNet
具有內建交叉驗證的多任務 L1/L2 ElasticNet。
ElasticNetCV
使用交叉驗證進行最佳模型選擇的彈性網路模型。
MultiTaskLassoCV
使用 L1 範數作為正規化器並內建交叉驗證的多任務 Lasso 模型。
注意事項
用於擬合模型的演算法是座標下降法。
在
fit
中,一旦透過交叉驗證找到最佳參數l1_ratio
和alpha
,模型會使用整個訓練集再次擬合。為了避免不必要的記憶體複製,
fit
方法的X
和y
參數應直接作為 Fortran 連續的 numpy 陣列傳遞。範例
>>> from sklearn import linear_model >>> clf = linear_model.MultiTaskElasticNetCV(cv=3) >>> clf.fit([[0,0], [1, 1], [2, 2]], ... [[0, 0], [1, 1], [2, 2]]) MultiTaskElasticNetCV(cv=3) >>> print(clf.coef_) [[0.52875032 0.46958558] [0.52875032 0.46958558]] >>> print(clf.intercept_) [0.00166409 0.00166409]
- fit(X, y, **params)[來源]#
使用座標下降法擬合 MultiTaskElasticNet 模型。
在 alpha 的網格上進行擬合,並透過交叉驗證估計最佳 alpha。
- 參數:
- X形狀為 (n_samples, n_features) 的 ndarray
訓練資料。
- y形狀為 (n_samples, n_targets) 的 ndarray
訓練目標變數。如有必要,將會轉換為 X 的 dtype。
- **paramsdict,預設值=None
要傳遞給 CV 分割器的參數。
在 1.4 版本中新增:僅在
enable_metadata_routing=True
時可用,可透過使用sklearn.set_config(enable_metadata_routing=True)
設定。有關詳細資訊,請參閱 Metadata Routing 使用者指南。
- 傳回值:
- self物件
傳回 MultiTaskElasticNet 實例。
- get_metadata_routing()[來源]#
取得此物件的中繼資料路由。
請查看 使用者指南,了解路由機制如何運作。
在 1.4 版本中新增。
- 傳回值:
- routingMetadataRouter
封裝路由資訊的
MetadataRouter
。
- get_params(deep=True)[來源]#
取得此估算器的參數。
- 參數:
- deepbool,預設值=True
如果為 True,將傳回此估算器和包含的子物件(亦為估算器)的參數。
- 傳回值:
- paramsdict
參數名稱對應到其值的映射。
- static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[來源]#
使用座標下降法計算彈性網路路徑。
單輸出和多輸出的彈性網路優化函數有所不同。
對於單輸出任務,它是
1 / (2 * n_samples) * ||y - Xw||^2_2 + alpha * l1_ratio * ||w||_1 + 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2
對於多輸出任務,它是
(1 / (2 * n_samples)) * ||Y - XW||_Fro^2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
其中
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每列範數的總和。
請在 使用者指南 中閱讀更多資訊。
- 參數:
- X形狀為 (n_samples, n_features) 的類陣列、稀疏矩陣
訓練資料。直接傳遞為 Fortran 連續資料以避免不必要的記憶體複製。如果
y
是單輸出,則X
可以是稀疏的。- y形狀為 (n_samples,) 或 (n_samples, n_targets) 的類陣列、稀疏矩陣
目標值。
- l1_ratiofloat,預設值=0.5
傳遞給彈性網路(l1 和 l2 懲罰之間的縮放)的 0 到 1 之間的數字。
l1_ratio=1
對應於 Lasso。- epsfloat,預設值為 1e-3
路徑的長度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphasint,預設值為 100
沿著正規化路徑的 alpha 數量。
- alphas類陣列,預設值為 None
計算模型的 alpha 清單。如果為 None,則自動設定 alpha。
- precompute‘auto’、bool 或形狀為 (n_features, n_features) 的類陣列,預設值=’auto’
是否使用預先計算的 Gram 矩陣來加快計算速度。如果設定為
'auto'
,則由我們決定。Gram 矩陣也可以作為參數傳遞。- Xy形狀為 (n_features,) 或 (n_features, n_targets) 的類陣列,預設值=None
可以預先計算的 Xy = np.dot(X.T, y)。僅當預先計算 Gram 矩陣時才有用。
- copy_Xbool,預設值為 True
如果為
True
,則會複製 X;否則,可能會覆寫 X。- coef_init形狀為 (n_features, ) 的類陣列,預設值=None
係數的初始值。
- verbosebool 或 int,預設值=False
詳細程度。
- return_n_iterbool,預設值=False
是否傳回迭代次數。
- positivebool,預設值=False
如果設定為 True,則強制係數為正值。(僅當
y.ndim == 1
時允許)。- check_inputbool,預設值=True
如果設定為 False,則會跳過輸入驗證檢查(包括提供的 Gram 矩陣)。假設它們由呼叫者處理。
- **paramskwargs
傳遞給座標下降求解器的關鍵字參數。
- 傳回值:
- alphas形狀為 (n_alphas,) 的 ndarray
計算模型的路徑上的 alpha。
- coefs形狀為 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray
沿著路徑的係數。
- dual_gaps形狀為 (n_alphas,) 的 ndarray
每個 alpha 優化結束時的對偶間隙。
- n_itersint 的清單
座標下降最佳化器為了達到每個 alpha 的指定容差所採取的迭代次數。(當
return_n_iter
設定為 True 時傳回)。
另請參閱
MultiTaskElasticNet
使用 L1/L2 混合範數作為正規化器訓練的多任務彈性網路模型。
MultiTaskElasticNetCV
具有內建交叉驗證的多任務 L1/L2 ElasticNet。
ElasticNet
將組合的 L1 和 L2 先驗值作為正規化器的線性迴歸。
ElasticNetCV
彈性網路模型,沿著正規化路徑進行迭代擬合。
注意事項
範例請參閱examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。
範例
>>> from sklearn.linear_model import enet_path >>> from sklearn.datasets import make_regression >>> X, y, true_coef = make_regression( ... n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0 ... ) >>> true_coef array([ 0. , 0. , 0. , 97.9..., 45.7...]) >>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3) >>> alphas.shape (3,) >>> estimated_coef array([[ 0. , 0.78..., 0.56...], [ 0. , 1.12..., 0.61...], [-0. , -2.12..., -1.12...], [ 0. , 23.04..., 88.93...], [ 0. , 10.63..., 41.56...]])
- predict(X)[原始碼]#
使用線性模型進行預測。
- 參數:
- Xarray-like 或稀疏矩陣,形狀為 (n_samples, n_features)
樣本。
- 傳回值:
- Carray,形狀為 (n_samples,)
回傳預測值。
- score(X, y, sample_weight=None)[原始碼]#
回傳預測的決定係數。
決定係數 \(R^2\) 定義為 \((1 - \frac{u}{v})\),其中 \(u\) 是殘差平方和
((y_true - y_pred)** 2).sum()
,而 \(v\) 是總平方和((y_true - y_true.mean()) ** 2).sum()
。最佳可能分數為 1.0,且可能為負值(因為模型可能任意更差)。一個總是預測y
期望值的常數模型,忽略輸入特徵,將獲得 \(R^2\) 分數為 0.0。- 參數:
- Xarray-like,形狀為 (n_samples, n_features)
測試樣本。對於某些估計器,這可能是一個預先計算的核矩陣或通用物件列表,其形狀為
(n_samples, n_samples_fitted)
,其中n_samples_fitted
是估計器擬合時使用的樣本數量。- yarray-like,形狀為 (n_samples,) 或 (n_samples, n_outputs)
X
的真實值。- sample_weightarray-like,形狀為 (n_samples,),預設為 None
樣本權重。
- 傳回值:
- scorefloat
self.predict(X)
相對於y
的 \(R^2\) 值。
注意事項
在迴歸器上呼叫
score
時使用的 \(R^2\) 分數,自 0.23 版本起使用multioutput='uniform_average'
,以與r2_score
的預設值保持一致。這會影響所有多輸出迴歸器的score
方法(除了MultiOutputRegressor
之外)。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNetCV [原始碼]#
請求傳遞給
fit
方法的中繼資料。請注意,只有當
enable_metadata_routing=True
時,此方法才相關(請參閱sklearn.set_config
)。有關路由機制如何運作,請參閱使用者指南。每個參數的選項為
True
:請求中繼資料,如果提供,則傳遞給fit
。如果未提供中繼資料,則會忽略該請求。False
:不請求中繼資料,且元估計器不會將其傳遞給fit
。None
:不請求中繼資料,如果使用者提供,則元估計器會引發錯誤。str
:中繼資料應以指定的別名而非原始名稱傳遞給元估計器。
預設值 (
sklearn.utils.metadata_routing.UNCHANGED
) 會保留現有的請求。這允許您變更某些參數的請求,而不是其他參數的請求。於 1.3 版本新增。
注意
只有當此估計器用作元估計器的子估計器時,此方法才相關,例如在
Pipeline
內部使用。否則沒有任何作用。- 參數:
- sample_weightstr、True、False 或 None,預設為 sklearn.utils.metadata_routing.UNCHANGED
fit
中sample_weight
參數的中繼資料路由。
- 傳回值:
- self物件
更新後的物件。
- set_params(**params)[原始碼]#
設定此估計器的參數。
此方法適用於簡單估計器以及巢狀物件(例如
Pipeline
)。後者具有<component>__<parameter>
形式的參數,因此可以更新巢狀物件的每個元件。- 參數:
- **paramsdict
估計器參數。
- 傳回值:
- self估計器實例
估計器實例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNetCV [原始碼]#
請求傳遞給
score
方法的中繼資料。請注意,只有當
enable_metadata_routing=True
時,此方法才相關(請參閱sklearn.set_config
)。有關路由機制如何運作,請參閱使用者指南。每個參數的選項為
True
:請求中繼資料,如果提供,則傳遞給score
。如果未提供中繼資料,則會忽略該請求。False
:不請求中繼資料,且元估計器不會將其傳遞給score
。None
:不請求中繼資料,如果使用者提供,則元估計器會引發錯誤。str
:中繼資料應以指定的別名而非原始名稱傳遞給元估計器。
預設值 (
sklearn.utils.metadata_routing.UNCHANGED
) 會保留現有的請求。這允許您變更某些參數的請求,而不是其他參數的請求。於 1.3 版本新增。
注意
只有當此估計器用作元估計器的子估計器時,此方法才相關,例如在
Pipeline
內部使用。否則沒有任何作用。- 參數:
- sample_weightstr、True、False 或 None,預設為 sklearn.utils.metadata_routing.UNCHANGED
score
中sample_weight
參數的中繼資料路由。
- 傳回值:
- self物件
更新後的物件。