Lasso

class sklearn.linear_model.Lasso(alpha=1.0, *, fit_intercept=True, precompute=False, copy_X=True, max_iter=1000, tol=0.0001, warm_start=False, positive=False, random_state=None, selection='cyclic')

使用 L1 先驗作為正規化項（也稱為 Lasso）訓練的線性模型。

Lasso 的最佳化目標是

(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1

從技術上講，Lasso 模型正在最佳化與 Elastic Net 相同的目標函數，但 l1_ratio=1.0 (沒有 L2 懲罰)。

請在使用者指南中閱讀更多資訊。

參數:

alpha浮點數, 預設值=1.0

乘以 L1 項的常數，用於控制正規化強度。alpha 必須是非負的浮點數，即在 [0, inf) 範圍內。

當 alpha = 0 時，目標等同於普通最小平方法，由 LinearRegression 物件求解。基於數值原因，不建議使用 alpha = 0 的 Lasso 物件。相反地，您應該使用 LinearRegression 物件。

fit_intercept布林值, 預設值=True

是否計算此模型的截距。如果設定為 False，則在計算中不會使用截距（即，預期資料已置中）。

precompute布林值或形狀為 (n_features, n_features) 的類陣列, 預設值=False

是否使用預先計算的格拉姆矩陣來加速計算。格拉姆矩陣也可以作為引數傳遞。對於稀疏輸入，此選項始終為 False 以保留稀疏性。

copy_X布林值, 預設值=True

如果為 True，則會複製 X；否則，可能會被覆寫。

max_iter整數, 預設值=1000

最大迭代次數。

tol浮點數, 預設值=1e-4

最佳化的容差：如果更新小於 tol，最佳化程式碼會檢查對偶間隙以判斷是否達到最佳狀態，並繼續執行，直到它小於 tol，請參閱以下「注意事項」。

warm_start布林值, 預設值=False

設定為 True 時，會重複使用先前呼叫 fit 的解決方案作為初始化，否則，只會清除先前的解決方案。請參閱詞彙表。

positive布林值, 預設值=False

設定為 True 時，強制係數為正值。

random_state整數、RandomState 實例, 預設值=None

選擇要更新的隨機特徵的虛擬隨機數產生器的種子。當 selection == 'random' 時使用。傳遞一個整數，以便在多次函數呼叫中產生可重複的輸出。請參閱詞彙表。

selection{‘cyclic’, ‘random’}, 預設值=’cyclic’

如果設定為 'random'，則每次迭代都會更新一個隨機係數，而不是預設情況下依序循環處理特徵。此 (設定為 'random') 通常會導致更快的收斂，尤其是在 tol 高於 1e-4 時。

屬性:

coef_形狀為 (n_features,) 或 (n_targets, n_features) 的 ndarray

參數向量 (成本函數公式中的 w)。

dual_gap_浮點數或形狀為 (n_targets,) 的 ndarray

給定參數 alpha，最佳化結束時的對偶間隙，與 y 的每個觀察值的形狀相同。

sparse_coef_形狀為 (n_features, 1) 或 (n_targets, n_features) 的稀疏矩陣

擬合的 coef_ 的稀疏表示法。

intercept_浮點數或形狀為 (n_targets,) 的 ndarray

決策函數中的獨立項。

n_iter_整數或整數列表

座標下降求解器為了達到指定的容差而執行的迭代次數。

n_features_in_整數

在 fit 期間看到的特徵數量。

在 0.24 版中新增。

feature_names_in_形狀為 (n_features_in_,) 的 ndarray

在 fit 期間看到的特徵名稱。僅當 X 具有的所有特徵名稱皆為字串時才定義。

在 1.0 版中新增。

另請參閱

lars_path

使用 LARS 的正規化路徑。

lasso_path

使用 Lasso 的正規化路徑。

LassoLars

使用 LARS 演算法沿著正規化參數的 Lasso 路徑。

LassoCV

通過交叉驗證的 Lasso alpha 參數。

LassoLarsCV

通過交叉驗證的 Lasso 最小角度參數演算法。

sklearn.decomposition.sparse_encode

稀疏編碼陣列估計器。

注意事項

用於擬合模型的演算法是座標下降。

為了避免不必要的記憶體重複，fit 方法的 X 參數應該直接以 Fortran 連續的 NumPy 陣列傳入。

正規化可以改善問題的條件，並減少估計值的變異數。數值越大表示正規化越強。Alpha 對應於其他線性模型（例如 LogisticRegression 或 LinearSVC）中的 1 / (2C)。如果傳入陣列，則假設懲罰是特定於目標的。因此，它們的數量必須對應。

基於 tol 的精確停止標準如下：首先，檢查最大座標更新，即 \(\max_j |w_j^{new} - w_j^{old}|\) 是否小於 tol 乘以最大絕對係數 \(\max_j |w_j|\)。如果是這樣，則額外檢查對偶間隙是否小於 tol 乘以 \(||y||_2^2 / n_{\text{samples}}\)。

目標可以是二維陣列，從而導致以下目標的優化

(1 / (2 * n_samples)) * ||Y - XW||^2_F + alpha * ||W||_11

其中 \(||W||_{1,1}\) 是矩陣係數的絕對值總和。不應與 MultiTaskLasso 混淆，後者會懲罰係數的 \(L_{2,1}\) 範數，從而在係數中產生逐行的稀疏性。

範例

>>> from sklearn import linear_model
>>> clf = linear_model.Lasso(alpha=0.1)
>>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2])
Lasso(alpha=0.1)
>>> print(clf.coef_)
[0.85 0.  ]
>>> print(clf.intercept_)
0.15...

fit(X, y, sample_weight=None, check_input=True)

使用座標下降法擬合模型。

參數:

X{ndarray、稀疏矩陣、稀疏陣列}，形狀為 (n_samples, n_features)

資料。

請注意，不接受需要 int64 索引的大型稀疏矩陣和陣列。

y形狀為 (n_samples,) 或 (n_samples, n_targets) 的 ndarray

目標。如有必要，將轉換為 X 的 dtype。

sample_weightfloat 或形狀為 (n_samples,) 的類陣列，預設為 None

樣本權重。在內部，sample_weight 向量將重新縮放為總和為 n_samples。

在 0.23 版本中新增。

check_inputbool，預設為 True

允許繞過多個輸入檢查。除非您知道自己在做什麼，否則請勿使用此參數。

傳回值:

self物件

擬合的估計器。

注意事項

座標下降是一種一次考慮資料的每一列的演算法，因此如有必要，它會自動將 X 輸入轉換為 Fortran 連續的 NumPy 陣列。

為了避免記憶體重新配置，建議直接使用該格式在記憶體中配置初始資料。

get_metadata_routing()

取得此物件的中繼資料路由。

請查看關於路由機制如何運作的使用者指南。

傳回值:

routingMetadataRequest

一個封裝路由資訊的 MetadataRequest。

get_params(deep=True)

取得此估計器的參數。

參數:

deepbool，預設為 True

如果為 True，將傳回此估計器和包含的子物件（為估計器）的參數。

傳回值:

paramsdict

參數名稱對應到它們的值。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)

使用座標下降計算彈性網格路徑。

彈性網格最佳化函數因單輸出和多輸出而異。

對於單輸出任務，它是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

對於多輸出任務，它是

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每列的範數總和。

在使用者指南中閱讀更多內容。

參數:

X形狀為 (n_samples, n_features) 的 {類陣列、稀疏矩陣}

訓練資料。直接以 Fortran 連續資料傳遞，以避免不必要的記憶體重複。如果 y 是單輸出，則 X 可以是稀疏的。

y形狀為 (n_samples,) 或 (n_samples, n_targets) 的 {類陣列、稀疏矩陣}

目標值。

l1_ratiofloat，預設值=0.5

介於 0 和 1 之間的數值，傳遞給彈性網 (在 l1 和 l2 懲罰之間縮放)。l1_ratio=1 對應到 Lasso。

epsfloat，預設值=1e-3

路徑長度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3。

n_alphasint，預設值=100

沿著正規化路徑的 alpha 數量。

alphasarray-like，預設值=None

計算模型的 alpha 列表。如果為 None，則會自動設定 alpha。

precompute‘auto’、bool 或形狀為 (n_features, n_features) 的 array-like，預設值='auto'

是否使用預先計算的 Gram 矩陣來加速計算。如果設定為 'auto'，則由程式決定。Gram 矩陣也可以作為參數傳遞。

Xy形狀為 (n_features,) 或 (n_features, n_targets) 的 array-like，預設值=None

可以預先計算的 Xy = np.dot(X.T, y)。僅在預先計算 Gram 矩陣時才有用。

copy_X布林值, 預設值=True

如果為 True，則會複製 X；否則，可能會被覆寫。

coef_init形狀為 (n_features, ) 的 array-like，預設值=None

係數的初始值。

verbosebool 或 int，預設值=False

詳細程度。

return_n_iterbool，預設值=False

是否返回迭代次數。

positive布林值, 預設值=False

如果設定為 True，則強制係數為正值。(僅當 y.ndim == 1 時允許)。

check_inputbool，預設為 True

如果設定為 False，則會跳過輸入驗證檢查 (包括提供的 Gram 矩陣)。假設由呼叫者處理。

**paramskwargs

傳遞給座標下降求解器的關鍵字參數。

傳回值:

alphas形狀為 (n_alphas,) 的 ndarray

沿著路徑計算模型的 alpha 值。

coefs形狀為 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray

沿著路徑的係數。

dual_gaps形狀為 (n_alphas,) 的 ndarray

每個 alpha 的優化結束時的對偶間隙。

n_itersint 的列表

座標下降優化器達到每個 alpha 指定容差所需的迭代次數。(當 return_n_iter 設定為 True 時返回)。

另請參閱

MultiTaskElasticNet

使用 L1/L2 混合範數作為正規化器的多任務 ElasticNet 模型。

MultiTaskElasticNetCV

具有內建交叉驗證的多任務 L1/L2 ElasticNet。

ElasticNet

使用組合的 L1 和 L2 先驗作為正規化器的線性迴歸。

ElasticNetCV

沿著正規化路徑進行迭代擬合的 Elastic Net 模型。

注意事項

有關範例，請參閱 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。

範例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])

predict(X)

使用線性模型進行預測。

參數:

Xarray-like 或稀疏矩陣，形狀 (n_samples, n_features)

樣本。

傳回值:

Carray，形狀 (n_samples,)

返回預測值。

score(X, y, sample_weight=None)

返回預測的決定係數。

決定係數 \(R^2\) 定義為 \((1 - \frac{u}{v})\)，其中 \(u\) 是殘差平方和 ((y_true - y_pred)** 2).sum()，而 \(v\) 是總平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳可能的分數是 1.0，並且可以是負數 (因為模型可能會任意變差)。一個總是預測 y 的期望值的常數模型，而忽略輸入特徵，將會得到 \(R^2\) 分數為 0.0。

參數:

X形狀為 (n_samples, n_features) 的 array-like

測試樣本。對於某些估計器，這可能是一個預先計算的核矩陣或具有形狀 (n_samples, n_samples_fitted) 的通用物件列表，其中 n_samples_fitted 是估計器擬合中使用的樣本數。

y形狀為 (n_samples,) 或 (n_samples, n_outputs) 的 array-like

X 的真實值。

sample_weight形狀為 (n_samples,) 的 array-like，預設值=None

樣本權重。

傳回值:

scorefloat

self.predict(X) 相對於 y 的 \(R^2\)。

注意事項

在迴歸器上呼叫 score 時使用的 \(R^2\) 分數，從 0.23 版開始使用 multioutput='uniform_average'，以保持與 r2_score 的預設值一致。這會影響所有多輸出迴歸器的 score 方法 (除了 MultiOutputRegressor 之外)。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → Lasso

傳遞至 fit 方法的要求元數據。

請注意，此方法僅在 enable_metadata_routing=True 時才相關 (請參閱 sklearn.set_config)。請參閱 使用者指南 以了解路由機制如何運作。

每個參數的選項如下：

• True：請求元數據，並在提供時傳遞給 fit。如果未提供元數據，則會忽略該請求。

• False：不請求元數據，且元估計器不會將其傳遞給 fit。

• None：不請求元數據，如果使用者提供元數據，元估計器會引發錯誤。

• str：元數據應該使用此給定的別名而不是原始名稱傳遞給元估計器。

預設值 (sklearn.utils.metadata_routing.UNCHANGED) 保留現有的請求。這允許您更改某些參數的請求，而不更改其他參數的請求。

在 1.3 版本中新增。

注意

此方法僅在此估計器用作元估計器的子估計器時才相關，例如在 Pipeline 中使用。否則它不會有任何作用。

參數:

sample_weightstr、True、False 或 None，預設值為 sklearn.utils.metadata_routing.UNCHANGED

fit 中 sample_weight 參數的元數據路由。

傳回值:

self物件

更新後的物件。

set_params(**params)

設定此估計器的參數。

此方法適用於簡單估計器以及巢狀物件 (例如 Pipeline)。後者具有 <component>__<parameter> 形式的參數，因此可以更新巢狀物件的每個組件。

參數:

**paramsdict

估計器參數。

傳回值:

self估計器實例

估計器實例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → Lasso

請求傳遞至 score 方法的元數據。

請注意，此方法僅在 enable_metadata_routing=True 時才相關 (請參閱 sklearn.set_config)。請參閱 使用者指南 以了解路由機制如何運作。

每個參數的選項如下：

• True：請求元數據，並在提供時傳遞給 score。如果未提供元數據，則會忽略該請求。

• False：不請求元數據，且元估計器不會將其傳遞給 score。

• None：不請求元數據，如果使用者提供元數據，元估計器會引發錯誤。

• str：元數據應該使用此給定的別名而不是原始名稱傳遞給元估計器。

預設值 (sklearn.utils.metadata_routing.UNCHANGED) 保留現有的請求。這允許您更改某些參數的請求，而不更改其他參數的請求。

在 1.3 版本中新增。

注意

此方法僅在此估計器用作元估計器的子估計器時才相關，例如在 Pipeline 中使用。否則它不會有任何作用。

參數:

sample_weightstr、True、False 或 None，預設值為 sklearn.utils.metadata_routing.UNCHANGED

score 中 sample_weight 參數的元數據路由。

傳回值:

self物件

更新後的物件。

屬性 sparse_coef_

擬合的 coef_ 的稀疏表示法。

圖庫範例

scikit-learn 1.4 的發行重點

scikit-learn 1.4 的發行重點

scikit-learn 0.23 的發行重點

scikit-learn 0.23 的發行重點

壓縮感知：使用 L1 先驗 (Lasso) 進行斷層掃描重建

壓縮感知：使用 L1 先驗 (Lasso) 進行斷層掃描重建

使用多任務 Lasso 進行聯合特徵選擇

使用多任務 Lasso 進行聯合特徵選擇

用於稀疏信號的基於 L1 的模型

用於稀疏信號的基於 L1 的模型

密集和稀疏資料上的 Lasso

密集和稀疏資料上的 Lasso

普通最小二乘法範例

普通最小二乘法範例

糖尿病資料集上的交叉驗證練習

糖尿病資料集上的交叉驗證練習