在线观看你懂的视频,国产偷倩在线播放,播播国产欧美激情

產(chǎn)品簡介

美林新聞/NEWS

首頁美林數(shù)據(jù) 行業(yè)資訊

【數(shù)據(jù)挖掘算法分享】機器學(xué)習(xí)平臺——回歸算法之邏輯回歸算法

2022-12-13 19:13:08 次

邏輯回歸算法可用于二元及多元分類問題，是分類算法的經(jīng)典算法。對于二分類問題，算法輸出一個二元Logistic回歸模型。對于K分類問題，算法會輸出一個多維Logistic回歸模型，包含K-1個二分類模型。
?算法思想
邏輯回歸在線性回歸的基礎(chǔ)上，套用了一個Sigmoid函數(shù)。邏輯回歸名為回歸，但實際上一般用于二分類。因為，其回歸預(yù)測范圍為[0,1]時，很符合概率特性。故對一個二分類問題，如果將正類定義為1，負類定義為0時，用邏輯回歸結(jié)果代表樣本屬于正類的的概率，則預(yù)測值接近于0時，表示樣本屬于正類的概率很小，樣本可被分到負類；反之，預(yù)測值接近于1時，樣本被分到正類。
分類問題中，分類邊界可以歸納為如下形式：

其對應(yīng)的預(yù)測函數(shù)為：

二分類邏輯回歸算法整體步驟如下：
邏輯回歸二分類的步驟如下：
（1）構(gòu)造單個樣本的概率預(yù)測函數(shù)

：

其中的

為系數(shù)向量θ的常數(shù)項；θ_i為第i個自變量x_i的系數(shù)。
（2）對函數(shù)h_θ (x)的值賦予以下含義：它表示分類變量y取1的概率。因此對于輸入的自變量向量x，分類結(jié)果為類別1和類別0的概率分別為：

（3）對于含有m個樣本的訓(xùn)練集，構(gòu)造其概率密度似然函數(shù)：

則其對數(shù)似然函數(shù)為：

（4）對于m個樣本，通過梯度下降法求出使對數(shù)似然函數(shù)

取得最大值的系數(shù)向量 θ 的估計值

。
（5）令

，使用概率計算公式，分別計算出每個樣本屬于類別1和類別0的概率。
（6）依據(jù)事先給定的概率閾值

（通常為0.5），對每個樣本屬于兩類的概率進行截取，進而得到樣本的所屬類別。
二元邏輯回歸可以一般化為多元邏輯回歸來訓(xùn)練和預(yù)測多分類問題。對于多分類問題，算法將會訓(xùn)練出一個多元邏輯回歸模型，它包含k-1個二元回歸模型。給定一個數(shù)據(jù)點，k-1個模型都會運行，概率最大的類別將會被選為預(yù)測類別。

?數(shù)據(jù)格式
• 必須設(shè)置類屬性（輸出），且類屬性（輸出）必須是離散型（名詞）；
• 非類屬性（輸入）可以是連續(xù)型（數(shù)值）也可以是離散型（名詞）；
?參數(shù)說明

參數(shù)	類型	描述
數(shù)據(jù)標(biāo)準(zhǔn)化	下拉框	設(shè)置數(shù)據(jù)標(biāo)準(zhǔn)化的方法，字符型，取值范圍：無處理，歸一化，標(biāo)準(zhǔn)化，默認值為無處理
取值區(qū)間下限	文本框	設(shè)置歸一化取值區(qū)間下限，浮點型，取值范圍：[0,∞)，默認值為0
取值區(qū)間上限	文本框	設(shè)置歸一化取值區(qū)間上限，浮點型，取值范圍：[0,∞)，默認值為1
正則化參數(shù)	文本框	正則化參數(shù)控制機器的復(fù)雜度，浮點型，取值范圍：[0,∞)，默認值為0.01
收斂容差	文本框	設(shè)置終止迭代的誤差界，浮點型，取值范圍：[0,∞)，默認值為0.000001
最大迭代次數(shù)	文本框	設(shè)置最大迭代次數(shù)，整型，取值范圍：[1,∞)，默認值為100
懲罰函數(shù)類型	下拉框	設(shè)置懲罰函數(shù)類型，0對應(yīng)L2罰函數(shù)，1對應(yīng)L1罰函數(shù)，(0,1)之間對應(yīng)L1和L2的組合罰函數(shù)，浮點型，取值范圍：[0,1]，默認值為0
是否顯示變量重要性	復(fù)選框	用戶選擇是否分析每個變量對于分類結(jié)果的影響程度，如果選擇是，則在洞察中顯示參與建模的每個變量對于模型的貢獻程度情況