dnn機器演算法是什麼

① 目前最流行的機器學習演算法是什麼

毫無疑問，機器學習在過去幾年越來越受歡迎。由於大數據是目前技術行業最熱門的趨勢，機器學習是非常強大的，可以根據大量數據進行預測或計算推理。
如果你想學習機器演算法，要從何下手呢？
監督學習
1. 決策樹：決策樹是一種決策支持工具，使用的決策及其可能產生的後果，包括隨機事件的結果，資源消耗和效用的樹狀圖或模型。
從業務決策的角度來看，決策樹是人們必須要選擇是/否的問題，以評估大多數時候作出正確決策的概率。它允許您以結構化和系統的方式來解決問題，以得出邏輯結論。
2.樸素貝葉斯分類：樸素貝葉斯分類器是一種簡單的概率分類器，基於貝葉斯定理，其特徵之間具有強大（樸素）的獨立性假設。
特徵圖像是方程 - P（A | B）是後驗概率，P（B | A）是似然度，P（A）是類先驗概率，P（B）是預測先驗概率。
一些現實世界的例子是：
判斷郵件是否為垃圾郵件
分類技術，將新聞文章氛圍政治或體育類
檢查一段表達積極情緒或消極情緒的文字
用於面部識別軟體
3.普通最小二乘回歸：如果你了解統計學，你可能已經聽說過線性回歸。最小二乘法是一種執行線性回歸的方法。
您可以將線性回歸視為擬合直線穿過點狀分布的任務。有多種可能的策略可以做到這一點，「普通最小二乘法」策略就像這樣 -你可以畫一條線，然後把每個數據點，測量點和線之間的垂直距離，添加上去;擬合線將是距離總和的盡可能小的線。
線性是指您正在使用的模型來迎合數據，而最小二乘可以最小化線性模型誤差。
4.邏輯回歸： Logistic回歸是一個強大的統計學方法，用一個或多個解釋變數建模二項式結果。它通過使用邏輯函數估計概率，來衡量分類因變數與一個或多個獨立變數之間的關系，後者是累積邏輯分布。
邏輯回歸用於生活中：
信用評級
衡量營銷活動的成功率
預測某一產品的收入
某一天會有地震嗎
5.支持向量機： SVM是二元分類演算法。給定N維空間中兩種種類型的點，SVM生成（N-1）維的超平面將這些點分成2組。
假設你有一些可以線性分離的紙張中的兩種類型的點。SVM將找到一條直線，將這些點分成兩種類型，並盡可能遠離所有這些點。
在規模上，使用SVM解決的一些特大的問題（包括適當修改的實現）是：廣告、人類基因剪接位點識別、基於圖像的性別檢測，大規模圖像分類...
6.集成方法：集成方法是構建一組分類器的學習演算法，然後通過對其預測進行加權投票來對新的數據點進行分類。原始的集成方法是貝葉斯平均法，但更新的演算法包括糾錯輸出編碼、bagging和boosting。
那麼集成方法如何工作，為什麼它們優於單個模型？
均衡偏差：如果你均衡了大量的傾向民主黨的投票和大量傾向共和黨的投票，你總會得到一個不那麼偏頗的結果。
降低方差：集合大量模型的參考結果，噪音會小於單個模型的單個結果。在金融領域，這被稱為投資分散原則(diversification)——一個混搭很多種股票的投資組合，比單獨的股票更少變故。
不太可能過度擬合：如果您有單個模型不完全擬合，您以簡單的方式（平均，加權平均，邏輯回歸）結合每個模型建模，那麼一般不會發生過擬合。
無監督學習
7. 聚類演算法：聚類是對一組對象進行分組的任務，使得同一組（集群）中的對象彼此之間比其他組中的對象更相似。
每個聚類演算法是不同的，比如：
基於Centroid的演算法
基於連接的演算法
基於密度的演算法
概率
降維
神經網路/深度學習
8. 主成分分析： PCA是使用正交變換將可能相關變數的觀察值轉換為主成分的線性不相關變數值的一組統計過程。
PCA的一些應用包括壓縮、簡化數據、便於學習、可視化。請注意，領域知識在選擇是否繼續使用PCA時非常重要。數據嘈雜的情況（PCA的所有組件都有很大差異）的情況不適用。
9.奇異值分解：在線性代數中，SVD是真正復雜矩陣的因式分解。對於給定的m * n矩陣M，存在分解，使得M =UΣV，其中U和V是酉矩陣，Σ是對角矩陣。
PCA實際上是SVD的簡單應用。在計算機視覺技術中，第一個人臉識別演算法使用PCA和SVD，以將面部表示為「特徵臉」的線性組合，進行降維，然後通過簡單的方法將面部匹配到身份;雖然這種方法更復雜，但仍然依賴於類似的技術。
10.獨立成分分析： ICA是一種統計技術，用於揭示隨機變數、測量或信號集合的隱藏因素。ICA定義了觀察到的多變數數據的生成模型，通常將其作為大型樣本資料庫。
在模型中，假設數據變數是一些未知潛在變數的線性混合，混合系統也是未知的。潛變數被假定為非高斯和相互獨立的，它們被稱為觀測數據的獨立成分。
ICA與PCA相關，但它是一種更強大的技術，能夠在這些經典方法完全失敗時找到潛在的源因素。其應用包括數字圖像、文檔資料庫、經濟指標和心理測量。

② 人工智慧，機器學習和深度學習的區別是什麼

為了搞清三者關系，我們來看一張圖：

如圖所示：人工智慧最大，此概念也最先問世；然後是機器學習，出現的稍晚；最後才是深度學習。

從低潮到繁榮

自從 1956 年計算機科學家們在達特茅斯會議（Dartmouth Conferences）上確認人工智慧這個術語以來，人們就不乏關於人工智慧奇思妙想，研究人員也在不遺餘力地研究。在此後的幾十年間，人工智慧先是被捧為人類文明光明未來的鑰匙，後又被當作過於自大的異想天開而拋棄。

但是在過去幾年中，人工智慧出現了爆炸式的發展，尤其是 2015 年之後。大部分原因，要歸功於圖形處理器（GPU）的廣泛應用，使得並行處理更快、更便宜、更強大。另外，人工智慧的發展還得益於幾乎無限的存儲空間和海量數據的出現（大數據運動）：圖像、文本、交易數據、地圖數據，應有盡有。

下面我們從發展的歷程中來一一展開對人工智慧、機器學習和深度學習的深度學習。

人工智慧人工智慧先驅們在達特茅斯開會時，心中的夢想是希望通過當時新興的計算機，打造擁有相當於人類智能的復雜機器。這就是我們所說的「通用人工智慧」（General AI）概念，擁有人類五感（甚至更多）、推理能力以及人類思維方式的神奇機器。在電影中我們已經看過無數這樣的機器人，對人類友好的 C-3PO，以及人類的敵人終結者。通用人工智慧機器至今只存在 於電影和科幻小說里，理由很簡單：我們還實現不了，至少目前為止。

我們力所能及的，算是「弱人工智慧」（Narrow AI）：執行特定任務的水平與人類相當，甚至超越人類的技術。現實中有很多弱人工智慧的例子。這些技術有人類智能的一面。但是它們是如何做到的？智能來自哪裡？這就涉及到下一個同心圓：機器學習。

機器學習

機器學習是實現人工智慧的一種方法。機器學習的概念來自早期的人工智慧研究者，已經研究出的演算法包括決策樹學習、歸納邏輯編程、增強學習和貝葉斯網路等。簡單來說，機器學習就是使用演算法分析數據，從中學習並做出推斷或預測。與傳統的使用特定指令集手寫軟體不同，我們使用大量數據和演算法來「訓練」機器，由此帶來機器學習如何完成任務。

許多年來，計算機視覺一直是機器學習最佳的領用領域之一，盡管還需要大量的手動編碼才能完成任務。研究者會手動編寫一些分類器（classifier），如邊緣檢測篩選器，幫助程序辨別物體的邊界；圖形檢測分類器，判斷物體是否有八個面；以及識別「S-T-O-P」的分類器。在這些手動編寫的分類器的基礎上，他們再開發用於理解圖像的演算法，並學習如何判斷是否有停止標志。

但是由於計算機視覺和圖像檢測技術的滯後，經常容易出錯。

深度學習

深度學習是實現機器學習的一種技術。早期機器學習研究者中還開發了一種叫人工神經網路的演算法，但是發明之後數十年都默默無聞。神經網路是受人類大腦的啟發而來的：神經元之間的相互連接關系。但是，人類大腦中的神經元可以與特定范圍內的任意神經元連接，而人工神經網路中數據傳播要經歷不同的層，傳播方向也不同。

舉個例子，你可以將一張圖片切分為小塊，然後輸入到神經網路的第一層中。在第一層中做初步計算，然後神經元將數據傳至第二層。由第二層神經元執行任務，依次類推，直到最後一層，然後輸出最終的結果。

每個神經元都會給其輸入指定一個權重：相對於執行的任務該神經元的正確和錯誤程度。最終的輸出由這些權重共同決定。因此，我們再來看看上面提到的停止標志示例。一張停止標志圖像的屬性，被一一細分，然後被神經元「檢查」：形狀、顏色、字元、標志大小和是否運動。神經網路的任務是判斷這是否是一個停止標志。它將給出一個「概率向量」（probability vector），這其實是基於權重做出的猜測結果。在本文的示例中，系統可能會有 86% 的把握認定圖像是一個停止標志，7% 的把握認為是一個限速標志，等等。網路架構然後會告知神經網路其判斷是否正確。

不過，問題在於即使是最基礎的神經網路也要耗費巨大的計算資源，因此當時不算是一個可行的方法。不過，以多倫多大學 Geoffrey Hinton 教授為首的一小批狂熱研究者們堅持採用這種方法，最終讓超級計算機能夠並行執行該演算法，並證明該演算法的作用。如果我們回到停止標志那個例子，很有可能神經網路受訓練的影響，會經常給出錯誤的答案。這說明還需要不斷的訓練。它需要成千上萬張圖片，甚至數百萬張圖片來訓練，直到神經元輸入的權重調整到非常精確，幾乎每次都能夠給出正確答案。不過值得慶幸的是Facebook 利用神經網路記住了你母親的面孔；吳恩達 2012 年在谷歌實現了可以識別貓的神經網路。

如今，在某些情況下，通過深度學習訓練過的機器在圖像識別上表現優於人類，這包括找貓、識別血液中的癌症跡象等。谷歌的 AlphaGo 學會了圍棋，並為比賽進行了大量的訓練：不斷的和自己比賽。

總結

人工智慧的根本在於智能，而機器學習則是部署支持人工智慧的計算方法。簡單的將，人工智慧是科學，機器學習是讓機器變得更加智能的演算法，機器學習在某種程度上成就了人工智慧。

本文作者 Michael Copeland 曾是 WIRED 編輯，現在是矽谷知名投資機構 Andreessen Horowitz 的合夥人。

③ 在深度學習中，DNN與DBN兩個網路有什麼區別

dnn 從名字上你就可以看出來，是深度神經網路，類比於淺層神經網路，它的訓練方法也是回BP，沒有答引入無監督的預訓練。隱層的激活函數使用了 ReLU,改善了「梯度彌散」，通過正則化+dropout 改善了過擬合的現象，在輸出層 是softmax 作為激活函數。目標函數是交叉熵。
他是一個 有監督的判別模型。
stacked denoised autoencoder (SDA)深度學習結構，和DBN類似 使用 無監督的網路「堆疊」起來的，他有分層預訓練來尋找更好的參數，最後使用BP來微調網路。比dnn利用各種演算法來初始化權值矩陣，從經驗上來看是有幫助的。但是缺點也很明顯，每層的貪婪學習權值矩陣，也帶來了過長的訓練時間。在大量的數據面前 dnn(relu)的效果已經不差於預訓練的深度學習結構了。最終DBN也是看成是「生成模型」。
CNN 也沒有pre-train過程，訓練演算法也是用BP。 因為加入卷積 可以更好的處理2D數據，例如圖像和語音。並且目前看來 相比其它網路有更好的表現。dnn/dbn/sda 等都是處理1D的數據。

④ 機器學習演算法有哪些最常用是哪些幾種有什麼優點

樓主肯定對機器學習了解不多才會提這種問題。這問題專業程度看起來和「機器學習工程回師」這詞彙答一樣。
機器學習，基礎的PCA模型理論，貝葉斯，boost,Adaboost,
模式識別中的各種特徵，諸如Hog，Haar,SIFT等
深度學習里的DBN，CNN，BP，RBM等等。
非專業出身，只是略懂一點。

沒有常用的，只是針對需求有具體的設計，或者需要自己全新設計一個合適的演算法，現在最熱門的算是CNN(convolutional neural networks)卷積神經網路了。
優點:不需要訓練獲取特徵，在學習過程中自動提取圖像中的特徵，免去了常規方法中，大量訓練樣本的時間。在樣本足夠大的情況下，能夠得到非常精確的識別結果。一般都能95%+的正確率。
缺點：硬體要求高，CUDA的並行框架算是用的很火的了。但是一般的台式機跑一個Demo花費的時間長資源佔用高。不過這也是這塊演算法的通病。

⑤ 究竟什麼是機器學習 深度學習和人工智慧

目前，業界有一種錯誤的較為普遍的意識，即「深度學習最終可能會淘汰掉其他所有機器學習演算法」。這種意識的產生主要是因為，當下深度學習在計算機視覺、自然語言處理領域的應用遠超過傳統的機器學習方法，並且媒體對深度學習進行了大肆誇大的報道。

深度學習，作為目前最熱的機器學習方法，但並不意味著是機器學習的終點。起碼目前存在以下問題：

1. 深度學習模型需要大量的訓練數據，才能展現出神奇的效果，但現實生活中往往會遇到小樣本問題，此時深度學習方法無法入手，傳統的機器學習方法就可以處理；

2. 有些領域，採用傳統的簡單的機器學習方法，可以很好地解決了，沒必要非得用復雜的深度學習方法；

3. 深度學習的思想，來源於人腦的啟發，但絕不是人腦的模擬，舉個例子，給一個三四歲的小孩看一輛自行車之後，再見到哪怕外觀完全不同的自行車，小孩也十有八九能做出那是一輛自行車的判斷，也就是說，人類的學習過程往往不需要大規模的訓練數據，而現在的深度學習方法顯然不是對人腦的模擬。

深度學習大佬 Yoshua Bengio 在 Quora 上回答一個類似的問題時，有一段話講得特別好，這里引用一下，以回答上述問題：

Science is NOT a battle, it is a collaboration. We all build on each other's ideas. Science is an act of love, not war. Love for the beauty in the world that surrounds us and love to share and build something together. That makes science a highly satisfying activity, emotionally speaking!

這段話的大致意思是，科學不是戰爭而是合作，任何學科的發展從來都不是一條路走到黑，而是同行之間互相學習、互相借鑒、博採眾長、相得益彰，站在巨人的肩膀上不斷前行。機器學習的研究也是一樣，你死我活那是邪教，開放包容才是正道。

結合機器學習2000年以來的發展，再來看Bengio的這段話，深有感觸。進入21世紀，縱觀機器學習發展歷程，研究熱點可以簡單總結為2000-2006年的流形學習、2006年-2011年的稀疏學習、2012年至今的深度學習。未來哪種機器學習演算法會成為熱點呢？深度學習三大巨頭之一吳恩達曾表示，「在繼深度學習之後，遷移學習將引領下一波機器學習技術」。但最終機器學習的下一個熱點是什麼，誰又能說得准呢。

編輯於 2017-12-27

29918 條評論

分享

收藏感謝收起

阿里雲雲棲社區

用戶標識1

已認證的官方帳號

39 人贊同了該回答

人工智慧並不是一個新的術語，它已經有幾十年的歷史了，大約從80年代初開始，計算機科學家們開始設計可以學習和模仿人類行為的演算法。

在演算法方面，最重要的演算法是神經網路，由於過擬合而不是很成功（模型太強大，但數據不足）。盡管如此，在一些更具體的任務中，使用數據來適應功能的想法已經取得了顯著的成功，並且這也構成了當今機器學習的基礎。

在模仿方面，人工智慧專注於圖像識別，語音識別和自然語言處理。人工智慧專家們花費了大量的時間來創建諸如邊緣檢測，顏色配置文件，N-gram，語法樹等。不過，這些進步還不足以達到我們的需求。

傳統的機器學習：

機器學習（ML）技術在預測中發揮了重要的作用，ML經歷了多代的發展，形成了具有豐富的模型結構，例如：

1.線性回歸。

2.邏輯回歸。

3.決策樹。

4.支持向量機。

5.貝葉斯模型。

6.正則化模型。

7.模型集成（ensemble）。

8.神經網路。

這些預測模型中的每一個都基於特定的演算法結構，參數都是可調的。訓練預測模型涉及以下步驟：

1. 選擇一個模型結構（例如邏輯回歸，隨機森林等）。

2. 用訓練數據（輸入和輸出）輸入模型。

3. 學習演算法將輸出最優模型（即具有使訓練錯誤最小化的特定參數的模型）。

每種模式都有自己的特點，在一些任務中表現不錯，但在其他方面表現不佳。但總的來說，我們可以把它們分成低功耗（簡單）模型和高功耗（復雜）模型。選擇不同的模型是一個非常棘手的問題。

由於以下原因，使用低功率/簡單模型是優於使用高功率/復雜模型：

• 在我們擁有強大的處理能力之前，訓練高功率模型將需要很長的時間。

• 在我們擁有大量數據之前，訓練高功率模型會導致過度擬合問題（因為高功率模型具有豐富的參數並且可以適應廣泛的數據形狀，所以我們最終可能訓練一個適合於特定到當前的訓練數據，而不是推廣到足以對未來的數據做好預測）。

然而，選擇一個低功率的模型會遇到所謂的「欠擬合」的問題，模型結構太簡單，如果它復雜，就無法適應訓練數據。（想像一下，基礎數據有一個二次方關系：y = 5 * x ^ 2;你無法適應線性回歸：y = a * x + b，不管我們選擇什麼樣的a和b。

為了緩解「不適合的問題」，數據科學家通常會運用他們的「領域知識」來提出「輸入特徵」，這與輸出關系更為直接。（例如，返回二次關系y = 5 * square（x），如果創建了一個特徵z = x ^ 2，則可以擬合線性回歸：y = a * z + b，通過選擇a = 5和b = 0）。

機器學習的主要障礙是特徵工程這個步驟，這需要領域專家在進入訓練過程之前就要找到非常重要的特徵。特徵工程步驟是要靠手動完成的，而且需要大量領域專業知識，因此它成為當今大多數機器學習任務的主要瓶頸。

換句話說，如果我們沒有足夠的處理能力和足夠的數據，那麼我們必須使用低功耗/更簡單的模型，這就需要我們花費大量的時間和精力來創建合適的輸入特徵。這是大多數數據科學家今天花時間去做的地方。

神經網路的回歸：

在大數據時代，雲計算和大規模並行處理基礎架構的共同發展，使得機器處理能力在二十一世紀初得到了極大的提升。我們不再局限於低功耗/簡單的模型。例如，當今最流行的兩種主流機器學習模型是隨機森林和梯度提升樹。盡管如此，兩者都非常強大，並且提供了非線性模型擬合的訓練數據，但數據科學家仍然需要仔細地創建特徵以獲得良好的性能。

與此同時，計算機科學家重新使用神經網路的許多層來完成這些人類模仿的任務。這給DNN（深度神經網路）帶來了新的生機，並在圖像分類和語音識別任務方面提供了重大突破。DNN的主要區別在於，你可以將原始信號（例如RGB像素值）直接輸入DNN，而不需要創建任何域特定的輸入功能。通過多層神經元（這就是為什麼它被稱為「深度」神經網路），DNN可以「自動」通過每一層產生適當的特徵，最後提供一個非常好的預測。這極大地消除了尋找「特徵工程」的麻煩，這是數據科學家們最喜歡看到的。

DNN也演變成許多不同的網路拓撲結構，所以有CNN（卷積神經網路），RNN（遞歸神經網路），LSTM（長期短期記憶），GAN（生成敵對網路），轉移學習，注意模型（attention model）所有的這些被統稱為深度學習（Deep Learning），它正在引起整個機器學習界的關注。

強化學習：

另一個關鍵組成部分是關於如何模仿一個人（或動物）的學習，設想感知/行為/獎勵循環的非常自然的動物行為。一個人或者一個動物首先會通過感知他或者她所處的狀態來了解環境。在此基礎上，他或者她會選擇一個「動作」，將他或者她帶到另一個「狀態」。那麼他或她將獲得「獎勵」，循環重復，直到他或她消失。這種學習方式（稱為強化學習）與傳統監督機器學習的曲線擬合方法有很大不同。尤其是，強化學習學習得非常快，因為每一個新的反饋（例如執行一個行動並獲得獎勵）都被立即發送到影響隨後的決定。

強化學習也提供了預測和優化的平滑整合，因為它在採取不同的行動時保持當前狀態的信念和可能的轉換概率，然後做出決定哪些行動可以導致最佳結果。

深度學習+強化學習= AI

與經典的ML技術相比，DL提供了一個更強大的預測模型，通常可以產生良好的預測結果。與經典優化模型相比，強化學習提供了更快的學習機制，並且更適應環境的變化。

機器學習 vs 深度學習

在深度探討machine learning和data science的聯系之前，這里簡要地討論一下machine learning 和deep learning。machine learning是一套演算法，來訓練數據集做預測或者採取行動以使得系統最優化。舉例來說，supervised classification algorithms被用來根據歷史數據將想要貸款的客戶分成預期好的和預期差的(good or bad prospects)。對於給定的任務(比如監督聚類)，需要的技術多種多樣：naive Bayes、SVM、neural nets、ensembles、association rules、decision trees、logistic regression，或者是很多技術的組合。所有這些都是數據科學的子集。當這些演算法自動化後，比如無人駕駛飛機或者無人駕駛汽車，這就叫AI了，或者說的具體一點，deep learning。如果採集的數據來自感測器並且通過互聯網傳播，那麼這就是機器學習或數據科學或深度學習應用於物聯網了。

有些人對深度學習有不同的定義，他們認為深度學習是更深層次的神經網路(一種機器學習的技術)。AI(Artificial Intelligence)是創建於20世紀60年代的計算機科學的一個子領域，是關於解決那些對人類來講非常容易但是對計算機而言很難的任務。值得一提的是，所謂的strong AI可能可以做所有人類可以做的事情(可能除了純粹的物理問題)。這是相當廣泛的，包括各種各樣的事情，比如做計劃，在世界上到處溜達，識別物體和聲音，說話，翻譯，社交或者商業交易，還有創造性工作(比如寫詩畫畫)等等。

NLP(Natural language processing)只是AI要處理的語言部分，尤其是寫。

Machine learning是這樣的一種情況：給出一些可以被以離散形式描述的AI問題(比如從一系列動作中選出對的那個)，然後給定一堆外部世界的信息，在不需要程序員手動寫程序的情況下選出那個「正確的」行為。通常情況需要藉助外界的一些過程來判斷這個動作對不對。在數學上，這就是函數：你給一些輸入，然後你想要他處理一下得到正確的輸出，所以整個問題就簡化為用一些自動的方式建立這種數學函數模型。和AI區分一下：如果我寫了一段特別機智的程序有著人類的行為，那這就可以是AI，但是除非它的參量都是自動從數據中學會的，否則就不是機器學習。

Deep learning是當下非常流行的機器學習的一種。它包含一種特殊的數學模型，可以想成是一種特定類型的簡單塊的組合(或者說是塊的功能的組合)，這些塊可以進行調整來更好的預測最終結果。

⑥ 機器學習有哪些演算法

樸素貝葉斯分類器演算法是最受歡迎的學習方法之一，按照相似性分類，用流行的貝葉斯概率定理來建立機器學習模型，特別是用於疾病預測和文檔分類。 它是基於貝葉斯概率定理的單詞的內容的主觀分析的簡單分類。

什麼時候使用機器學習演算法 - 樸素貝葉斯分類器？

（1）如果您有一個中等或大的訓練數據集。

（2）如果實例具有幾個屬性。

（3）給定分類參數，描述實例的屬性應該是條件獨立的。

A．樸素貝葉斯分類器的應用

（1）這些機器學習演算法有助於在不確定性下作出決策，並幫助您改善溝通，因為他們提供了決策情況的可視化表示。

（2）決策樹機器學習演算法幫助數據科學家捕獲這樣的想法：如果採取了不同的決策，那麼情境或模型的操作性質將如何劇烈變化。

（3）決策樹演算法通過允許數據科學家遍歷前向和後向計算路徑來幫助做出最佳決策。

C．何時使用決策樹機器學習演算法

（1）決策樹對錯誤是魯棒的，並且如果訓練數據包含錯誤，則決策樹演算法將最適合於解決這樣的問題。

（2）決策樹最適合於實例由屬性值對表示的問題。

（3）如果訓練數據具有缺失值，則可以使用決策樹，因為它們可以通過查看其他列中的數據來很好地處理丟失的值。

（4）當目標函數具有離散輸出值時，決策樹是最適合的。

D.決策樹的優點

（1）決策樹是非常本能的，可以向任何人輕松解釋。來自非技術背景的人，也可以解釋從決策樹繪制的假設，因為他們是不言自明的。

（2）當使用決策樹機器學習演算法時，數據類型不是約束，因為它們可以處理分類和數值變數。

（3）決策樹機器學習演算法不需要對數據中的線性進行任何假設，因此可以在參數非線性相關的情況下使用。這些機器學習演算法不對分類器結構和空間分布做出任何假設。

（4）這些演算法在數據探索中是有用的。決策樹隱式執行特徵選擇，這在預測分析中非常重要。當決策樹適合於訓練數據集時，在其上分割決策樹的頂部的節點被認為是給定數據集內的重要變數，並且默認情況下完成特徵選擇。

（5）決策樹有助於節省數據准備時間，因為它們對缺失值和異常值不敏感。缺少值不會阻止您拆分構建決策樹的數據。離群值也不會影響決策樹，因為基於分裂范圍內的一些樣本而不是准確的絕對值發生數據分裂。

E.決策樹的缺點

（1）樹中決策的數量越多，任何預期結果的准確性越小。

（2）決策樹機器學習演算法的主要缺點是結果可能基於預期。當實時做出決策時，收益和產生的結果可能與預期或計劃不同。有機會，這可能導致不現實的決策樹導致錯誤的決策。任何不合理的期望可能導致決策樹分析中的重大錯誤和缺陷，因為並不總是可能計劃從決策可能產生的所有可能性。

（3）決策樹不適合連續變數，並導致不穩定性和分類高原。

（4）與其他決策模型相比，決策樹很容易使用，但是創建包含幾個分支的大決策樹是一個復雜和耗時的任務。

（5）決策樹機器學習演算法一次只考慮一個屬性，並且可能不是最適合於決策空間中的實際數據。

（6）具有多個分支的大尺寸決策樹是不可理解的，並且造成若干呈現困難。

F.決策樹機器學習演算法的應用

（1）決策樹是流行的機器學習演算法之一，它在財務中對期權定價有很大的用處。

（2）遙感是基於決策樹的模式識別的應用領域。

（3）銀行使用決策樹演算法按貸款申請人違約付款的概率對其進行分類。

（4）Gerber產品公司，一個流行的嬰兒產品公司，使用決策樹機器學習演算法來決定他們是否應繼續使用塑料PVC（聚氯乙烯）在他們的產品。

（5）Rush大學醫學中心開發了一個名為Guardian的工具，它使用決策樹機器學習演算法來識別有風險的患者和疾病趨勢。

Python語言中的數據科學庫實現決策樹機器學習演算法是 - SciPy和Sci-Kit學習。

R語言中的數據科學庫實現決策樹機器學習演算法是插入符號。

3.7 隨機森林機器學習演算法

讓我們繼續我們在決策樹中使用的同樣的例子，來解釋隨機森林機器學習演算法如何工作。提利昂是您的餐廳偏好的決策樹。然而，提利昂作為一個人並不總是准確地推廣你的餐廳偏好。要獲得更准確的餐廳推薦，你問一對夫婦的朋友，並決定訪問餐廳R，如果大多數人說你會喜歡它。而不是只是問Tyrion，你想問問Jon Snow，Sandor，Bronn和Bran誰投票決定你是否喜歡餐廳R或不。這意味著您已經構建了決策樹的合奏分類器 - 也稱為森林。

你不想讓所有的朋友給你相同的答案 - 所以你提供每個朋友略有不同的數據。你也不確定你的餐廳偏好，是在一個困境。你告訴提利昂你喜歡開頂屋頂餐廳，但也許，只是因為它是在夏天，當你訪問的餐廳，你可能已經喜歡它。在寒冷的冬天，你可能不是餐廳的粉絲。因此，所有的朋友不應該利用你喜歡打開的屋頂餐廳的數據點，以提出他們的建議您的餐廳偏好。

通過為您的朋友提供略微不同的餐廳偏好數據，您可以讓您的朋友在不同時間向您詢問不同的問題。在這種情況下，只是稍微改變你的餐廳偏好，你是注入隨機性在模型級別（不同於決策樹情況下的數據級別的隨機性）。您的朋友群現在形成了您的餐廳偏好的隨機森林。

隨機森林是一種機器學習演算法，它使用裝袋方法來創建一堆隨機數據子集的決策樹。模型在數據集的隨機樣本上進行多次訓練，以從隨機森林演算法中獲得良好的預測性能。在該整體學習方法中，將隨機森林中所有決策樹的輸出結合起來進行最終預測。隨機森林演算法的最終預測通過輪詢每個決策樹的結果或者僅僅通過使用在決策樹中出現最多次的預測來導出。

例如，在上面的例子 - 如果5個朋友決定你會喜歡餐廳R，但只有2個朋友決定你不會喜歡的餐廳，然後最後的預測是，你會喜歡餐廳R多數總是勝利。

A.為什麼使用隨機森林機器學習演算法？

（1）有很多好的開源，在Python和R中可用的演算法的自由實現。

（2）它在缺少數據時保持准確性，並且還能抵抗異常值。

（3）簡單的使用作為基本的隨機森林演算法可以實現只用幾行代碼。

（4）隨機森林機器學習演算法幫助數據科學家節省數據准備時間，因為它們不需要任何輸入准備，並且能夠處理數字，二進制和分類特徵，而無需縮放，變換或修改。

（5）隱式特徵選擇，因為它給出了什麼變數在分類中是重要的估計。

B.使用隨機森林機器學習演算法的優點

（1）與決策樹機器學習演算法不同，過擬合對隨機森林不是一個問題。沒有必要修剪隨機森林。

（2）這些演算法很快，但不是在所有情況下。隨機森林演算法當在具有100個變數的數據集的800MHz機器上運行時，並且50,000個案例在11分鍾內產生100個決策樹。

（3）隨機森林是用於各種分類和回歸任務的最有效和通用的機器學習演算法之一，因為它們對雜訊更加魯棒。

（4）很難建立一個壞的隨機森林。在隨機森林機器學習演算法的實現中，容易確定使用哪些參數，因為它們對用於運行演算法的參數不敏感。一個人可以輕松地建立一個體面的模型沒有太多的調整

（5）隨機森林機器學習演算法可以並行生長。

（6）此演算法在大型資料庫上高效運行。

（7）具有較高的分類精度。

C.使用隨機森林機器學習演算法的缺點

他們可能很容易使用，但從理論上分析它們是很困難的。

隨機森林中大量的決策樹可以減慢演算法進行實時預測。

如果數據由具有不同級別數量的分類變數組成，則演算法會偏好具有更多級別的那些屬性。 在這種情況下，可變重要性分數似乎不可靠。

當使用RandomForest演算法進行回歸任務時，它不會超出訓練數據中響應值的范圍。

D.隨機森林機器學習演算法的應用

（1）隨機森林演算法被銀行用來預測貸款申請人是否可能是高風險。

（2）它們用於汽車工業中以預測機械部件的故障或故障。

（3）這些演算法用於醫療保健行業以預測患者是否可能發展成慢性疾病。

（4）它們還可用於回歸任務，如預測社交媒體份額和績效分數的平均數。

（5）最近，該演算法也已經被用於預測語音識別軟體中的模式並對圖像和文本進行分類。

Python語言中的數據科學庫實現隨機森林機器學習演算法是Sci-Kit學習。

R語言的數據科學庫實現隨機森林機器學習演算法randomForest。

⑦ 機器學習演算法指的是什麼

機器學習演算法一般包含：人工智慧演算法，回歸演算法，決策樹演算法，貝葉斯演算法，聚類演算法等

⑧ 機器學習演算法和深度學習的區別

一、指代不同

1、機器學習演算法：是一門多領域交叉學科，涉及概率論、統計學、內逼容近論、凸分析、演算法復雜度理論等多門學科。

2、深度學習：是機器學習(ML, Machine Learning)領域中一個新的研究方向，它被引入機器學習使其更接近於最初的目標人工智慧。

二、學習過程不同

1、機器學習演算法：學習系統的基本結構。環境向系統的學習部分提供某些信息，學習部分利用這些信息修改知識庫，以增進系統執行部分完成任務的效能，執行部分根據知識庫完成任務，同時把獲得的信息反饋給學習部分。

2、深度學習：通過設計建立適量的神經元計算節點和多層運算層次結構，選擇合適的輸人層和輸出層，通過網路的學習和調優，建立起從輸入到輸出的函數關系，雖然不能100%找到輸入與輸出的函數關系，但是可以盡可能的逼近現實的關聯關系。

三、應用不同

1、機器學習演算法：：數據挖掘、計算機視覺、自然語言處理、生物特徵識別、搜索引擎、醫學診斷、DNA序列測序、語音和手寫識別、戰略游戲和機器人運用。

2、深度學習：計算機視覺、語音識別、自然語言處理等其他領域。