通過(guò)將一系列受限玻耳茲曼機（由二值隨機神經(jīng)元構成的兩層對稱(chēng)連接神經(jīng)網(wǎng)絡(luò )）單元堆疊進(jìn)行訓練的深度生成式模型。

深度置信網(wǎng)是概率統計學(xué)與機器學(xué)習和神經(jīng)網(wǎng)絡(luò )的融合。深度置信網(wǎng)由多個(gè)帶有數值的層組成，其中層與層之間存在關(guān)系，而數值之間沒(méi)有。深度置信網(wǎng)的主要目標是幫助系統將數據分類(lèi)到不同的類(lèi)別。

深度置信網(wǎng)的演進(jìn)經(jīng)歷了幾個(gè)階段：①第一代神經(jīng)網(wǎng)絡(luò )使用感知器，通過(guò)考慮權重或預先饋送的目標屬性來(lái)識別特定的物體或其他物體。然而，感知器只能在更基本的層面上有效，并不能提高識別的技術(shù)。②第二代神經(jīng)網(wǎng)絡(luò )引入了反向傳播的概念，將得到的輸出與期望的輸出進(jìn)行比較，最終目標是使誤差值減小到零。支持向量機通過(guò)引用先前測試用例的輸入來(lái)創(chuàng )建和理解更多的測試用例。③針對信念網(wǎng)絡(luò )的非循環(huán)圖。這種圖能夠幫助解決與推理那些和學(xué)習問(wèn)題有關(guān)的問(wèn)題。④深度置信網(wǎng)。它幫助創(chuàng )建存儲在葉節點(diǎn)中的無(wú)偏值。深度置信網(wǎng)由諸如玻耳茲曼機無(wú)監督網(wǎng)絡(luò )組成。每個(gè)子網(wǎng)絡(luò )的不可見(jiàn)層是下一層的可見(jiàn)層。隱藏層或不可見(jiàn)層并不是相互連接的，而是有條件互相獨立的。

深度置信網(wǎng)在修改后的國家標準技術(shù)研究所數據庫（modified national institute of standards and technology database，MNIST）上的表現超越了支持向量機，從而開(kāi)啟了深度學(xué)習在學(xué)術(shù)界和工業(yè)界的浪潮，在深度學(xué)習的發(fā)展歷史中具有重要意義。