玻尔兹曼机由学习算法组成,使用随机二进制单位来达到概率分布平衡,能够在由二进制向量组成的数据集中发现有趣的特征。学习算法在具有多层特征检测器的网络中往往很慢,但可以通过特征检测器的学习层来提高效率。
玻尔兹曼机是一种无监督深度学习模型,它也是循环神经网络,其中每个节点都连接到其他每个节点,节点会做出具有一定偏差的二元决策。
玻尔兹曼机的节点
可见节点:这些是可以测量和被测量的节点。
隐藏节点:这些是无法测量或未测量的节点。
玻尔兹曼机有什么用?
玻尔兹曼机的主要目的是优化问题的解决方案。为此,它会优化与分配给它的特定问题相关的权重和数量。当主要目的是创建映射并从数据中的属性和目标变量中学习时,就会使用这种技术。如果寻求识别数据中的底层结构或模式,则该模型的无监督学习方法被认为更有用。
一些广泛使用的无监督学习方法是聚类、降维、异常检测和创建生成模型。
所有这些技术都有一个不同的目标,即检测模式,例如识别潜在分组、发现数据中的不规则性,甚至从可用数据中生成新样本。甚至可以将这些网络分层堆叠来构建深度神经网络捕获高度复杂的统计数据。受限玻尔兹曼机也广泛用于成像和图像处理领域,因为它们能够对自然图像共有的连续数据进行建模。它们甚至被用来解决复杂的量子力学多粒子问题或经典的统计物理问题,如Ising和Potts类模型。
玻尔兹曼机是如何工作的?
玻尔兹曼机器是非确定性(随机)生成深度学习模型,只有两种节点——隐藏节点和可见节点。它们没有任何输出节点,这就是赋予它们非确定性特征的原因。在没有典型的1或0类型输出的情况下学习模式,通过这些输出使用随机梯度下降来学习和优化模式。
玻尔兹曼机在输入节点之间有连接。每个节点都连接到所有其他节点,无论它们是输入节点还是隐藏节点。这使他们能够在彼此之间共享信息并自行生成后续数据。只会测量可见节点上的内容,而不是隐藏节点上的内容。提供输入后,玻尔兹曼机器能够捕获数据之间的所有参数、模式和相关性。正因为如此,它们被称为深度生成模型,它们属于无监督深度学习。
玻尔兹曼机的种类
玻尔兹曼机分为三种:受限玻尔兹曼机(RBM)、深度信念网络(DBN)、深度玻尔兹曼机(DBM)。
1.受限玻尔兹曼机(RBM)
虽然在完整的玻尔兹曼机中,所有节点都相互连接并且连接呈指数增长,但受限玻尔兹曼机对节点连接有一定的限制。在受限玻尔兹曼机中,隐藏节点不能相互连接,而可见节点相互连接。
2.深度信念网络(DBN)
在深度信念网络中,您可以说多个受限玻尔兹曼机堆叠在一起,这样第一个RBM的输出就是后续RBM的输入。各个层内的连接是无向的,而层之间的连接是有向的。但是,这里有一个例外。上两层之间的连接是无向的。
深度信念网络可以使用贪心逐层训练算法或唤醒睡眠算法。
3.深度玻尔兹曼机(DBM)
深度玻尔兹曼机与深度信念网络非常相似。这两种玻尔兹曼机之间的区别在于,虽然DBN中的层之间的连接是有向的,但在DBM中,层内的连接以及层之间的连接都是无向的。