单元，也称为节点或神经元，是神经网络的核心。一个单元接受一个或多个输入，将每个输入乘以一个参数（也称为权重），将加权输入加上偏置值（通常为0）相加，然后将该值输入激活函数。在具有其他神经元的神经网络的情况下，然后将输出发送给它们。
多层感知器，也称为前馈神经网络，是当今使用的最简单的人工神经网络。神经网络由一系列相互连接的层组成，这些层将观察的特征值连接到目标值。前馈这个名字来源于这样一个事实，即观察的特征值通过网络“前向”馈送，每一层都会转换特征值，直到最终输出等于目标的输出。
前馈神经网络中存在三种类型的层。神经网络中的每个单元都包含输入层中单个特征的观察值。具有100个特征的观察在输入层中有100个节点。输出层将隐藏层的输出转换为神经网络末端的有用值。sigmoid函数可以在我们的输出层中使用，以将其自己的输出缩放到预测的类概率0或1，例如，如果我们的目标是二元分类。隐藏层位于输入层和输出层之间。一旦输出层处理了来自输入层的特征值，输出层就会将它们转换成类似于目标类的东西。
神经网络的参数通常初始化为来自高斯分布或正态均匀分布的小随机值。损失函数用于将网络的输出值与观察值，通过网络馈送后的真实值进行比较。前向传播算法确定哪些参数对预测值和真实值之间的差异贡献最大。每个权重根据优化算法为每个参数确定的大小进行调整。
对于训练数据中的每个观察值，神经网络重复多次前向传播和反向传播过程以进行学习，epoch是所有观察值通过网络发送的次数，训练通常由多个epoch组成，调整参数迭代。
