用这个神经网络可视化工具观察人工智能的内心

即使不考虑邪恶的人工智能将统治世界的恐惧，人工智能领域对于局外人来说也是令人望而生畏的。Facebook 人工智能总监 Yann LeCun 打了个比方，说人工智能是一个有百万个旋钮的黑匣子；其内部工作原理对大多数人来说都是个谜。但现在，我们可以一窥其内部了。

瑞尔森大学硕士候选人亚当·哈雷 (Adam Harley) 构建了一个交互式可视化工具，有助于解释卷积神经网络（一种用于分析图像的人工智能程序）的内部工作原理。

如交互式可视化图所示，神经网络以连续层的形式工作。最底层是输入，即计算机试图理解的原始想法（在本例中是您绘制的数字），最顶层是输出，即计算机的最终结论。中间是数学函数层，每一层都浓缩最重要的区别信息并将其传递给下一层。

输入中的绿色像素（底行）对应于您绘制的内容，而黑色是必须与数字区分开的背景。如果这是在尝试检测人脸，则 3 将是人脸，而黑色将是照片的背景。在每个阶段，我们看到的是每一步之后图像的样子，而不是步骤本身。

在神经网络中，前几层主要关注边缘和形状之类的东西，提取一般的视觉概念，寻找可以提取的不同区别特征，以强调形状与周围环境的不同。

每一层都事先经过调整，可以识别这些数据，这个过程被称为训练。训练通常意味着通过机器运行数十万甚至数百万个示例，以展示不同类型的“3”是什么样子。对于各种机器学习和人工智能，同样的过程适用于不同的源材料。谷歌使用来自使用其服务的人的随机语音样本来训练其语音识别软件，而 Facebook 则使用不同角度的人像图像来训练其面部识别算法。

训练需要通过机器运行数百万个示例。

第一层传递的数据由第二层简化（称为下采样层，因为它降低了数据的复杂性）。然后由第三层再次分析形状，第三层与第一层一样是卷积层。此神经网络有两个卷积层，而更复杂的网络可能有 10 个以上。

然后，这组形状和边缘经过处理并与一组预定的输出进行匹配，最终得出用户抽到 3（或 8）的概率很高的结论。随着数据逐层进行，您可以从数据的颜色中看到这一点。您最终抽到的绿色数字是指示（希望）正确输出的绿色信息位。

在 Harley 的模型中，计算机可以简单地区分数字，就像最初用于读取 ATM 支票存款的卷积神经网络一样。尖端人工智能要复杂得多，能够以 97% 的准确率识别人脸。

但眼见为实。亲自尝试一下人工智能吧！

[萨米姆·维尼格报道]