遗传算法

《决策大脑》遗传算法,页面无弹窗的全文阅读!

让我们使用“遗传算法”，也就是能够模拟自然选择过程的计算装置。假设我们让所有隐藏层的总体规模保持不变，然后随机调整各层的皮质空间分配。然后，我们使用遗传算法来解决隐藏层的何种皮质空间分配方案能够使左右半脑网络在何种任务中实现最高的计算效率。基于我们之前的讨论，我们的假说认为，要想获得最佳的计算结果，该网络在皮质空间的分配方面应当因半脑而异，具体而言，给左半脑分配更多的隐藏层一，给右半脑分配更多的隐藏层二-1和隐藏层二-2。通过建立上述模型，为其指定一系列训练任务，借助遗传算法让网络执行“选择过程”，我们就可以对我们的假说进行严格的检验。我们预测图12.1所描绘的半脑差异代表最高效的架构。我们也可以标出那些受益于这种半脑不对称性的任务以及那些没有受益的任务。遗传算法的一个类似的可能应用是关于不同的通路长度在左右半脑中的分布情况的。我们之前的讨论再次让我们提出如下假说：要想获得最佳的计算结果，该网络在通路长度的分配上也要因半脑而异，左半脑中较短的通路更多，右半脑中较长的通路更多。

最后，可以通过改变上述两组平行参数对结合了皮质空间分配和通路长度的模型进行研究，通过遗传算法完成选择过程。基于之前的讨论，我们提出如下假设：要想获得最佳的计算结果，该网络的左右半脑应当具备某种特定的皮质空间分配与通路长度的配对类型：左半脑倾向于隐藏层一和较短的通路的配对；右半脑倾向于隐藏层二和较长的通路的配对。

固定模型

我们还可以比较两个总规模相同，但一个在设计上具有前述不对称性而另一个没有的“两院制”网络的计算效率。其中一个网络的左右半脑的皮质空间分配和/或通路长度是完全相同的（对称网络），而另一个网络的左右半脑的皮质空间分配和/或通路长度不同，这与我们之前的描述相一致（非对称网络）。在非对称网络中，左半脑的隐藏层一比右半脑大，而右半脑的隐藏层二比左半脑大（见图12.1）。类似地，在非对称网络中，左半脑中的短通路比右半脑中的多，而右半脑中的长通路比左半脑中的多。上述两个“两院制”网络中的哪一个对何种任务更具有学习优势呢？根据我们的假说，非对称网络在诸多任务的学习方面比对称网络更具优势。通过比较两种网络学习各种任务的表现，我们可以对我们的假说进行严谨的验证，并且找出该假说的局限性。

注：左半脑中的隐藏层一比右半脑中大。右半脑中的隐藏层二比左半脑中大。该图表达的是大致的观点，而不是实际上的神经解剖学特质。

图12.1 左右半脑的深度架构

尼古拉斯·科立·迈尔斯是英国最顶尖的软件架构师，得逻辑（Psion）和塞班（Symbian）的前首席技术官，也是我的朋友。他提出了若干反映左右半脑功能差异的替代性建模方案。科立提出的神经网络的特点尤其适合深度模型，深度模型的特点是隐藏层二实际上是一组层，而不是单一的层。在科立的模型中，右半脑中的隐藏层二比左半脑中更厚。科立提出的另一个架构特点是，左右半脑中隐藏层二的“感受野”的规模是不同的。在该模型中，左半脑中的隐藏层二神经元接受来自隐藏层二-1受限的近端神经组群的投射。相反，右半脑中的隐藏层二的神经元接受来自隐藏层二-1广泛的神经组群的投射。即便科立的动力更多地来自工程学而不是神经科学，但他的见解可能揭示了左右半脑在神经解剖学上的某些实际差异。