Nat. Commun.|面向概率神经网络的高斯突触

文章链接：https://doi.org/10.1038/s41467-019-12035-6

图1. 基于高斯突触的概率神经网络 

背景

在过去的五十年里，我们见证了计算机能力前所未有的指数级增长，这主要是由半导体工业的成功所推动的。互补金属氧化物半导体(CMOS)技术的不断扩大——材料发现的突破、器件物理的创新、微和纳米蚀刻技术的转变，以及冯·诺依曼架构的胜利，都推动了计算革命。工艺制程的缩小有三个方面的特点：由于越来越多的晶体管可以被封装到同一个芯片区域中，因此可以通过能量来确保计算能力恒定；通过尺寸伸缩来确保计算速度更快、成本更低;通过复杂性伸缩来确保单个片上处理器的计算能力不断增长。金属氧化物半导体场效应晶体管(MOSFET)规模的黄金时代，也被称为Dennard规模时代，见证了这三个方面的同时规模近30年。然而，在2005年左右，由于设备物理水平上的基本热力学限制，即众所周知的玻尔兹曼公式，能量尺度结束了。尽管面临着新的挑战，但尺寸缩放仍然持续了10年，最终由于量子力学在材料层面的限制而在2017年结束。由于传统的冯·诺伊曼计算架构的不可扩展性，以及即将到来的“黑硅”时代对多核处理器技术构成了严重威胁，复杂性的可伸缩性也在下降。为了维持计算能力的增长，必须通过材料的重新发现、设备的创新和更高复杂度计算架构的进步，立即恢复这三个方面的伸缩性。

摘要

近，传统的冯·诺伊曼架构在能量、规模和复杂度上的下降，重新激起了人们对大脑启发计算的极大兴趣。基于忆阻器等新兴设备的人工神经网络(ANNs)可以实现类脑计算，但缺乏能源效率。此外，慢学习、增量适应和伪收敛是神经网络尚未解决的挑战。因此，在本文中，我们引入基于原子薄的二维层状材料异质结构的高斯突触，即二硫化钼和黑磷场效应晶体管(FETs)，作为统计神经网络硬件实现的一类模拟和概率计算基元。我们还证明了在双门控二硫化钼和黑磷fet中，高斯突触的振幅、均值和标准偏差的完全可调性。最后，我们展示了基于高斯突触的概率神经网络的脑电波分类的模拟结果。

The recent decline in energy, size and complexity scaling of traditional von Neumann architecture has resurrected considerable interest in brain-inspired computing. Artificial neural networks (ANNs) based on emerging devices, such as memristors, achieve brain-like computing but lack energy-efficiency. Furthermore, slow learning, incremental adaptation, and false convergence are unresolved challenges for ANNs. In this article we, therefore, introduce Gaussian synapses based on heterostructures of atomically thin two-dimensional (2D) layered materials, namely molybdenum disulfide and black phosphorus field effect transistors (FETs), as a class of analog and probabilistic computational primitives for hardware implementation of statistical neural networks. We also demonstrate complete tunability of amplitude, mean and standard deviation of the Gaussian synapse via threshold engineering in dual gated molybdenum disulfide and black phosphorus FETs. Finally, we show simulation results for classification of brainwaves using Gaussian synapse based probabilistic neural networks.