传统的视觉芯片将图像感知和图像处理分离开来,随着图像实时处理需求的日益增长,这将限制其性能。相比之下,人类视网膜具有层次化的生物结构,可以连接具有不同功能的神经元,使视觉信息能够同时感知和预处理。来自 ...
背景 传统的视觉芯片将图像感知和图像处理分离开来,随着图像实时处理需求的日益增长,这将限制其性能。相比之下,人类视网膜具有层次化的生物结构,可以连接具有不同功能的神经元,使视觉信息能够同时感知和预处理。人类视网膜的主要功能是提取关键特征输入视觉信息的预处理操作,虽然具体的神经元活动仍然处于研究阶段。人视觉系统的这个功能旨在过滤冗余的视觉数据,加速人类大脑的进一步信息处理,如模式识别和解释。因此,实现仿生视觉芯片是一种很有前景的解决方案来解决传统的芯片所面临的挑战并实现在实际应用处理大量的视觉数据。到目前为止,已提出各种技术来模拟视网膜的功能来在单芯片中集成图像传感器和处理单元以用于仿视网膜应用。相较于这些传统技术,光电电阻式随机存取记忆突触装置可以实现图像感应和预处理以及记忆功能,在减少人工视觉系统的复杂电路方面显示出希望。为了满足日益增长的边缘计算需求,开发更先进的图像传感器,如可重构和自学习能力,是非常可取的。利用新兴的原子级材料的奇异物理现象和由这些材料构成的层次结构能够为实现这种神经网络视觉传感器提供一个极具前景的路径。 摘要 视觉信息的早期处理发生在人的视网膜中。模拟视网膜的神经生物学结构和功能为实现视觉传感器的高效图像处理提供了一条很有前景的途径。在这里,我们展示了一个视觉传感器的原型,通过栅控的正负光响应的范德华(vdW)垂直异质结构。该传感器不仅模拟了双极细胞和光感受器的神经生物学功能,而且还模拟了双极细胞和光感受器之间独特的连通性。通过调整每个像素的栅压,我们实现了可重构视觉传感器的同时图像感知和处理。此外,我们的原型视觉传感器本身可以训练分类输入图像通过更新栅电压应用于传感器中的每个像素。研究结果表明,范德华垂直异质结构为神经网络视觉传感器的开发提供了良好的平台。 Early processing of visual information takes place in the human retina. Mimicking neurobiological structures and functionalities of the retina provides a promising pathway to achieving vision sensor with highly efficient image processing. Here, we demonstrate a prototype vision sensor that operates via the gate-tunable positive and negative photoresponses of the van der Waals (vdW) vertical heterostructures. The sensor emulates not only the neurobiological functionalities of bipolar cells and photoreceptors but also the unique connectivity between bipolar cells and photoreceptors. By tuning gate voltage for each pixel, we achieve reconfigurable vision sensor for simultaneous image sensing and processing. Furthermore, our prototype vision sensor itself can be trained to classify the input images by updating the gate voltages applied individually to each pixel in the sensor. Our work indicates that vdW vertical heterostructures offer a promising platform for the development of neural network vision sensor. |