类脑芯片咨询 门户 论文 集成电路 查看内容

Nature重磅:清华施路平团队提出类脑计算系统新框架

tutu 2020-10-15 10:20

来自清华大学、北京信息科学与技术国家研究中心、美国特拉华大学(University of Delaware)科研团队在类脑计算通用系统层次结构方向取得突破性进展,并提出了“神经形态完备性”(neuromorphic completenes)的最新 ...

背景
脑启发计算是一种有潜力打破冯·诺伊曼瓶颈并推动下一波计算机工程的计算模型和架构。这种计算系统已被用于人工智能,并可能提供一条实现通用人工智能的途径。除了人工智能之外,脑启发计算在更一般的算法上的应用也得到了探索。所有这些应用都对脑启发计算系统的性能、可编程性和生产力提出了挑战。
当前,各种基于大脑的计算的算法、计算模型和软件设计正在出现。虽然已经提出了许多神经形态芯片,但它们通常需要特定的软件工具链。其结果是,脑启发的计算系统的多个层(包括应用程序模型、系统软件和神经形态设备)绑定在一起,降低了编程的灵活性和开发效率。一些研究试图通过特定领域的语言或开发框架连接各种软件和硬件,但是这些研究通常不考虑完整性或隐含地依赖图灵完整性。在解决诸如硬件完整性、编程语言完整性和脑启发计算的广义系统层次等更基本的问题上,几乎没有做什么工作。
现有的计算机层次结构,如图灵机和冯·诺依曼架构,提供了这些问题对于计算系统的重要性。几乎所有现有的编程语言都是图灵完备的(也就是说,它们具有与通用车床相同的功能),并且冯·诺依曼抽象体系结构通过图灵完备的接口(即通用指令集)支持图灵机。通过引入图灵完备性以及基于图灵完备性的层次结构和冯·诺依曼体系结构,避免了当前计算系统中软件和硬件之间的紧密耦合,实现了高效、兼容和独立的进程。通过设置硬件的最低要求(图灵完备性),在任何冯·诺依曼处理器(编译)上将任何高级语言的程序转换成等价的指令序列变得可行。
相比之下,脑启发计算目前缺乏一个简单但健全的系统层次结构来支持整体开发。因此,神经形态软件和硬件之间没有清晰完整的接口,不同研究方面之间的交互也比较复杂。此外,由于许多灵感来自大脑的芯片不是为通用计算而设计的,而且它们中很少提供传统的指令集,因此不清楚它们是否是图灵完备的,甚至不清楚图灵完备是否是必要的。
图灵完备性是传统编译的可行性基础,要求程序的表达和转换是等价的。相比之下,脑启发系统具有独特的属性,如近似(脑启发系统通常遵循神经网络的计算模型来模仿生物神经网络的行为或特征)。例如,对于许多脑启发芯片,包括早期的神经形态芯片和当前的脑启发系统,近似是一种可以通过低精度数字计算或模拟电路实现的低功耗和高性能的方法。提出神经形态完备性能够放神经形态硬件的完备性要求,提高了不同硬件和软件设计之间的兼容性,并通过引入一个新的维度——近似粒度来扩大设计空间。

摘要
神经形态计算从大脑中获得灵感,来提供潜在的计算技术和架构,以推动下一代计算机工程。这种由脑启发的计算也为人工智能的发展提供了一个很有前途的平台。然而,与传统计算系统不同的是,传统计算系统有一个围绕图灵完备性和冯·诺伊曼结构建立的良好的计算机层次结构。而目前还没有广义的系统层次结构或对大脑启发计算的完备性的理解。这会影响软件和硬件之间的兼容性,削弱神经形态计算的编程灵活性和开发效率。本文提出了“神经形态完备性”,放松了对硬件完备性的要求,并提出了相应的系统层次结构,包括图灵完备的软件抽象模型和通用的抽象神经形态体系结构。使用这种层次结构,各种程序可以被描述为统一的表示,并在任何神经形态完整的硬件上转换为等效的可执行程序——也就是说,它确保了编程语言的可移植性、硬件的完整性和编译的可行性。同时,我们也通过工具链软件以支持不同类型的程序在各种典型的硬件平台上执行,展示了我们的系统层次结构的优势,包括一个由神经形态完整性引入的新的系统设计维度。我们期望我们的研究能够推动脑启发计算系统各个方面的高效和兼容的进展,并促进各种应用的发展,包括通用人工智能
Neuromorphic computing draws inspiration from the brain to provide computing technology and architecture with the potential to drive the next wave of computer engineering. Such brain-inspired computing also provides a promising platform for the development of artificial general intelligence. However, unlike conventional computing systems, which have a well established computer hierarchy built around the concept of Turing completeness and the von Neumann architecture, there is currently no generalized system hierarchy or understanding of completeness for brain-inspired computing. This affects the compatibility between software and hardware, impairing the programming flexibility and development productivity of brain-inspired computing. Here we propose ‘neuromorphic completeness’, which relaxes the requirement for hardware completeness, and a corresponding system hierarchy, which consists of a Turing-complete software-abstraction model and a versatile abstract neuromorphic architecture. Using this hierarchy, various programs can be described as uniform representations and transformed into the equivalent executable on any neuromorphic complete hardware—that is, it ensures programming-language portability, hardware completeness and compilation feasibility. We implement toolchain software to support the execution of different types of program on various typical hardware platforms, demonstrating the advantage of our system hierarchy, including a new system-design dimension introduced by the neuromorphic completeness. We expect that our study will enable efficient and compatible progress in all aspects of brain-inspired computing systems, facilitating the development of various applications, including artificial general

图1. 脑启发计算系统与传统计算系统的计算架构对比

鲜花
鲜花
握手
握手
雷人
雷人
路过
路过
鸡蛋
鸡蛋
分享至 : QQ空间
收藏
便民服务

400-8826-226

电话服务热线时间:9:00 - 21:00

关注我们

ZUK微信