图片来源@视中国
文章丨学术头条
人脑是自然界最完善的信息处理系统。它可以执行各种复杂的任务。其计算效率比现有的数字计算机系统高几个数量级。它被认为是目前唯一的“通用智能体”。”
通过模拟人脑的信息处理方法,模仿许多像大脑一样“思考”并在工作表现和一般人工智能方面优于人脑的“大脑样系统”一直是许多科学家的梦想。太实现了。
如今,清华大学,北京国家信息科学与技术研究中心和特拉华大学(特拉华大学)的研究团队进行的开创性研究可能标志着类似大脑的计算技术的到来,更普遍地说,更多的是人造的。情报(AGI)。
研究人员在类脑计算的一般系统的层次结构中取得了突破性进展,并提出了“神经形态完备性”(neuromorphic completeness)的最新概念。
(来源:自然)
相关文章已于10月14日在线发表在顶级期刊《自然》上。清华大学计算机研究所研究员张有辉(也是第一作者)和清华大学教授兼脑启发计算主任史露平该论文的共同作者,清华大学研究中心。
更强大和通用的通用人工智能
通用人工智能是与人类具有相同或超越人类的人工智能,通常将人工智能与人类的特征(例如意识,敏感性,知识和自我意识)结合起来,可以表达正常人的所有智能行为。研究是科幻小说和未来主义者的主要目标之一,也是讨论的主要主题。
业界认为,人工智能的最新进展在很大程度上是“严格的”,这意味着它们专注于特定任务,只能解决特定问题。目前,基于诺依曼体系结构的计算机擅长解决具有足够大数据的确定性问题,并且完整的静态知识(例如在Go游戏,图像识别等领域中应用深度学习)不亚于人类。不太能干。解决了没有太多数据和缺乏足够动态知识的歧义问题。
未来,人工智能的发展将由“紧缩”的弱人工智能转变为功能更强大,功能更广泛的通用人工智能,但当前的人工智能技术仍远未达到人类通用的人工智能水平。走。
长期以来,类脑计算一直被认为是一般人工智能的关键。去年10月,史露平在北京志远会议的智能建筑与芯片特别论坛上的主题演讲中说:“基于碳的人类智能已经变得强大起来。基于硅芯片的机器智能已经发展起来。人类的大脑已经实现,使用类似大脑的计算来构建通用人工智能不再有任何障碍。”
他还表示,对通用人工智能的研究与添加许多紧密的人工智能在根本上是不同的。主要研究思想是将大脑的灵活性与计算机的刚性相结合,以提供数据和知识。将常识和思维结合起来,是一项非常具有挑战性的长期研究。
尽管类似大脑的计算机系统已与人工智能技术相结合,并且业内专家认为,它可以为通向通用人工智能的道路提供便利,并且在更通用算法的应用方面有一定的突破和发展,但确保性能至关重要。,计算机系统的可编程性和生产效率仍然面临相当大的挑战和极高的要求。尽管当前类似于大脑的计算机系统和芯片的特定类型有所不同,但它们都集中于端到端方法进行软硬件联合设计而且缺乏一种方法来满足不同领域的技术和要求,例如算法来集成芯片和设备。组合的软件和硬件系统的层次结构设计。
最新的研究结果可以为通用人工智能的加速普及提供机会。
新概念:神经形态完整当前,几乎所有现有的编程语言都是图灵完备的。冯·诺伊曼结构通过图灵完备接口(即通用指令集)并通过介绍图灵完备性和图灵完备性来支持图灵机。分层结构和冯·诺依曼体系结构避免了当前计算机系统中软件和硬件之间的紧密耦合,并实现了高效,兼容和独立的过程。通过定义硬件的最低要求(图灵完整性),可以将每一个高冯·诺依曼处理器(编译器)上的高级语言程序转换为等效的指令序列。
相反,类脑计算目前缺乏支持整体发展的简单但坚实的系统层次结构,神经形态软件与硬件之间没有清晰而完整的接口,并且不同研究方面之间的交互也更加复杂。
尽管各种算法,计算模型和基于类脑计算的软件设计不断出现,并且研究人员还开发了各种神经形态芯片,但它们通常需要一定的软件工具链才能正常运行。结果,大脑的不同层次-相似的计算机系统(包括应用程序模型,系统软件和神经形态设备)紧密相关,这影响了软件和硬件之间的兼容性,并破坏了类似于大脑的计算机系统。编程的灵活性和开发效率。
一些研究试图通过特定领域中的语言或开发框架将不同的软件和硬件连接在一起,但是这些研究通常没有考虑系统的图灵完整性,而是解决诸如硬件完整性,编程语言完整性以及像大脑一样的计算。近年来,在更基本的问题上进展甚微。
由于许多类似大脑的芯片不是为通用计算而设计的,而仅提供一些传统的指令集,因此尚不清楚它们是否是图灵完整的或是否完全需要图灵的。
为了解决上述问题,在本研究中,张有辉和史露平提出了“神经形态完备性”的概念,它是对类脑计算完备性的更适应和更全面的定义。通过引入新的维度-近似粒度(近似粒度),降低了系统对神经形态硬件的完整性要求,提高了不同硬件和软件设计之间的兼容性,并扩展了设计空间。
同时,他们提出了全新的系统层次结构,其中包括软件,硬件和编译三个层次,并具有图灵完备的软件抽象模型和通用的抽象神经形态结构。在系统的分层结构下,可以将各种程序以统一的表示形式显示出来,并在任何神经形态完整的硬件上转换成等效的可执行程序,从而确保了编程语言的可移植性和硬件的完整性,以及组装的可行性。
图|类脑计算机系统和传统计算机系统的层次结构(来源:自然)
软件指的是编程语言或基于它们的框架和算法或模型,并且在此级别上,他们提出了一个统一且通用的软件抽象模型-POG图(编程运算符图)-以适应各种类似于大脑的算法和模型设计.POG由统一的描述方法和用于并行程序执行的事件驱动模型组成,该模型集成了存储和处理功能,描述了类似脑程序的程序并定义了程序的执行方式。由于POG是完整的,因此它广泛支持各种应用程序,编程语言和框架。在硬件方面,它包括像全脑一样的芯片和体系结构模型。他们将抽象神经形态架构(ANA)设计为一种硬件抽象,其中包括一个EPG(执行原始图)图作为高级接口来描述可以执行它们的程序。EPG具有控制流数据流的混合表示形式,它最大程度地提高了对不同硬件的适应性,并与当前的硬件发展趋势相对应,即混合架构。编译层是将程序转换为硬件支持的等效形式的中间层。为了使其可行,研究人员从硬件支持的大脑样主流芯片中提出了一些硬件执行的基本要素,并证明配备了该硬件集的神经形态是完整的,并且使用了工具链软件作为编译层。实例说明了这种分层结构的可行性,合理性和优越性。
在这种情况下,研究人员认为,这种分层结构鼓励将软件和硬件设计在一起,从而避免硬件和软件之间的紧密耦合,并确保每个类似于大脑的程序都是图灵完备的POG可以在任何神经形态完整的硬件上实现。编译成等效的可执行EPG还可以确保类脑计算机系统的可编程性,硬件完整性和可编译性。
此外,他们实现了工具链软件的设计,以支持要在不同的典型硬件平台上运行的不同类型的程序,从而证明了该系统层次结构的优势。结合提出的系统架构(包括抽象软件和硬件模型),完整性的扩展定义使得可以转换完整的Turing软件和完整的神经形态硬件,即实现软件和硬件的解耦。(学术注释:软件和硬件的解耦是非常重要的设计方法,在此基础上,软件开发人员无需考虑如何设计底层硬件,并且硬件开发人员仅需遵循某些指令集规范而无需担心兼容性和更高级别的软件开发。)
这种设计理念使系统各方面之间的接口和划分更加清晰。他们希望能够在当前的层次结构的基础上进行进一步的研究,以进一步提高类似于大脑的计算机系统的效率和兼容性。从而促进通用人工智能的融合。发展各种应用方向。
神经形态计算中的“重要步骤”
对于这项最新研究,英国曼彻斯特大学计算机科学系的研究生Oliver Rhodes给予了很高的评价,他说:“这种方法使我们更接近大脑的巨大成就?类似的硬件可以已实现。”
他认为,这项研究的重点是张有辉和史露萍提出了一个完整的连续性(完整性连续性)-根据神经形态系统执行的基本操作的准确性,可以接受不同级别的算法,性能意味着可以使用所有可用的模拟和数字神经形态系统来实现新的层次结构,包括那些牺牲精度以提高执行速度或提高能源效率的系统。Rhodes还说,该层次结构可以比较实现相同算法的等效版本的不同硬件平台,并比较不同的硬件平台。这些算法是在同一硬件上实现的,这些是有效基准化神经形态架构的关键任务。在原理证明实验中包括传统的Turing完整硬件(GPU)也非常有价值,因为这表明该层次结构在某些应用中可以证明神经形态设备相对于传统系统的优势。
此外,这种分层结构还可以将算法和硬件开发划分为独立研究。如果要获得潜在的神经形态架构的好处,则算法的大小和复杂性必须随着时间的推移而增加,从而这种分离会增加。您是否会帮助未来的研究人员专注于研究问题的某些方面,而不是试图找到一个完整的解决方案?查找端到端解决方案。
尽管在神经形态计算领域要结合许多工业和学术研究小组的工作还有很多工作要做,但罗德斯认为,史露平和张有辉等人这次提出了这种层次结构,这是朝这个方向迈出的重要一步。
英雄争夺“类脑计算”
近年来,随着摩尔定律的逐渐失效,冯·诺依曼斯结构所施加的限制变得越来越明显,诸如存储墙,电源墙和智能改进之类的问题对当前的计算机开发提出了重大挑战。人们普遍认为,数字计算的发展正在放缓,并且由摩尔定律塑造的计算机时代即将结束。类脑计算或受人脑启发的神经形态计算是一种计算机模型和体系结构,具有克服冯·诺依曼瓶颈和促进下一波计算的潜力。
1989年,美国计算机科学家兼加州理工学院名誉教授卡弗·米德(Carver Mead)首次提出了类脑计算的概念,但当时摩尔定律并未出现“计算危机”,也没有出现相关研究。直到2004年,单核处理器的主频才停止增长,人们转向多核处理器寻求除冯·诺依曼(Von Neumann)架构以外的技术。类脑计算的概念引起了人们的注意。
如今,由人工智能驱动的类脑计算机技术已被视为通向通用人工智能的途径。世界各地的研究人员和研究机构也进行了与脑有关的研究并取得了许多成果。国外国家主要包括IBM的TrueNorth,英特尔的Loihi以及Braindrop,SpiNNaker和BrainScales。中国在这一领域也处于世界领先地位。
自从史鲁平的团队于2013年3月在清华大学专职工作并在清华大学建立了以大脑为灵感的计算机研究中心以来,史璐平的团队一直在基于基础理论,大脑启发式计算机系统进行大脑启发式计算的研究芯片和软件系统。
去年八月,史露萍团队与第二代“ Tianjicchip”合作,登上了世界上第一个异质融合大脑芯片《自然》杂志(TowardsartificialgeneralIntelligencewithhybridTianjicchiparchitecture)的封面,并通过自动驾驶自行车成功地测试了通用智能的可行性。该研究的主要成果是史鲁平团队在类脑计算和通用人工智能领域的进一步探索。
今年9月,浙江大学与枝江实验室共同开发了中国第一台基于具有自主知识产权的类脑芯片的类脑计算机(DarwinMouse),它是目前世界上最大的类神经计算机。
随着人工智能和脑科学研究的发展,具有人类智能和通用人工智能的类脑系统将来可能不会不可访问。
参考:
https://www.nature.com/articles/s41586-020-2782-y
https://www.nature.com/articles/s41586-019-1424-8