搜索

英特尔首发大型神经拟态系统Hala Point,增长“绿色AI”发展

发表于 2024-10-17 01:24:00 来源:饕餮之徒网

  英特尔宣告了代号为Hala Point的绿色AI大型神经拟态系统。Hala Point基于英特尔Loihi 2神经拟态解决器打造而成,英特旨在反对于类脑AI畛域的尔首前沿钻研,解决AI当初在功能以及可不断性等方面的发大发展挑战。在英特尔第一代大规模钻研系统Pohoiki Springs的型神根基上,Hala Point改善了架构,经拟将神经元容量普及了10倍以上,态系统功能普及了12倍。增长

  英特尔钻研院神经拟态合计试验室总监Mike Davies 呈现:“当初,绿色AIAI模子的英特算力老本正在不断回升。行业需要可能规模化的尔首全新合计方式。为此,发大发展英特尔开辟了Hala Point,型神将功能率的经拟深度学习以及别致的类脑不断学习、优化能耐散漫起来。态系统咱们愿望运用Hala Point的钻研可能在大规模AI技术的功能以及适应性上取患上突破。”

  Hala Point在干流AI使命负载上展现了卓越的合计功能。钻研呈现,在运行传统深度神经网络时,该系统可能每一秒实现多达2万万亿次(20 petaops)运算,8位运算能效比达到了15 TOPS/W,至关于甚至超过了基于GPU以及CPU的架构。Hala Point有望增长多畛域AI运用的实时不断学习,如迷信钻研、工程、物流、智能都市根基配置装备部署打点、狂语言模子(LLMs)以及AI助手(AI agents)。

  当初,Hala Point是一个旨在改善未来商用系统的钻研原型。英特尔预计其钻研将带来实际技术突破,如让狂语言模子具备重新数据中不断学习的能耐,从而有望在AI宽泛部署的历程中,大幅着落磨炼能耗,普及可不断性。

游侠网1

  深度学习模子的规模正在不断扩充,参数目可达万亿级。这一趋势象征着AI技术在可不断性下面临着严酷的挑战,有须要探究硬件架构底层的立异。神经拟态合计是一种借鉴神经迷信钻研的全新合计方式,经由存算一体以及高细粒度的并行合计,大幅削减了数据传输。在本月举行的声学、语音与信号解决国内团聚(ICASSP)上,英特尔宣告的钻研表明,Loihi 2在新兴的小规模边缘使命负载上实现为了功能、速率以及适应性数目级的降职[1]。

  Hala Point在其前身Pohoiki Springs的根基上实现为了大幅降职,基于神经拟态合计技术降职了干流、老例深度学习模子的功能以及功能,特意是那些用于解决视频、语音以及无线通信等实时使命负载的模子。比喻,在往年的天下挪移通信大会(MWC)上,爱立信钻研院(Ericsson Research)就展现了其若何将 Loihi 2神经拟态解决器运用于电信根基配置装备部署功能的优化。

  Hala Point基于神经拟态解决器Loihi 2打造,Loihi 2运用了泛滥类脑合计道理,如异步(asynchronous)、基于事件的脉冲神经网络(SNNs)、存算一体,以及不断变换的浓密衔接,以实现能效比以及功能的数目级降职。神经元之间可能间接通信,而非经由内存通信,因此能着落部份功耗。

  Hala Point系统由封装在一个六机架的数据中间机箱中的1152个Loihi 2解决器(接管Intel 4制程节点)组成,巨细至关于一个微波炉。该系统反对于扩散在 140544 个神经形态解决内核上的多达 11.5 亿个神经元以及 1280 亿个突触,最大功耗仅为 2600 瓦。Hala Point还包罗 2300 多个嵌入式 x86 解决器,用于辅助合计。

  在大规模的并行结构中,Hala Point集成为了解决器、内存以及通信通道,内存带宽达每一秒16PB,内核间的通信带宽达每一秒3.5 PB,芯片间的通信带宽达每一秒5TB。该系统每一秒可解决超过380万亿次8位突触运算以及超过240万亿次神经元运算。

  在用于仿生脉冲神经网络模子时,Hala Point可能以比人脑快20倍的实时速率运行其全副11.5亿个神经元,在运行神经元数目较低的状态下,速率可比人脑快200倍。尽管Hala Point并非用于神经迷信建模,但其神经元容量简陋至关于猫头鹰的大脑或者卷尾猴的大脑皮层。

游侠网2

  在推广AI推理负载以及解决优化成果时, Loihi 2神经拟态芯片系统的速率比老例CPU以及GPU架构快50倍,同时能耗着落了100倍[1]。早期钻研服从表明,经由运用浓密性高达10比1的浓密衔接(sparse connectivity)以及事件驱动的行动,Hala Point运行深度神经网络的能效比高达15 TOPS/W[2] ,同时无需对于输入数据妨碍批解决。批解决是一种罕用于GPU的优化方式,会大幅削减实时数据(如来自摄像头的视频)解决的延迟。尽管仍处于钻研阶段,但未来的神经拟态狂语言模子将再也不需要定期在不断削减的数据集上再磨炼,从而节约数千兆瓦时的能源。

  天下各地争先的学术总体、钻研机谈判公司配合组成为了英特尔神经拟态钻研社区(INRC),成员总数超过200个。携手英特尔神经拟态钻研社区,英特尔正被动于开拓类脑AI前沿技术,以将其从技术原型转化为业界争先的产物。

随机为您推荐
友情链接
版权声明:本站资源均来自互联网,如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

Copyright © 2016 Powered by 英特尔首发大型神经拟态系统Hala Point,增长“绿色AI”发展,饕餮之徒网   sitemap

回顶部