麻省理工学院使用光子和电子来解锁更快更环保的计算

续航客服微信二维码-black

留学申请微信咨询

微信扫描左侧二维码

点击下方按钮咨询

联系客服

文章介绍了光子计算作为一种新兴的解决方案,应对计算机性能提升减缓的挑战。麻省理工学院的研究人员利用光子技术开发了“Lightning”系统,结合光子和电子计算,实现了实时机器学习推理请求,提高了计算效率和节能性。该系统通过解决光子和电子之间的数据流控制问题,实现了快速、高效的计算,减少碳排放。团队的研究成果将在SIGCOMM上展示,这也彰显了其在计算机通信领域的重要性。光子计算不仅在人工智能领域有潜力影响,还在环保解决方案和其他应用领域具有广泛可能性。阅读全文预计需要约5分钟。*

计算机领域正处于一个拐点。摩尔定律,即电子芯片上的晶体管数量每年翻一番的预测,由于晶体管的物理限制,在芯片上容纳更多晶体管的速度正在减缓。随着对能够支持越来越复杂人工智能模型的高性能计算机的需求增长,计算机性能的提升也在减缓。这种不便导致工程师们探索扩展其机器的计算能力的新方法,但解决方案仍然不明确。

光子计算是满足机器学习模型不断增长的计算需求的一种潜在解决方案。这些系统不使用晶体管和电线,而是利用光子(微观光粒子)在模拟域中执行计算操作。激光产生这些小能量束,其速度如同科幻电影中的光速飞行飞船一样快。当将光子计算核心添加到可编程加速器中,如网络接口卡(NIC及其增强版SmartNICs)时,所得的硬件可以插入标准计算机以提高性能。

麻省理工学院的研究人员已经利用光子的潜力来加速现代计算,通过在机器学习中使用“Lightning”——他们的光子-电子可重构SmartNIC,有助于深度神经网络(模仿大脑处理信息的机器学习模型)完成推理任务,如图像识别和聊天机器人(如ChatGPT)中的语言生成。这个原型的新颖设计实现了令人印象深刻的速度,创建了第一个能够提供实时机器学习推理请求的光子计算系统。

尽管光子计算具有潜力,但在实施光子计算设备方面的一个主要挑战是不像传统的电子计算,光子计算是被动的,意味着它们缺乏内存或指令来控制数据流动。以前的光子计算系统面临这个瓶颈,但Lightning消除了这个障碍,以确保电子和光子组件之间的数据传输顺畅运行。

麻省理工学院计算机科学与人工智能实验室(CSAIL)的MIT副教授Manya Ghobadi小组的博士后研究员Zhizhen Zhong表示:“光子计算在加速笨重的线性计算任务(如矩阵乘法)方面显示出明显的优势,同时需要电子来处理其他任务:内存访问、非线性计算和条件逻辑。这导致需要在光子和电子之间交换大量数据来完成实际的计算任务,比如机器学习推理请求。控制光子和电子之间的数据流是以往最先进的光子计算工作的软肋。即使你有一台超级快的光子计算机,你也需要足够的数据来支持它而不产生停滞。否则,你得到的只是一台在没有进行合理计算的情况下闲置的超级计算机。”

麻省理工学院EECS系副教授和CSAIL成员Ghobadi及她的团队同事是第一个识别和解决这个问题的人。为了实现这一壮举,他们结合了光子的速度和电子计算机的数据流控制能力。

在Lightning之前,光子和电子计算方案是独立运行的,它们使用不同的语言。团队的混合系统使用可重构的计数操作抽象来跟踪数据通路上的所需计算操作,将光子与计算机的电子部件连接起来。这个编程抽象作为两者之间的统一语言,控制着数据流的访问。由电子携带的信息被转化成光子的形式,光子以光速工作,帮助完成推理任务。然后,将光子转化回电子以将信息传送给计算机。

通过无缝连接光子和电子,这个新颖的计数操作抽象使Lightning的快速实时计算成为可能。以前的尝试采用了一种停-走的方法,意味着数据将被更慢的控制软件阻碍,该软件会对数据的移动做出所有决策。“构建一个没有计数操作编程抽象的光子计算系统就像试图在不懂开车的情况下驾驶一辆兰博基尼,”是文章的一位高级作者,Ghobadi如此说道。“你会怎么做?你可能一只手拿着驾驶手册,然后踩离合器,然后查看手册,然后松开刹车,然后查看手册,依此类推。这是一个停停走走的操作,因为对于每个决策,你都必须咨询某个高级实体告诉你该做什么。但这不是我们开车的方式;我们学会开车,然后在方向盘后面使用肌肉记忆,不需要查看手册或交通规则。我们的计数操作编程抽象在Lightning中充当肌肉记忆。它在运行时无缝驱动电子和光子。”

环保解决方案

目前,完成基于推理的机器学习任务,如ChatGPT和BERT,需要大量的计算资源。它们不仅昂贵——一些估算显示ChatGPT每月需要300万美元才能运行——而且对环境有害,可能排放出超过普通人的二氧化碳排放的两倍以上。Lightning使用比电子在电线中移动更快的光子,同时产生更少的热量,使其能够以更高的频率进行计算,同时更加节能。

为了衡量这一点,Ghobadi小组通过合成Lightning芯片将其设备与标准图形处理单元、数据处理单元、SmartNICs和其他加速器进行了比较。团队观察到,在完成推理请求时,Lightning更加节能。“我们的合成和模拟研究表明,与最先进的加速器相比,Lightning将机器学习推理的能耗降低了数个数量级,”Ghobadi的实验室研究生Mingran Yang说道。作为一种更具成本效益、更快速的选择,Lightning为数据中心提供了一个潜在的升级选项,以减少其机器学习模型的碳足迹,同时加快用户的推理响应时间。

文章的其他作者包括麻省理工学院CSAIL博士后Homa Esfahanizadeh和本科生Liam Kronman,以及麻省理工学院EECS系副教授Dirk Englund和该系的三位最近的毕业生:Jay Lang ’22,MEng ’23;Christian Williams ’22,MEng ’23;和Alexander Sludds ’18,MEng ’19,PhD ’23。他们的研究得到了DARPA FastNICs计划、ARPA-E ENLITENED计划、DAF-MIT人工智能加速器、美国陆军研究办公室通过士兵纳米技术研究所的支持,以及国家科学基金(NSF)资助、NSF量子网络中心和Sloan学者奖学金。

该团队将于本月在计算机协会的数据通信特别兴趣小组(SIGCOMM)上展示他们的研究成果。

参考资料:

### 可能感兴趣的问题:
1. 光子计算在未来如何影响人工智能模型的发展?
2. 在光子计算中,如何解决光子和电子之间的数据流控制问题?
3. Lightning相对传统计算设备的优势主要体现在哪些方面?
4. 光子计算的环保优势是如何体现的?
5. Lightning在完成推理请求时相对于其他加速器实现了怎样的能耗降低?
6. 文章提到了团队的研究成果将在SIGCOMM上展示,这个会议对于计算机领域有何重要性?
7. 除了MIT在光子计算方面的研究外,其他大学或研究机构是否也在进行类似的研究?
8. 除了在人工智能领域,光子计算在其他领域应用方面有哪些潜在可能性?

### 回答问题:
1. 光子计算可以通过更快的数据传输速度和低能耗的特性,提高人工智能模型的计算性能和效率,有助于更快速、更准确地执行复杂的机器学习算法。
2. Lightning采用了可重构的计数操作抽象来解决光子和电子之间的数据流控制问题,确保数据传输顺畅以支持实际的计算任务,如机器学习推理请求。
3. Lightning相对传统计算设备的优势主要体现在快速计算速度、更低的能耗和更环保的特性上。
4. Lightning使用光子移动数据的方法比传统的电子移动更快,产生更少的热量,减少碳排放,以更高的频率进行计算,同时更加节能。
5. Lightning相对于其他加速器在完成推理请求时将机器学习推理的能耗降低了数个数量级,表现出更高的效率和节能性。
6. SIGCOMM是计算机通信领域的顶级会议,团队在会上展示研究成果表明其在领域内取得了重要进展,会议对于推动通信技术的发展具有重要意义。
7. 除了MIT,一些其他大学和研究机构如斯坦福大学、康奈尔大学、普林斯顿大学等也在光子计算领域进行相关研究。
8. 光子计算除了在人工智能领域的应用外,还有潜在的应用领域包括光子传感器、光子通信、光子互联等,有望在多个领域带来创新和突破。

*简介与问答内容由人工智能chatGPT根据文章内容总结发散,仅供参考,如有冲突请以正文内容为准

【独家稿件声明】本文为美国续航教育(Forward Pathway LLC,官网地址:www.forwardpathway.com)原创,未经授权,任何媒体和个人不得全部或者部分转载。如需转载,请与美国续航教育联系;经许可后转载务必请注明出处,违者本网将依法追究。

美国续航教育总部位于美国加利福尼亚州洛杉矶,同时在中国上海和深圳设有续航教育分部。续航教育自2013年成立以来,致力于研究中美之间的文化教育发展与趋势,提供最专业的美国留学一站式服务,获得美国国际招生协会AIRC及国际教育顾问委员会ICEF的双重认证。

美国招生协会
AIRC权威认证

2000+ TOP50
成功申请案例

7000+ 学校
独家数据库信息支持

点击了解详情

留学宝典

史上最全留学指南

续航客服微信二维码-black

咨询留美申请详情

微信扫描左侧二维码

点击下方按钮咨询

联系客服

觉得有用的话就评价/分享一下吧~

留学宝典

美国留学宝典

史上最全留学指南

联系我们

24小时在线客服咨询

 续航教育企业微信客服二维码

⬆⬆⬆微信扫码咨询

或点击下方按钮


联系电话:
+1 412-230-8666

邮箱:
[email protected]

Generic filters
Exact matches only