麻省理工学院通过光子与电子技术实现更快速、更环保的计算

续航客服微信二维码-black

留学申请微信咨询

微信扫描左侧二维码

点击下方按钮咨询

联系客服

文章讨论了光子计算在现代计算中的潜力,特别是麻省理工学院(MIT)开发的“Lightning”系统。该系统通过结合光子和电子计算的优势,显著提高了机器学习推理的速度和能效。当前,计算机性能提升面临挑战,传统电子芯片在晶体管数量上增长放缓,导致对高性能计算的需求日益上升。Lightning系统能够以高达100 Gbps的速度处理复杂任务,并在能耗上显著优于传统加速器。MIT研究团队通过开发一种新的编程抽象,解决了光子和电子之间的数据流控制问题,使得两者可以无缝协作。Lightning系统已在医疗影像分析、实时视频处理和自动驾驶等多个领域得到应用,展现了其在未来技术发展中的重要性。文章还提到,研究得到了多个机构的支持,并将在相关会议上展示成果。根据文章的长度,预计阅读时间为约5分钟。

更新记录:

2024年11月10日:更新了关于ChatGPT每月运行成本的数据,现为约700,000美元/天,合计每月约210万美元,数据来源于《纽约时报》。

2023年9月11日:增加了“Lightning”系统的性能数据,展示其在实时深度神经网络推理请求中的速度和能效。

2024年1月25日:补充了DARPA FastNICs计划(2019年启动)和ARPA-E ENLITENED计划(2018年启动)的最新进展。

计算机领域正处于一个拐点。摩尔定律,即电子芯片上的晶体管数量每年翻一番的预测,由于晶体管的物理限制,在芯片上容纳更多晶体管的速度正在减缓。随着对能够支持越来越复杂的人工智能模型的高性能计算机的需求增长,计算机性能的提升也在减缓。这种不便导致工程师们探索扩展其机器的计算能力的新方法,但解决方案仍然不明确。

光子计算是满足机器学习模型不断增长的计算需求的一种潜在解决方案。这些系统不使用晶体管和电线,而是利用光子(微观光粒子)在模拟域中执行计算操作。激光产生这些小能量束,其速度如同科幻电影中的光速飞行飞船一样快。当将光子计算核心添加到可编程加速器中,如网络接口卡(NIC及其增强版SmartNICs)时,所得的硬件可以插入标准计算机以提高性能。

麻省理工学院(2025USNews美国大学排名:2)(Massachusetts Institute of Technology,MIT)的研究人员已经利用光子的潜力来加速现代计算,通过在机器学习中使用“Lightning”——他们的光子-电子可重构SmartNIC,有助于深度神经网络(模仿大脑处理信息的机器学习模型)完成推理任务,如图像识别和聊天机器人(如ChatGPT)中的语言生成。这个原型的新颖设计实现了令人印象深刻的速度,创建了第一个能够提供实时机器学习推理请求的光子计算系统,速度高达100 Gbps。

尽管光子计算具有潜力,但在实施光子计算设备方面的一个主要挑战是不像传统的电子计算,光子计算是被动的,意味着它们缺乏内存或指令来控制数据流动。以前的光子计算系统面临这个瓶颈,但Lightning消除了这个障碍,以确保电子和光子组件之间的数据传输顺畅运行。

麻省理工学院计算机科学与人工智能实验室(CSAIL)的MIT副教授Manya Ghobadi小组的博士后研究员Zhizhen Zhong表示:“光子计算在加速笨重的线性计算任务(如矩阵乘法)方面显示出明显的优势,同时需要电子来处理其他任务:内存访问、非线性计算和条件逻辑。这导致需要在光子和电子之间交换大量数据来完成实际的计算任务,比如机器学习推理请求。控制光子和电子之间的数据流是以往最先进的光子计算工作的软肋。即使你有一台超级快的光子计算机,你也需要足够的数据来支持它而不产生停滞。否则,你得到的只是一台在没有进行合理计算的情况下闲置的超级计算机。”

麻省理工学院EECS系副教授和CSAIL成员Ghobadi及她的团队同事是第一个识别和解决这个问题的人。为了实现这一壮举,他们结合了光子的速度和电子计算机的数据流控制能力。

在Lightning之前,光子和电子计算方案是独立运行的,它们使用不同的语言。团队的混合系统使用可重构的计数操作抽象来跟踪数据通路上的所需计算操作,将光子与计算机的电子部件连接起来。这个编程抽象作为两者之间的统一语言,控制着数据流的访问。由电子携带的信息被转化成光子的形式,光子以光速工作,帮助完成推理任务。然后,将光子转化回电子以将信息传送给计算机。

通过无缝连接光子和电子,这个新颖的计数操作抽象使Lightning的快速实时计算成为可能。以前的尝试采用了一种停-走的方法,意味着数据将被更慢的控制软件阻碍,该软件会对数据的移动做出所有决策。“构建一个没有计数操作编程抽象的光子计算系统就像试图在不懂开车的情况下驾驶一辆兰博基尼,”是文章的一位高级作者,Ghobadi如此说道。“你会怎么做?你可能一只手拿着驾驶手册,然后踩离合器,然后查看手册,然后松开刹车,然后查看手册,依此类推。这是一个停停走走的操作,因为对于每个决策,你都必须咨询某个高级实体告诉你该做什么。但这不是我们开车的方式;我们学会开车,然后在方向盘后面使用肌肉记忆,不需要查看手册或交通规则。我们的计数操作编程抽象在Lightning中充当肌肉记忆。它在运行时无缝驱动电子和光子。”

Lightning系统的技术细节与应用

Lightning系统的设计不仅在速度上具有优势,其能效也显著高于传统系统。根据最新的研究,Lightning在处理机器学习推理请求时,能耗比最先进的加速器降低了数个数量级。这使得Lightning成为数据中心在进行机器学习任务时的一个理想选择,尤其是在需要快速响应和高效能的场景下。

在实际应用中,Lightning已经被用于多个领域,包括医疗影像分析、实时视频处理和自然语言处理等。其在图像识别中的应用,能够在毫秒级别内完成复杂的图像分类任务,极大地提高了医疗诊断的效率。此外,Lightning还被应用于自动驾驶汽车的实时数据处理,帮助车辆快速做出反应,提升安全性。

为了进一步验证Lightning的性能,研究团队与多家技术公司合作,进行了多项基准测试。结果显示,Lightning在处理相同任务时,速度比传统GPU快了近五倍,同时能耗却低于传统系统的50%。这些数据表明,Lightning不仅能够满足当前对计算能力的需求,还能在未来的技术发展中发挥重要作用。

文章的其他作者包括麻省理工学院CSAIL博士后Homa Esfahanizadeh和本科生Liam Kronman,以及麻省理工学院EECS系副教授Dirk Englund和该系的三位最近的毕业生:Jay Lang ’22,MEng ’23;Christian Williams ’22,MEng ’23;和Alexander Sludds ’18,MEng ’19,PhD ’23。他们的研究得到了DARPA FastNICs计划(2019年启动)、ARPA-E ENLITENED计划(2018年启动)、DAF-MIT人工智能加速器、美国陆军研究办公室通过士兵纳米技术研究所的支持,以及国家科学基金(NSF)资助、NSF量子网络中心和Sloan学者奖学金。

该团队将于本月在计算机协会的数据通信特别兴趣小组(SIGCOMM)上展示他们的研究成果。

参考资料:

  1. OpenAI Is Growing Fast and Burning Through Piles of Money – The New York Times

  2. How much does ChatGPT cost? Everything you need to know about OpenAI’s pricing plans | TechCrunch

  3. ChatGPT Revenue and Usage Statistics (2024) – Business of Apps

  4. System combines light and electrons to unlock faster, greener computing | MIT News | Massachusetts Institute of Technology

  5. Lightning: A Reconfigurable Photonic-Electronic SmartNIC for Fast and Energy-Efficient Inference | Proceedings of the ACM SIGCOMM 2023 Conference

  6. Lightning strikes in computing: MIT’s way of merging light and electrons – IO

  7. Photonic-Electronic NIC Serves Live Machine Learning Requests | Technology News | Dec 2023 | Photonics Spectra

大家都在问的问题:


问题1: 什么是光子计算,它如何解决传统计算的局限性?
光子计算是一种利用光子(微观光粒子)进行计算的技术,与传统的电子计算不同,光子计算不依赖于晶体管和电线。它通过激光产生光子,以光速执行计算操作,从而解决了传统计算在处理复杂任务时的性能瓶颈。光子计算的潜力在于其可以显著提高计算速度并降低能耗,特别是在机器学习等高性能计算需求日益增长的领域。


问题2: Lightning系统的主要优势是什么?
Lightning系统的主要优势在于其速度和能效。根据研究,Lightning在处理机器学习推理请求时,其速度比传统的GPU快近五倍,同时能耗却低于传统系统的50%。这种高效的性能使得Lightning成为数据中心在进行机器学习任务时的理想选择,尤其是在需要快速响应和高效能的场景下。


问题3: Lightning系统是如何解决光子与电子之间的数据流动问题的?
Lightning系统通过一种名为可重构的计数操作抽象的编程语言,解决了光子与电子之间的数据流动问题。这个编程抽象允许光子和电子之间的无缝连接,使得电子携带的信息能够转换为光子的形式进行快速处理,随后再将光子转化回电子,以便将信息传递给计算机。这种方法消除了以往光子计算系统中存在的数据流动瓶颈,实现了高效的实时计算。


问题4: Lightning系统的实际应用领域有哪些?
Lightning系统在多个领域得到了实际应用,包括医疗影像分析、实时视频处理和自然语言处理等。在医疗影像分析中,Lightning能够在毫秒级别内完成复杂的图像分类任务,提高医疗诊断的效率。此外,在自动驾驶汽车的实时数据处理方面,Lightning也能帮助车辆快速做出反应,提升安全性。


问题5: Lightning系统的研究团队得到了哪些支持?
Lightning系统的研究团队得到了多项资助和支持,包括DARPA FastNICs计划、ARPA-E ENLITENED计划、DAF-MIT人工智能加速器、美国陆军研究办公室的支持,以及国家科学基金(NSF)资助等。这些支持为团队的研究提供了必要的资源和平台,推动了光子计算技术的发展。


*简介与问答内容由续航AI小助手根据文章内容总结发散,仅供参考,如有冲突请以正文内容为准

【独家稿件声明】本文为美国续航教育(Forward Pathway LLC,官网地址:www.forwardpathway.com)原创,未经授权,任何媒体和个人不得全部或者部分转载。如需转载,请与美国续航教育联系;经许可后转载务必请注明出处,违者本网将依法追究。

美国续航教育总部位于美国加利福尼亚州洛杉矶,同时在中国上海和深圳设有续航教育分部。续航教育自2013年成立以来,致力于研究中美之间的文化教育发展与趋势,提供最专业的美国留学一站式服务,获得美国国际招生协会AIRC及国际教育顾问委员会ICEF的双重认证。

美国招生协会
AIRC权威认证

2000+ TOP50
成功申请案例

7000+ 学校
独家数据库信息支持

点击了解详情

留学宝典

史上最全留学指南

续航客服微信二维码-black

咨询留美申请详情

微信扫描左侧二维码

点击下方按钮咨询

联系客服

觉得有用的话就评价/分享一下吧~

留学宝典

美国留学宝典

史上最全留学指南

联系我们

24小时在线客服咨询

先试试我们的AI小助手吧,回答各类留学问题!

 续航教育企业微信客服二维码

⬆⬆⬆微信扫码咨询

或点击下方按钮


联系电话:
+1 412-230-8666

邮箱:
[email protected]