光互连与光处理：数据中心变革的关键驱动力
发布于：2024-08-16
尽管光学技术在数据中心已历经数十年的应用历程，但当下正不断深入其核心领域 —— 那些运行着数据中心工作负载的处理器和加速器之中。那么，究竟是如何发展至这般境地的？未来又将呈现怎样的态势呢？
光通信具备高带宽、低延迟以及低能量损耗的显著优势。起初它主要用于推动往返数据中心的流量流通，随后逐渐应用于数据中心内部，通常在机架顶部（TOR）处构建高速链路，实现机架顶部交换机之间的高效连接。而在人工智能所涉及的大数据流场景中，低延迟和高带宽的互连作用极为关键，这无疑加速了光通信的广泛应用。
以谷歌为例，其甚至自主研发了光交换机，借助自由空间光学元件成功降低了网络的延迟和功耗。通过运用自由空间光学技术，谷歌避免了在每个交换机上进行光域与电域信号转换的繁琐步骤。
谷歌宣称，其定制化网络能够使吞吐量提升 30%，功耗降低 40%，资本支出削减 30%，流程完成率提高 10%，网络停机时间减少至原来的五十分之一。这意味着一旦节点出现故障或需要进行维修，能够迅速实现切换。
光互连的兴起之势
近来，在机架内部运用光互连的趋势愈发显著。受人工智能对高带宽、低延迟的迫切需求（因人工智能模型分布于众多处理节点之上）的推动，光互连正助力这些多节点系统以最快速度运行。速度始终是至关重要的因素。
光互连领域充满了创新活力。一些初创企业正致力于开发全光分组交换技术，旨在避免电域与光域之间的信号转换，从而大幅降低功耗和延迟。
其他企业则将光学技术拓展至下一层级，积极研发全光芯片到芯片甚至硅片到硅片的互连方案。在此情形下，通信带宽进一步提升。为实现这一进步，共封装光学器件起着关键作用。代工厂和芯片封装公司正在大力投入此项功能的研发。
从切换迈向处理
光学的应用范畴不仅局限于切换领域，它同样能够应用于处理环节。在处理方面，它同样具备提供速度、功率以及效率方面的类似优势。
为何要借助光学进行处理呢？人工智能处理需求正以惊人的速度增长，然而硅片的发展路线图却难以跟上这一节奏。硅片开发商正面临收益递减的困境，需要投入越来越多的时间、精力和资金来实现微小的性能提升。
目前业界的应对之策是增加硅片面积，在芯片内部采用多个硅片，并运用复杂的封装技术来应对由此引发的挑战。但这需要付出高昂的代价，包括资金和功耗方面。
巨额的资金成本源于购买最先进的人工智能加速器所需的庞大资本支出，以及供应和冷却这些高耗电设备所需增加的基础设施投入；这还未将能源消耗增加的成本计算在内。
光学与人工智能极为契合，尤其是因为人工智能的核心运用矢量矩阵乘法，而这在光学中能够非常高效地实现。过去几年间，人们一直期望将集成光子学应用于人工智能处理，然而，由于集成光子学在应对现代人工智能所需的大规模矩阵处理方面存在局限性，目前该技术主要聚焦于互连或交换应用领域。
运用 3D（自由空间）光学器件进行处理能够克服这些挑战 —— 仅需消耗极少的功率，却能实现性能的大幅飞跃。采用 3D 光学器件意味着可以运用非常宽的矢量，从而最大限度地提升性能和能源效率。与当今的 GPU 解决方案相比，运用 3D 光学器件的人工智能加速器有望以极低的资本和运营成本提供低功耗、高性能的解决方案。
随着数据中心对光学器件的应用日益广泛，用于人工智能处理的 3D 光学器件必将成为未来发展的关键一步。
以下是一种重新优化后的表述：
尽管光学技术在数据中心已有着长达数十年的应用历史，但如今正深度渗透至其核心部位 —— 那些承载着数据中心工作负载的处理器和加速器里。那么，我们是怎样逐步走到现在的状况呢？未来又会呈现何种模样呢？
光通信拥有高带宽、低延迟以及低能量消耗的突出优点。起初它主要用于助力数据中心的流量往返，随后在数据中心内部开始发挥作用，常见于机架顶部（TOR），用于创建机架顶部交换机之间的高速连接通道。在人工智能所涉及的庞大数据流领域，低延迟和高带宽的互连作用极为关键，这极大地推动了光通信的运用。
例如谷歌，其自行研发了光交换机，通过利用自由空间光学元件有效降低了网络的延迟和功耗。借助这一技术，谷歌避免了在每个交换机上进行光域和电域信号的转换操作。
谷歌表示，其定制的网络能够将吞吐量提高 30%，功耗降低 40%，资本支出减少 30%，流程完成率增加 10%，网络停机时间降低至原来的五十分之一。这意味着当节点出现故障或需要维护时，能够迅速进行切换。
光互连的兴起态势
近期，在机架内部使用光互连的趋势日益明显。受人工智能对高带宽、低延迟的强烈需求（因为人工智能模型分布在众多处理节点上）的驱动，光互连正在促使这些多节点系统以最快的速度运行。速度始终是至关重要的因素。
光互连领域充满了创新活力。一些初创公司正在全力开发全光分组交换，避免在电域和光域之间转换信号，从而大幅降低功耗和延迟。
其他公司则将光学技术拓展到下一层级，积极研发全光芯片到芯片甚至硅片到硅片的互连方式。在此情况下，通信带宽进一步提高。为了实现这一进步，共封装光学器件起着关键作用。代工厂和芯片封装公司正在大力投入这一功能的研发。
从切换到处理的拓展
光学不仅可用于切换，还能应用于处理环节。在处理方面，它同样具有提供速度、功率和效率的类似优势。
为何要运用光学进行处理呢？人工智能处理需求正以惊人的速度增长，然而硅片的发展路线图却难以跟上这一节奏。硅片开发商正面临收益递减的困境，需要投入越来越多的时间、精力和资金来实现微小的性能提升。
目前业界的解决办法是增加硅片面积，在芯片内部使用多个硅片，并运用复杂的封装技术来应对由此产生的挑战。但这需要付出巨大的成本，包括资金和功耗方面。
巨大的资金成本源于购买最先进的人工智能加速器所需的高额资本支出，以及供应和冷却这些高耗电设备所需增加的基础设施投入；这还未考虑到能源消耗增加的成本。
光学与人工智能极为适配，尤其是因为人工智能的核心运用矢量矩阵乘法，而这在光学中能够非常高效地实现。过去几年，人们一直期望将集成光子学应用于人工智能处理，然而，由于集成光子学在应对现代人工智能所需的大规模矩阵处理方面存在局限性，目前该技术主要集中在互连或交换应用领域。
运用 3D（自由空间）光学器件进行处理能够克服这些难题 —— 仅消耗极少的功率，却能实现性能的大幅提升。采用 3D 光学器件意味着可以使用非常宽的矢量，从而最大限度地提高性能和能源效率。与当今的 GPU 解决方案相比，运用 3D 光学器件的人工智能加速器有望以极低的资本和运营成本提供低功耗、高性能的解决方案。
随着数据中心对光学器件的应用不断增加，用于人工智能处理的 3D 光学器件必将成为下一步的关键发展方向。
声明：本站所使用的图片文字等素材均来源于互联网共享平台，并不代表本站观点及立场，如有侵权或异议请及时联系我们删除。