手机浏览器扫描二维码访问
2. AI推理:需要光模块“不卡顿”
AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。
比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。
而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。
3. AI集群:需要光模块“连得密”
本小章还未完,请点击下一页继续阅读后面精彩内容!
AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。
以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。
中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。
五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?
光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。
1. 传统可插拔光模块:灵活但有瓶颈
我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。
这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:
- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。
- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。
- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。
2. CPO技术:把光模块“焊”在芯片上,突破瓶颈
为了解决传统可插拔模块的瓶颈,行业里出现了“CPO技术”(共封装光学,Co-packaged Optics),简单说就是“把光模块和服务器/交换机的芯片直接封装在一起”,不用再做可插拔的接口。
慢热|长篇“为什么不是龙傲天系统?”周述曾这样抱怨。周述连连摆手,拒绝道:“不了不了。”至于为什么会有以上对话,是因为——他,周述,一个纯正男大学生,在这个系统横行的时代,不负众望地穿越了。周述狠狠地瞪了系统一眼。*这个世界上有很多的系统,绑定他的系统自我介绍的时候,说它是“剧情纠正系统”。周述没有怀疑,直接相信了......
上一世,张雁声因为渣爹、后妈,抽烟喝酒纹身飙车,把自己的人生给废了。重生回高中,叛逆少女张雁声看着家里千万豪宅、百万豪车……叛逆是什么?继承家业它不香吗? 张雁声决心好好学习,做个合格的家族继承人。 至于后妈和继弟出来作妖?张雁声掰掰手腕。上辈子干啥啥不行,打架第一名。 渣爹:我都听雁声的! 继弟:姐,我不敢了! 继妹:我姐宇宙最帅! 祖母:雁声就是我看中的家族继承人! 母凭子贵上位的小三后妈痛哭流涕:原配生的明明是女儿,怎么还继承了家产?我生的可是儿子啊! 人人都说岳家太子爷岳松凛冽如寒冬,直到那天,有人看到岳松对张雁声温柔似水:“我想和你谈一段继承人之间的豪门联姻。”...
四个男人一台戏,这场忽明忽暗的迷茫青春里,我最想放到不确定未来里的只有你。 半斤八两——严子铮x林敬磊(伪学渣真学霸深藏不漏全能攻x帅的惨绝人寰傲娇易燃易爆受) 想跟你好,想跟你厮混到老。...
#妻主总想给我解战袍# 封家世代为将,可惜这代无女,嫡子封禹扛起了出征的大旗,成为大蒋嫁不出去的男将军 封禹在边疆住惯了,本打算随意找个入赘妻主得了,没成想却接到一封赐婚圣旨 从此面冷嘴笨的少将军,身边多了个体弱心黑的妻主,他走到哪儿她就跟到哪儿 妻主一点都不嫌弃他满手鲜血不懂情调,还一路将他捧到了君后 蒋梧阙:我之所以必须坐上那个位子,是怕新帝登基,你会落得狡兔死,走狗烹的下场 只要我活着,就会护住你...
《《嫁给表哥之后》》《嫁给表哥之后》目录全文阅读,主角是个地雷扔了小说章节完整质量高,包含结局、番外。?书名:嫁给表哥之后作者:秀木成林章节:共147章,:三备注:镇北侯傅缙一生杀伐果断,能屈能伸。少年隐忍,终诛心怀叵测继母,灭便宜表妹妻室,得以挣脱桎梏。文能提笔安天下,武能上马定乾坤,一生光辉灿烂,青史留名。这样一个轰轰烈烈的人物,真真可歌可泣。...
李乐穿越怪猎世界,成为使用完美武器的虫棍仔。要说与其他猎人的区别,那就是他的猎虫稍微有点特殊。-----另有完结作品《我在怪猎世界抽技能》《带着精灵球勇闯怪猎世界》...