
近日,“从模型到世界”天数智芯2026媒体开放日活动在上海举办。天垓300首次面向媒体开放实机演示,基于天垓300的AFD分离方案、IXL144超节点方案,以及天数智算软件栈、彤央端侧算力终端同台亮相。活动现场,天数智芯还预告了下一代端侧产品彤央TY2000,标称算力将达600T,把云端能力下沉的边界再向前推进一步。
彤央TY1200硬撼英伟达,云边端算力分层是趋势
现场,天数智芯硬撼英伟达,彤央TY1200在实测中超越英特尔Thor T5000。据介绍,TY1200是天数智芯推出的一款面向具身智能、AI Agent开发部署及行业现场部署需求的小型化智能计算设备。TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值。
天数智芯方面数据显示,在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到英伟达Thor T5000的1.2倍。而在Cosmos-R2-2B和Cosmos-R2-8B测试中,TY1200的实测性能也分别达到英伟达Thor T5000的158%和180%。据天数智芯彤央产品市场负责人宋远盈介绍,TY1200性能更优的原因在于显存带宽更高、计算核数量更多。
为何布局端侧?据天数智芯观察,物理世界的数据量持续增长,对感知、规划与执行提出毫秒级响应要求,合同、科研等涉及数据安全的任务要求算力必须“贴着数据跑”,业务需求让算力必须分层。与此同时,小参数量模型能力提升,让更多任务具备边端部署条件,技术演进使算力可以分层。而客户对长期使用成本的关注,要求算力投入更精准,简单任务不必都上云,复杂任务也不宜一律下沉,成本约束让分层值得做。大规模训练与复杂复判留在云端,要求实时响应、涉及数据安全、需要现场闭环的任务,则放在端侧。
宋远盈表示,“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”据介绍,天数智芯在云侧大规模训练与推理中积累的模型压缩、量化、蒸馏和软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具,被一起带到边端。模型因此可以实现“生在云、长在边”,云端训练、边端部署,需要时再由云端复判,模型能力与精度保持衔接。在客户现场积累的高负载交付经验,也为工业应用、具身智能等高度要求稳定性的场景交付提供能力基础。
天垓300实测对标H200,面向Token工厂算力要求
云端产品方面,活动现场,天数智芯首次将天垓300面向媒体开放实机演示。公开资料介绍,天垓300是天数智芯在今年世界人工智能大会期间,正式发布的新一代通用GPU旗舰产品。第三方权威机构今年7月针对四大主流模型、三类场景开展测试,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。据天数智芯方面介绍,这里比较的不是理论峰值,而是在特定模型和部署条件下,整条推理链路的实际输出能力。
天数智芯性能实验室的实测进一步覆盖典型业务场景。在64K长上下文下,天垓300的Attention性能为H200的1.05倍;GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐相较H200提升约2%—5%;在搜广推等在线业务中,推荐推理吞吐提升21%、轻量计算时延降低26%。
值得一提的是,今年以来,日均Token调用量不断增长,Token工厂正成为算力规模化落地的热门形态,也是高质量算力三要素的集中检验场。而据天数智芯方面介绍,从各项表现来看,天垓300都满足Token工厂对算力的各项实际要求。首先是高效率。电力、机房和固定运维等支出难以随意压缩,单位Token成本很大程度上取决于设备投入和有效吞吐。在前述第三方测试条件下,天垓300折算单卡端到端吞吐达到H200的1.05倍,能够为单位时间内生产更多有效Token提供性能基础。
其次是可预期。Token工厂不能只在短时测试中跑得快,还要在长时间满负荷运行时保持稳定。天垓300满负荷运行的步时波动为0.43%,低于对比Hopper方案的0.76%,长时间高负载不掉链子,直接保障利用率与可用率。最后是可持续。天垓300通用架构原生支持CUDA语义,主流框架均已适配,并提供从加速卡、服务器到超节点的不同部署形态,面向多种模型与业务需求。
采写:南都N视频记者 朱可轩 发自上海
凤凰配资提示:文章来自网络,不代表本站观点。