华为云宣布 Tokens 服务全面接入 384 超节点：性能从 1920TPS 提升到 2400TPS
IT之家 8 月 27 日消息，在今日举行的第四届 828 B2B 企业节开幕式上，华为云宣布其 Tokens 服务全面接入 CloudMatrix384 超节点，将发挥“大杂烩”优势，以系统创新弥补单点不足，实现性能持续提升。
华为云介绍称，通过 xDeepServe 架构创新，单芯片最高可实现 2400TPS、50msTPOT 的超高吞吐、低时延的性能，超过业界水平。
华为云表示，过去 18 个月，中国 AI 算力需求呈现指数级增长。数据显示，2024 年初中国日均 Token 的消耗量为 1000 亿，截至今年 6 月底，日均 Token 消耗量已突破 30 万亿，1 年半的时间增长了 300 多倍，反映了我国人工智能应用规模快速增长，也对算力基础设施的需求提出了更大的挑战。
IT之家查询获悉，华为云于今年 3 月在以往按卡时计费的基础上正式推出了基于 MaaS 的 Tokens 服务。针对不同应用、不同场景的性能和时延要求，还提供了在线版、进线版、离线版乃至尊享版等多种规格。
华为云表示，Tokens 服务现正式接入 CloudMatrix384，并通过 384 原生的 xDeepServe 框架再次实现了吞吐量的突破，从年初的 1920TPS 提升至 2400TPS，TPOT 仅为 50ms。
目前，华为云 MaaS 服务已支持 DeepSeek、Kimi、Qwen、Pangu、SDXL、Wan 等主流大模型及 versatile、Dify、扣子等主流 Agent 平台。
标签： 华为
相关文章
-
华为手机下拉菜单怎么设置详细阅读
好，我现在要帮用户写一篇关于如何申请原产地证的文章，我需要明确用户的需求，用户给了一个标题和一些基本要求，但标题部分没有具体内容，所以我得先想一个合适...
2025-10-27 3 华为
-
华为杂志图片怎么设置详细阅读
全面解析开店流程与注意事项在电商快速发展的今天，开店是一个非常热门的话题，对于很多想创业的人来说，京东作为一个大型电商平台，自然是首选之一，很多人并不...
2025-10-25 9 华为
-
华为手机唱歌怎么设置详细阅读
从选择到使用，全面指南钱包，作为现代人日常生活中不可或缺的工具，不仅方便携带，还能为我们的生活带来诸多便利，无论是支付、理财还是日常消费，钱包都扮演着...
2025-10-24 8 华为
-
华为锁屏时间怎么设置详细阅读
个人如何申请App开发：从零到一的完整指南在当今快速发展的科技时代，个人申请开发应用程序（App）已经成为一种常见的职业选择，无论是想创业还是提升个人...
2025-10-24 10 华为
-
华为耳机怎么设置详细阅读
好,用户让我写一篇关于“合资公司怎么申请”的文章，先写标题，再写内容，内容不少于1386个字，我需要确定标题，要简洁明了，又能吸引读者，内容部分要涵盖...
2025-10-24 11 华为
-
华为nova怎么设置分屏详细阅读
CF角色解封指南：如何轻松解锁受限角色在《英雄联盟》或其他游戏中，有时你会遇到需要解封的角色，但不清楚如何操作，本文将详细 guide 你如何通过游戏...
2025-10-23 9 华为
最新评论