文章详情

XM交易:TRUSTA在SuperComputing 2026推出升级版AI Scaler Toolkit

币界网报道:

台北,11月18日 /PRNewswire/ -- 存储厂商ADATA旗下企业存储品牌TRUSTA今日在全球高性能计算盛会SuperComputing 2026(SC26)上首次亮相。今年的SC26预计将吸引超过450家参展商和逾18,000名与会者。TRUSTA此次重点展示帮助企业高效扩展AI的解决方案,涵盖软件、内存和存储。亮点包括升级版AI Scaler Toolkit,该工具利用vLLM的KV cache offloading,将AI的工作内存从GPU扩展到DRAM和TRUSTA企业级SSD。长上下文会从SSD重新加载,而不是重新计算,从而显著缩短响应等待时间,并帮助企业在GPU资源有限的情况下,以更低成本在本地部署AI。该工具还集成了带有Intel AMX加速的Strata推理引擎,可将提示处理(prefill)速度提升最高25%*。

升级版AI Scaler Toolkit:通过vLLM KV Cache Offloading到SSD,面向企业AI

随着AI从模型训练转向推理,存储需求正在快速增长。根据Counterpoint Research的数据,2026年第二季度,企业级SSD占全球NAND闪存容量出货量的48%,几乎是去年同期26%的两倍。在推理过程中,大语言模型(LLM)会为其读取的每个token保留KV缓存,而长文档、多轮对话和AI代理会很快让缓存规模超过GPU内存。一旦被移出,就必须重新计算,这会让用户等待更久。升级版AI Scaler Toolkit集成了vLLM——这一被企业AI服务广泛使用的开源引擎——并将其KV缓存分三层卸载:GPU内存用于活跃请求,DRAM作为快速缓存,TRUSTA PCIe Gen5企业级SSD作为可跨重启保留的大容量、低成本层。TRUSTA内部测试显示:

  • 长文档处理更快:长文档会从SSD重新加载,而不是重新计算,从而显著缩短AI响应前的等待时间。
  • 重启后上下文可保留:服务器重启或重新启动后,对话可从保存在SSD上的KV缓存继续,而不是从头重新计算。

该工具还提供一站式体验:一键安装,支持多种模型和推理引擎(vLLM、llama.cpp和Strata),并提供一个界面用于分配GPU、DRAM和SSD资源、调整参数以及测试模型。

搭载Intel AMX的Strata:提示处理速度最高提升25%

对于某些必须将超大模型装入有限GPU内存、同时高效利用DRAM和SSD的部署场景,该工具还包含轻量级Strata引擎。在Intel Xeon处理器上,Intel AMX可让CPU直接处理DRAM中的模型数据,从而将提示处理速度提升最高25%*。

高性能企业级SSD与DDR5 R-DIMM:强化AI基础设施

除了AI Scaler Toolkit,TRUSTA还展示了PCIe Gen5企业级SSD和DDR5 R-DIMM。这些高性能、大容量、节能的内存和存储产品可满足AI服务器和HPC环境的多样化需求。

TD7P51 ECO / T7P5 PCIe Gen5企业级SSD:在主流U.2、E1.S和E3.S形态下,容量最高可达15.36TB,耐久度最高可达3 DWPD。Flexible Data Placement(FDP)技术可提升存储效率并延长硬盘寿命。其功耗低于20W,能效比同类产品高1.7倍,有助于数据中心降低用电,并支持全球绿色数据中心趋势。

企业级DDR5 R-DIMM:速度最高可达6,400MT/s,单条容量最高可达128GB。内置ECC可自动检测并纠正数据错误,帮助AI服务器在持续高负载下保持稳定和可靠。

TRUSTA表示:“随着企业AI采用持续增长,有效整合算力、内存和存储资源,已成为提升AI部署效率和控制成本的关键。企业无需不断购买昂贵的GPU来采用AI。通过更好地利用CPU、内存和SSD,他们可以更快、更具成本效益地运行AI。借助升级版AI Scaler Toolkit、企业级SSD和内存技术,TRUSTA帮助企业最大限度利用现有硬件,构建更灵活、高效、可扩展的AI计算环境,从而高效扩展AI。”

*测试说明:基于TRUSTA于2026年11月进行的内部测试,将AI Scaler Toolkit中启用AMX的TRUSTA版Strata与上游Strata v0.2.11进行比较。测试平台为Intel Xeon w5-3535X处理器,搭配单张NVIDIA RTX 6000 Ada GPU,并运行混合专家(MoE)LLM。仅测量prefill阶段。每项测试至少运行三次,结果取中位数。在约8K token的单次输入下,速度提升约11%;在每轮约4K新token的多轮对话中,速度提升约25%;对于超过约12K token的单次输入,差异不明显。实际性能会因硬件配置、模型和输入长度而异。

展会信息

活动:Supercomputing 2026(SC26)

日期:2026年11月17日至19日

地点:美国芝加哥McCormick Place West展馆

展位号:7214

关于TRUSTA

TRUSTA是ADATA Technology旗下的企业存储品牌,专注于AI服务器和数据中心市场。TRUSTA秉持“Together, Empowering Tomorrow”的品牌精神,建立在信任与合作的基础之上,提供稳定、高速、节能且可扩展的存储解决方案,以满足数据驱动型企业不断演变的需求。依托ADATA广泛的全球分销网络、强大的研发能力和先进制造资源,TRUSTA有望引领AI时代下一波存储创新,帮助全球组织为未来企业计算构建坚实基础。

全球媒体联系 Brand Marketing – Media Relations ADATA Technology Co., Ltd. 电话:+886-2-8228-0886 传真:+886-2-8227-1760 邮箱:[email protected]