头条推荐
A |

B | 获悉,据港交所最新信息,在阿里巴巴宣布800亿港元新股配售计划后,集团主席蔡崇信、CEO吴泳铭出手增持合计约1.2亿港元阿里股票,对公司AI战略投下信心票。据了解,蔡崇信此次买入72万股阿里巴巴港股,均价约112港元,耗资约8000万港元;CEO吴泳铭买入35万股阿里巴巴港股,均价约111.6港元,耗资约4000万港元。
白皮书指出,大模型输入上下文规模进入百K至1M级别后,Prefill(预填充,计算密集型)与Decode(解码,访存密集型)在同一资源池混跑造成结构性算力错配。两人合计增持107万股,总金额约1.2亿港元。此前一日,阿里巴巴宣布800亿港元新股配售,所得款项将全部投入全栈AI能力和AI基础设施建设。解决方案是将二者彻底解耦,分别运行在各自最契合的硬件资源池上,实现单位Token基础设施成本大幅下降。MTT S5000硬件特性与Prefill任务高度契合:提供高稠密算力压缩首字时延,原生支持FP8全精度计算,并全面兼容CUDA及PyTorch、vLLM等主流推理框架。实测数据显示,在64K上下文场景下,单机Prefill吞吐达95,920 tok/s,按智谱API定价测算,满负载下单机月收入可达64.6万元;400K极限长序列场景TPM达2.6MTokens,吞吐平稳可控。

C | 摩尔线程表示,大模型产业竞争下半场本质上是推理效率与商业回报的较量,该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。完整白皮书已在官网发布。
Current article:http://9dx7yzy.shangfochengcongshuaizhuang.buzz/news/20260826_36102.html
Published on:14:35:00