一台18英寸的笔记本,64GB内存版本+24GB显存,跑一个125B参数的MoE大模型,输出速度134tokens/s,本地文档读取速度2927tokens/s。
这件事,未来人类X98做到了。

想用大模型?要么交出数据,要么交出钱包,要么交出桌子
想在本地跑大模型,第一道坎永远是显存。
24GB显存,跑个32B稠密模型就到顶了。想上70B?得双卡。想上125B?大多数人连试都不试。云端API倒是能跑,但你的代码、合同、病历、设计图纸,全得先传到别人的服务器上。Token烧钱是一回事,数据出门这件事,本身就是个问题。
配一台能跑大模型的台式机?两三张旗舰显卡塞进去,硬件费用逼近一台汽车,还得占地方、费电、忍受噪音。
X98给了一个新答案
未来人类X98,64GB DDR5内存版本,RTX5090 Laptop 24GB显存,流畅跑Qwen3.8-Flash-Next——总参数125B的MoE大模型,量化等级为IQ2_XS。本地推理,数据不出机,Token不限量。
你不需要交出数据,不需要按月烧Token,也不需要专门腾一张桌子。

为什么能跑起来?因为 125B 里,每次只激活一小部分专家
Qwen3.8-Flash-Next是MoE架构,内部有24,576个专家模块。但每个Token只激活其中一小部分,绝大多数专家在任意时刻都是闲置的。

X98 的策略很直接:配合 Strata 推理引擎,冷专家住内存,热专家进显存。
24GB显存+64G内存直接装下整个模型,24GB显存常驻了11,837个专家槽位——125B模型里近一半的专家伸手就有。剩下的冷专家留在内存里,需要时再取。
Strata初始化日志如下:

再加一层投机解码:一个轻量模型先猜下一个Token,主模型批量验证。实测草稿接受率81%——每5个预判,4个猜中。

显存不够,内存来凑;算力不够,调度来补。这就是125B模型能跑进一台笔记本的原因。
几个数字,感受一下
本次测试的模型和量化等级如下:
模型:Qwen3.8-Flash-Next(千问)
量化等级:IQ2_XS
经测试输出结果:短对话实测148 tokens/s,连续满载半小时稳定在130 tokens/s以上。你读一句话的时间,它已经写完一段。

几秒读完几万字?实测数据来了!
32k tokens(约2.5万汉字):耗时 6s~12s
64k tokens(约5万汉字):耗时 11s~22s
128k tokens(约10万汉字):耗时 39s~45s
读完之后追问,1-4秒极速响应。长文档读一次,之后随问随答!

连续满载30分钟,不降频。 56轮长文推理串行跑,速度变化不到1%。功耗稳在166–168W,温度峰值80℃后走平。半小时没有一次中断。
硬盘读取率低,模型权重全程驻留内存和显存。网络断了,它照跑。

开箱之外,你还需要什么
四个 DDR5 内存插槽,64GB 只是起点,至高可选 192GB。这意味着什么?MoE模型越大,专家越多,显存只能常驻其中一部分热专家,剩下的冷专家全在内存里待命。内存越大,能装下的专家越多,需要临时调取的次数就越少,推理速度越稳。64GB 已经能跑通 125B,192GB意味着你可以上更高精度量化、更长上下文——今天够用,明天也不落伍。更关键的是,这四个插槽不是焊死的,你可以按需升级,不用因为内存不够就整机换掉。
至于推理引擎,Strata是开源方案,未来人类X98的配置恰好落在它的甜点区。你用什么引擎、跑什么模型、做什么任务,由你决定——这台机器帮你抹平硬件门槛,剩下的,交给你。

稳不稳,看散热
跑大模型是CPU和GPU同时满载的活,散热压不住,速度就是纸上谈兵。
未来人类X98给了双6cm风扇,RTX 5090Laptop 175W满功耗释放。

实测连续满载半小时,功耗稳定在166–168W,温度峰值80℃后走平,核心频率稳在2,270MHz。半小时没有一次降频中断。

轻松应对多场景任务需求
数据不能出本机的人。法务审合同、医生看病历、研究员处理实验数据——模型可以公开,但数据不行。网络断开,模型照跑。
需要在移动中干活的人。出差住酒店、在客户现场、在实验室角落,没网或者网不可信,但活还得干。3.9kg的重量,替代的是一台台式机加散热系统加一堆外设。
想摆脱Token账单的人。 云端API按Token计费,用得越多越贵。本地跑模型,每一次生成都是免费的。
想跑大模型但不想配服务器的人。以前跑125B,你得攒一台工作站,占地方、费电、噪音大。未来人类X98,帮你一站式搞定。
----
更多测试数据以及模型能力校验会在下篇统一放出,有兴趣的同学可以关注一下。如果你手边也有未来人类X98可以尝试部署体验一下更高的本地输出效率。部署过程如果遇到问题可以联系未来人类在线客服获取帮助!