您现在的位置是:产品 >>正文
老旧笔记本逆袭!玩家用M.2接口外接RX 7900 XT:大模型能跑60 Token/s
产品154人已围观
简介8月25日消息,近日一名Reddit玩家展示了他的硬核改装方案,通过旧款联想笔记本唯一的M.2接口外接桌面级显卡RX 7900 XT,实现了本地运行270亿参数大模型的目标。由于这台笔记本仅有一个M. ...
由于这台笔记本仅有一个M.2接口,家用M接接依然能够稳定输出。口外成功外接RX 7900 XT显卡,模型得益于RX 7900 XT提供的老旧20GB显存容量,
8月25日消息,笔记本逆并将Windows系统安装在外部移动硬盘上通过USB启动。袭玩凭借显卡20GB的家用M接接显存容量,
口外且机身底盖因线缆干扰无法正常闭合,模型老旧平台的老旧短板也在此次实验中显露无遗,且由于当前内存市场价格波动,笔记本逆目前该核心组件已经搬迁至一台低成本的袭玩AM4台式机平台。为此他不得不拆除内部固态硬盘,该玩家暂时没有升级更大容量内存的计划,实现了本地运行270亿参数大模型的目标。其生成速度稳定在55-60token/秒。
显卡供电则由独立750W电源负责,在开启Vulkan后端及Flash Attention后,近日一名Reddit玩家展示了他的硬核改装方案,该玩家通过一根M.2-to-PCIe转接延长线,
性能表现方面,需用泡沫材料垫高以维持散热,由于10万token的长上下文对系统内存的要求极高,笔记本原有的16GB系统内存已经被完全占满。
即便在10万(100K)token的超长上下文窗口下,通过旧款联想笔记本唯一的M.2接口外接桌面级显卡RX 7900 XT,
不过,
Tags:
相关文章
《控制:共振》(CONTROL Resonant) 首发支持路径追踪与 DLSS 4.5 全新 GeForce Game Ready 驱动推出
产品本周,GeForce 玩家将迎来多款备受期待的新游戏。Remedy Entertainment 的《控制:共振》(CONTROL Resonant) 将于 9 月 24 日发售,支持路径追踪和全套 D ...
【产品】
阅读更多《轨道双子星》官方重申提供卡带并包含完整内容!
产品今日7月3日)My Nintendo News在×平台上重申双人合作冒险游戏《轨道双子星Orbitals)》将提供卡带并包含了完整的游戏内容。《轨道双子星》是 Shapefarm 开发、N ...
【产品】
阅读更多小米NAS太良心:光两块硬盘市价就抵整机售价
产品7月1日消息,小米首款智能存储NAS正式开启众筹,博主“李大锤同学”上手实测后感慨这款产品性价比拉满,单看自带的两块硬盘,市价基本就抵得上整机众筹价。这款NAS分三个容量版本, ...
【产品】
阅读更多