<?xml version="1.0" encoding="UTF-8"?>
<rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:media="http://search.yahoo.com/mrss/" version="2.0"><channel><title>标签：Qwen - 技术空间</title><link>https://solinx.cn/tags/qwen</link><atom:link href="https://solinx.cn/tags/qwen/feed/tags/qwen.xml" rel="self" type="application/rss+xml"/><description>技术空间</description><generator>Halo v2.26.1</generator><language>zh-cn</language><lastBuildDate>Thu, 19 Nov 2026 02:24:45 GMT</lastBuildDate><item><title><![CDATA[一张 RTX 4090 跑千亿模型，Strata 实测 155 tok/s]]></title><link>https://solinx.cn/archives/wei-ming-ming-wen-zhang-XXXbK2ca</link><description><![CDATA[<img src="https://solinx.cn/plugins/feed/assets/telemetry.gif?title=%E4%B8%80%E5%BC%A0%20RTX%204090%20%E8%B7%91%E5%8D%83%E4%BA%BF%E6%A8%A1%E5%9E%8B%EF%BC%8CStrata%20%E5%AE%9E%E6%B5%8B%20155%20tok%2Fs&amp;url=/archives/wei-ming-ming-wen-zhang-XXXbK2ca" width="1" height="1" alt="" style="opacity:0;">先看结果 结论：125B 总参数（IQ3_XXS 量化后 76 GB 权重）的 MoE 模型，240K 上下文可用，短/96K 单流 155 tok/s；但 3 槽配置下第 4 个人开始排队。 使用 Strata 推理引擎，模型是 Qwen3.8-Flash-Next 的 IQ3_XXS 量化版：1]]></description><guid isPermaLink="false">/archives/wei-ming-ming-wen-zhang-XXXbK2ca</guid><dc:creator>linx</dc:creator><pubDate>Tue, 27 Oct 2026 15:06:43 GMT</pubDate></item><item><title><![CDATA[1 亿 Token 电费 8 块钱：4×4090 本地跑 Qwen3.8-27B 值不值？]]></title><link>https://solinx.cn/archives/wei-ming-ming-wen-zhang-LfWpfNRP</link><description><![CDATA[<img src="https://solinx.cn/plugins/feed/assets/telemetry.gif?title=1%20%E4%BA%BF%20Token%20%E7%94%B5%E8%B4%B9%208%20%E5%9D%97%E9%92%B1%EF%BC%9A4%C3%974090%20%E6%9C%AC%E5%9C%B0%E8%B7%91%20Qwen3.8-27B%20%E5%80%BC%E4%B8%8D%E5%80%BC%EF%BC%9F&amp;url=/archives/wei-ming-ming-wen-zhang-LfWpfNRP" width="1" height="1" alt="" style="opacity:0;">消费级显卡能不能稳稳接住 27B 的生产流量？我们把升级 vLLM、开投机解码、双实例拓扑、1 亿 Token 产能全部实测了一遍。 BF16 权重 55.6GB，一张卡装不下；AWQ 量化后又担心"智力掉分"。本文在单机 4×RTX 4090 上完成了一次全维度实测：升级 vLLM 0.25→0.]]></description><guid isPermaLink="false">/archives/wei-ming-ming-wen-zhang-LfWpfNRP</guid><dc:creator>linx</dc:creator><category>大模型</category><pubDate>Sun, 20 Sep 2026 00:24:04 GMT</pubDate></item><item><title><![CDATA[四卡 4090 实测最强小模型：Qwen3.8 27B]]></title><link>https://solinx.cn/archives/si-ka-4090-shi-ce-qwen3827b-kai-yuan-mo-xing</link><description><![CDATA[<img src="https://solinx.cn/plugins/feed/assets/telemetry.gif?title=%E5%9B%9B%E5%8D%A1%204090%20%E5%AE%9E%E6%B5%8B%E6%9C%80%E5%BC%BA%E5%B0%8F%E6%A8%A1%E5%9E%8B%EF%BC%9AQwen3.8%2027B&amp;url=/archives/si-ka-4090-shi-ce-qwen3827b-kai-yuan-mo-xing" width="1" height="1" alt="" style="opacity:0;">一台 4×RTX 4090 上的 vLLM + Qwen3.8-27B-AWQ，从首 token 延迟到大海捞针，一次聊透。局域网里新起了一台推理服务器。与其看跑分，不如直接按在地上测一遍：性能压到 128 路并发、智商做一套带陷阱的题、256K 上下文真塞满试试。以下是一个下午的完整&amp;quot;体]]></description><guid isPermaLink="false">/archives/si-ka-4090-shi-ce-qwen3827b-kai-yuan-mo-xing</guid><dc:creator>Administrator</dc:creator><category>MachineLearning</category><pubDate>Mon, 17 Aug 2026 00:17:09 GMT</pubDate></item></channel></rss>