<?xml version="1.0" encoding="UTF-8"?>
<rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:media="http://search.yahoo.com/mrss/" version="2.0"><channel><title>作者：linx - 技术空间</title><link>https://solinx.cn/authors/linxin</link><atom:link href="https://solinx.cn/authors/linxin/feed/authors/linxin.xml" rel="self" type="application/rss+xml"/><description>技术空间</description><generator>Halo v2.26.1</generator><language>zh-cn</language><lastBuildDate>Thu, 19 Nov 2026 02:24:44 GMT</lastBuildDate><item><title><![CDATA[从一张到四张 RTX 4090:千亿模型从能单人用到能多人用，还赢了 vLLM 一局]]></title><link>https://solinx.cn/archives/wei-ming-ming-wen-zhang-xAumSAj2</link><description><![CDATA[<img src="https://solinx.cn/plugins/feed/assets/telemetry.gif?title=%E4%BB%8E%E4%B8%80%E5%BC%A0%E5%88%B0%E5%9B%9B%E5%BC%A0%20RTX%204090%3A%E5%8D%83%E4%BA%BF%E6%A8%A1%E5%9E%8B%E4%BB%8E%E8%83%BD%E5%8D%95%E4%BA%BA%E7%94%A8%E5%88%B0%E8%83%BD%E5%A4%9A%E4%BA%BA%E7%94%A8%EF%BC%8C%E8%BF%98%E8%B5%A2%E4%BA%86%20vLLM%20%E4%B8%80%E5%B1%80&amp;url=/archives/wei-ming-ming-wen-zhang-xAumSAj2" width="1" height="1" alt="" style="opacity:0;">一分钟看完：文中给出单卡 vs 四卡全量数据、四个反直觉的发现（切层不是 4 倍速、并发收益有条公式）、40 多次重启的调参弯路（一半候选被否），以及能力与稳定性验证；最后一场对手戏——同样的四张卡换成 vLLM 跑 27B：单看 Decode 它快 2.5–3.5 倍，但用户"首字 + 出完"的总]]></description><guid isPermaLink="false">/archives/wei-ming-ming-wen-zhang-xAumSAj2</guid><dc:creator>linx</dc:creator><pubDate>Mon, 2 Nov 2026 00:17:52 GMT</pubDate></item><item><title><![CDATA[一张 RTX 4090 跑千亿模型，Strata 实测 155 tok/s]]></title><link>https://solinx.cn/archives/wei-ming-ming-wen-zhang-XXXbK2ca</link><description><![CDATA[<img src="https://solinx.cn/plugins/feed/assets/telemetry.gif?title=%E4%B8%80%E5%BC%A0%20RTX%204090%20%E8%B7%91%E5%8D%83%E4%BA%BF%E6%A8%A1%E5%9E%8B%EF%BC%8CStrata%20%E5%AE%9E%E6%B5%8B%20155%20tok%2Fs&amp;url=/archives/wei-ming-ming-wen-zhang-XXXbK2ca" width="1" height="1" alt="" style="opacity:0;">先看结果 结论：125B 总参数（IQ3_XXS 量化后 76 GB 权重）的 MoE 模型，240K 上下文可用，短/96K 单流 155 tok/s；但 3 槽配置下第 4 个人开始排队。 使用 Strata 推理引擎，模型是 Qwen3.8-Flash-Next 的 IQ3_XXS 量化版：1]]></description><guid isPermaLink="false">/archives/wei-ming-ming-wen-zhang-XXXbK2ca</guid><dc:creator>linx</dc:creator><pubDate>Tue, 27 Oct 2026 15:06:43 GMT</pubDate></item><item><title><![CDATA[这个 AI 一个字都不写，却把我的 Agent 成本打到万分之一]]></title><link>https://solinx.cn/archives/wei-ming-ming-wen-zhang-hqkOBWkX</link><description><![CDATA[<img src="https://solinx.cn/plugins/feed/assets/telemetry.gif?title=%E8%BF%99%E4%B8%AA%20AI%20%E4%B8%80%E4%B8%AA%E5%AD%97%E9%83%BD%E4%B8%8D%E5%86%99%EF%BC%8C%E5%8D%B4%E6%8A%8A%E6%88%91%E7%9A%84%20Agent%20%E6%88%90%E6%9C%AC%E6%89%93%E5%88%B0%E4%B8%87%E5%88%86%E4%B9%8B%E4%B8%80&amp;url=/archives/wei-ming-ming-wen-zhang-hqkOBWkX" width="1" height="1" alt="" style="opacity:0;">摘要：它不生成一个字，只返回校准过的概率，单次判断约万分之一元。我让它给大模型当门卫、评审员、质检员，把 Agent 的决策成本打了两个数量级——数字全部实测。 先认识主角：Jev，TypeSafe 九月发布的模型，走了一条没人挤的反路——一个字都不写。它没有聊天窗口、不逐字生成：你给它一个状态，加]]></description><guid isPermaLink="false">/archives/wei-ming-ming-wen-zhang-hqkOBWkX</guid><dc:creator>linx</dc:creator><category>大模型</category><category>MachineLearning</category><pubDate>Fri, 2 Oct 2026 08:41:51 GMT</pubDate></item><item><title><![CDATA[围观了小米 MiMo-V2.6 发布前的 70 小时:一场两千多万的公开训练]]></title><link>https://solinx.cn/archives/wei-ming-ming-wen-zhang-tCTZCCKR</link><description><![CDATA[<img src="https://solinx.cn/plugins/feed/assets/telemetry.gif?title=%E5%9B%B4%E8%A7%82%E4%BA%86%E5%B0%8F%E7%B1%B3%20MiMo-V2.6%20%E5%8F%91%E5%B8%83%E5%89%8D%E7%9A%84%2070%20%E5%B0%8F%E6%97%B6%3A%E4%B8%80%E5%9C%BA%E4%B8%A4%E5%8D%83%E5%A4%9A%E4%B8%87%E7%9A%84%E5%85%AC%E5%BC%80%E8%AE%AD%E7%BB%83&amp;url=/archives/wei-ming-ming-wen-zhang-tCTZCCKR" width="1" height="1" alt="" style="opacity:0;">小米刚刚正式发布并开源 MiMo-V2.6——发布稿里的数字(262 万 / 85 万训练成本、各 30 步、DeepSWE 58.4 → 72.57),与我们的记录分毫不差。因为在发布之前,小米把这次 RL 训练做成了实时公开的看板,我们以约每小时一次的频率围观了 70 个小时:近 60 轮检查、]]></description><guid isPermaLink="false">/archives/wei-ming-ming-wen-zhang-tCTZCCKR</guid><dc:creator>linx</dc:creator><category>大模型</category><pubDate>Tue, 22 Sep 2026 00:15:30 GMT</pubDate></item><item><title><![CDATA[1 亿 Token 电费 8 块钱：4×4090 本地跑 Qwen3.8-27B 值不值？]]></title><link>https://solinx.cn/archives/wei-ming-ming-wen-zhang-LfWpfNRP</link><description><![CDATA[<img src="https://solinx.cn/plugins/feed/assets/telemetry.gif?title=1%20%E4%BA%BF%20Token%20%E7%94%B5%E8%B4%B9%208%20%E5%9D%97%E9%92%B1%EF%BC%9A4%C3%974090%20%E6%9C%AC%E5%9C%B0%E8%B7%91%20Qwen3.8-27B%20%E5%80%BC%E4%B8%8D%E5%80%BC%EF%BC%9F&amp;url=/archives/wei-ming-ming-wen-zhang-LfWpfNRP" width="1" height="1" alt="" style="opacity:0;">消费级显卡能不能稳稳接住 27B 的生产流量？我们把升级 vLLM、开投机解码、双实例拓扑、1 亿 Token 产能全部实测了一遍。 BF16 权重 55.6GB，一张卡装不下；AWQ 量化后又担心"智力掉分"。本文在单机 4×RTX 4090 上完成了一次全维度实测：升级 vLLM 0.25→0.]]></description><guid isPermaLink="false">/archives/wei-ming-ming-wen-zhang-LfWpfNRP</guid><dc:creator>linx</dc:creator><category>大模型</category><pubDate>Sun, 20 Sep 2026 00:24:04 GMT</pubDate></item></channel></rss>