5090 32G + 128G 内存跑Strata驱动Qwen 3.8 Flash也不够？框架多会话有Bug，32G显存以上建议暂时跑27B + SGLang，等待Qwen4.0大更新！

视频文稿和资料：https://lcz.me/topic/2293 本期围绕千问3.8 Flash Next、Strata多会话长上下文体验，以及32G显存设备如何选择本地推理方案展开。针对5090 32G搭配128G内存运行Strata时单会话表现尚可、多会话体验不佳的情况，聊聊可能的KV缓存问题和后续优化空间。 如果现在就需要稳定干活，视频分享了SGLang运行NVFP4量化千问27B，并结合HiCache扩展上下文的思路，也介绍了自己的多会话实测体验。对于24G及以下显存的设备，升级系统内存、尝试Strata可能更有性价比；对于32G及以上显存，则可以考虑先用SGLang跑27B，把复杂规划任务交给在线模型。 此外还讨论了千问27B执行长链任务的速度与稳定性、千问4.0 27B的期待，以及不同显存配置下的框架选择。多会话长上下文的Strata生态还需要时间完善，现阶段可以根据自己的硬件和工作需求选择方案。