oMLX：18.8k stars 的 Apple Silicon 本地 LLM「推理神器」，把连续批处理 + SSD KV 缓存塞进 macOS 菜单栏

连续批处理 标签

2026

08-17

oMLX：18.8k stars 的 Apple Silicon 本地 LLM「推理神器」，把连续批处理 + SSD KV 缓存塞进 macOS 菜单栏