bobdev
更新 README.md
642e92e
8m ago
history
39 提交
OMLX - Apple Silicon LLM 推理服务器
专为 Mac 优化的高性能 LLM 推理服务器。
核心特性
- Apple Silicon (M1-M4) 原生优化
- 连续批处理支持
- SSD 缓存加速模型加载
- macOS 菜单栏管理
- 兼容 OpenAI API 接口
- 15.9k+ Stars
forum 讨论 (0)
暂无评论。来做第一个评论者吧！
请 登录 后发表评论。