GitHub Repo

skyzh/tiny-llm

一套面向系统工程师的课程，从零在 Apple Silicon 上实现 LLM 推理服务，类似但简化版 vLLM，使用 MLX 和 Qwen3 模型。

推荐理由

可作为拆解 vLLM 和 LLM 推理优化技术细节的深度教程选题，也可在 Mac 上复现搭建本地推理原型的工作流。

二创切入点

围绕项目能力写工具教程、场景拆解或对比评测。
复制 GitHub 概要后可直接改写成文章、社媒卡片或选题备忘。
生成分享卡片可以用于私域传播、收藏夹或选题库归档。

项目事实

语言: Python
协议: apache-2.0
Issues: 11
首次收录: 2026/07/03