#本地部署

4GB 显卡跑 70B 大模型：AirLLM 把大模型拉进普通人电脑

开源工具 AirLLM 让 70B 大模型在单张 4GB 消费级显卡上运行，不靠量化、蒸馏，最新的 2.8T 参数量 Kimi K3 甚至只要 3.72GB 显存。我们读了它的 GitHub 一手文档，把「怎么做到的」和「你该不该用」讲清楚。