最近很多朋友在问,能不能在自己电脑上跑大模型?其实现在开源模型门槛已经很低了,尤其是像 PocketOrca-LLM 这种轻量级架构,普通家用电脑也能尝试。我花了一周时间折腾 PocketOrca-LLM 的本地部署,踩了不少坑,今天把这套流程整理出来,希望能帮大家少走弯路。