推荐一个软件 LM Studio，它目前支持mac，win，linux，具体可以到下面地址，关键的信息来了，我一个破电脑加32G内存居然可以跑起大模型，还不用任何配置什么 的，拿起来就能用，就是效果差一点，如果加载更好的模型，那本地跑指日可待。。。

我要赚钱买买买。。。。。哈哈哈哈。。

LM Studio - Discover, download, and run local LLMs

LM Studio

Discover, download, and run local LLMs

Run any

LLaMa

Falcon

MPT

StarCoder

Replit

GPT-Neo-X

gguf ⓘmodels from Hugging Face

Download LM Studio for Mac (M1/M2/M3)

0.2.9

Download LM Studio for Windows

0.2.9