5分钟一键部署您的本地私人聊天型ChatGPT助理

5分钟一键部署您的本地私人聊天型ChatGPT助理 一句话测试总结：优点：可以选择各种类型的 AI 角色进行各种各样的对话。练习英语聊天的绝好帮手。缺点：只能英语聊天！需要一定的英文基础，6b 模型 4bit 量化，不够智能，内容容易聊偏

安装方式：

Pygmalion AI + oobabooga +Tavern AI

平台信息： AMD2600， 1070Ti 8G，48G 内存（这次没有用到）

这次模型是跑在 8G GPU 内存上的，因为我没有高级显卡所以 Tavern AI 输出速度比较慢，但是直接用 start-webui 脚本的对话速度很快，完全可以拿来练习英语。

安装方式：进入 github 下载 windows 一键安装包https://github.com/oobabooga/text-generation-webui

install 批处理文件会自动帮你安装 conda 环境

download-model 批处理文件会帮你从抱抱脸下载相应的模型，这里我们选择 L 然后输入 mayaeary/pygmalion-6b-4bit-128g 进行下载。 最终文件夹一共 21GB 大。

最后 github 下载 Tavern AI 安装包（这个会加载人物资料和性格，对话会很慢），想单纯体验无限制本地角色扮演型对话的用自带的 start-webui 脚本就够了。

追求更多种类的对话角色何以安装 Tavern AI 在里面选择别人做好的 AI。

基本什么都能聊，英文好的话可以聊一天，是一款不错的解闷，聊天型对话模型，更多的使用姿势有待开发。