0%

Mac mini本地运行文本模型和图像模型

文本模型

环境为Mac mini M4 16GB版本。

用 LM Studio 客户端作为前端,在 huggingface 下载文本模型 phi-4-gguf 版本。

https://huggingface.co/lmstudio-community/phi-4-GGUF/tree/main

注意模型要放在模型文件夹的二级目录内。
在models文件夹内的路径:microsoft/phi-4/phi-4-Q4-K_M.gguf

使用下来有优点有缺点:
支持API请求,响应速度受限机器性能,不如azure或GPT线上响应速度快。
优势是能调节更多参数,对模型的选择更灵活。

图像模型

用 DiffusionBee 客户端作为前端,下载内置模型。

DiffusionBee 下载的模型存放在 ~/.diffusionbee/downloaded_assets/ 目录下。

国内下载 DiffusionBee 模型会提示超时,设置全局代理也无效,需要给终端设置代理,通过设置了代理的终端打开DiffusionBee。

ClashX-复制终端代理命令,在shell里执行,对该shell设置代理,然后通过该shell打开 DiffusionBee app:
open /Applications/DiffusionBee.app

此时打开的 DiffusionBee 就会走shell的代理。

生成图片后,可以通过 Actions 按钮的 Send to Upscaler 来提高图片分辨率。
或者通过 Generate similar images 来生成更多相似图片。

需要根据自己想要生成的图片类型来用对应模型、提示词,以及类似风格提示图。

欢迎关注我的其它发布渠道