把小爱音箱接入大语言模型

January 12, 2025 · 5 min read

Softwore Developer

最近发现了一个好玩的项目，可以把小爱音箱接入大语言模型，让它用强大的人工智能模型来回答问题。

alt text

服务名称	免费额度	超出免费额度的收费价格	备注
ChatGPT[1]	无	最低 0.5 美元 / 1.5 美元 / 每百万 token	支持第三方中转服务
Groq[2]	众多开源模型（Llama、Gemma 等）免费使用。注意：它免费提供 70B 参数规模的 Llama3 模型，而在硅基流动中这个模型是收费且最贵的。	无收费模型	完全免费的服务，强烈推荐
硅基流动[3]	众多开源模型（Yi、Qwen、Llama、Gemma 等）免费使用。另赠送 14 元体验金，有效期未知	另外几个付费模型中，最低 0.7 元 / 0.7 元 / 每百万 token	完全免费的服务，强烈推荐
智谱 AI[4]	一次性赠送 2000 万 token，有效期 30 天	最低 0.1 元 / 0.1 元 / 每百万 token
豆包[5]	6 个模型每个都赠送 50 万 token，8 月 30 日前额外给每个模型赠送 5 亿 token，均不会过期	最低 0.3 元 / 0.6 元 / 每百万 token
通义千问[6]	一次性赠送 100 万 tokens，有效期 30 天	最低 0.5 元 / 2 元 / 每百万 token
DeepSeek[7]	一次性赠送 10 元体验金，有效期 30 天	最低 1 元 / 2 元 / 每百万 token
零一万物[8]	一次性赠送 36 元体验金，不会过期	最低 2.5 元 / 2.5 元 / 每百万 token
百川智能（百小应）[9]	一次性赠送 80 元体验金，有效期 90 天	最低 8 元 / 8 元 / 每百万 token
Moonshot (Kimi)[10]	一次性赠送 15 元体验金，不会过期	最低 12 元 / 12 元 / 每百万 token

因为硅基流动完全免费，所以选用硅基流动。

在账户管理 → API 密钥 → 新建 API 密钥.

安装Docker: https://orbstack.dev/ 这里我推荐使用 Orbstack 来代替 Docker Desktop，安装之后和使用之前的 Docker 是一样的。
下载镜像

$ docker pull docker.m.daocloud.io/lmk123/migpt-server

$ docker run -d --name migpt-server -p 36592:36592 docker.m.daocloud.io/lmk123/migpt-server

打开 http://localhost:36592
- 如果你是部署在服务器里的 Docker，请使用服务器的 IP 地址替换 localhost，例如 http://192.168.1.1:36592

配置 AI 服务信息，主要是填写接口地址，这里以硅基流动为例
- 地址固定值：https://api.siliconflow.cn/v1
- 密钥：前面创建的 API Key
- 模型：把从模型广场选择的模型名字填进去就行。

demo 视频。