any-llm：又一个统一模型服务接口的Python代理库

今天介绍一个由 Mozilla AI 开发的开源项目 - any-llm，它专门解决多 LLM 提供商接口统一的问题，让你可以用一个简单的接口调用不同的大语言模型。

在当前 AI 开发中，开发者经常需要在不同的 LLM 提供商之间切换，比如 OpenAI、Mistral、Ollama 等，但每个提供商的 API 接口都略有差异。any-llm 巧妙地解决了这个痛点，提供了一个统一的接口来访问各种 LLM 服务。之前我们也介绍过liteLLM、AISuite，OneAPI等产品，any-LLM在此基础上吸取了各方的长处，对于开发者来讲，是一个新的选择。

• 统一接口：只需要改变一个字符串参数就能切换不同的模型提供商
• 官方 SDK 支持：尽可能使用官方 SDK，确保兼容性和稳定性
• 开发友好：完整的类型提示和清晰的错误信息
• 无需代理：直接与 LLM 提供商通信，无需额外的网关服务
• 框架无关：可以在任何 Python 项目中使用

使用起来非常简单：

from any_llm import completion
import os

# 设置 API Key
assert os.environ.get('MISTRAL_API_KEY')

# 统一的调用方式
response = completion(
    model="mistral/mistral-small-latest",  # <provider_id>/<model_id>
    messages=[{"role": "user", "content": "Hello!"}]
)
print(response.choices[0].message.content)

安装时可以选择性安装需要的提供商：

pip install 'any-llm-sdk[mistral,ollama]'
# 或者安装所有支持的提供商
pip install 'any-llm-sdk[all]'

any-LLM支持的模型：

github地址：https://github.com/mozilla-ai/any-llm