API

在本地运行大型语言模型 (LLMs) 已成为隐私保护、成本控制和离线功能的重要趋势。 2025 年 4 月，Docker 推出了 Docker Model Runner (DMR)，这是其用于 AI 模型部署的官方解决方案，标志着该领域的重大转变。

在这里，我们有一个 Python Lambda 示例：SQS 消息处理器 + REST API（带 API 密钥保护）+ Terraform 脚本，用于部署无服务器执行。

在本文中，我们将探讨两种连接您的 Python 应用程序到 Ollama 的方法：1. 通过 HTTP REST API；2. 通过 官方 Ollama Python 库。

以下是结构化输出在主流大语言模型（LLM）提供商之间的对比，以及一些Python示例：