Ollama翻译站点

本地大语言模型“一站式”部署与运行平台

站点定位

Ollama（ollama.com）是一款开源、跨平台的本地大模型运行框架，被称为“大模型界的 Docker”。它通过极简的命令行与标准化 API，让用户在 Windows / macOS / Linux 乃至 Docker 容器内，一条指令即可拉取、部署并运行 Llama 3、DeepSeek、Mistral、Gemma 等主流开源大模型，无需云算力即可实现离线、低延迟、高隐私的 AI 推理服务。

核心能力

• 一键运行大模型
  ollama run llama3.2 即可在本地启动 8B 模型对话，支持 CPU / GPU（CUDA & ROCm）混合推理，自动量化降低显存占用 3–4 倍。
• 模型仓库 & 版本管理
  官方模型库（ollama.com/library）已收录 200+ 预量化模型，支持 pull / push / list / rm / cp 等 Docker 风格命令，轻松切换多版本。
• 零代码 Web 交互
  2025 年 8 月上线官方 UI（localhost:11434），告别命令行即可聊天；同时提供兼容 OpenAI 的 RESTful & 流式 HTTP API，方便集成 LangChain、Spring AI 等框架。
• 自定义模型
  通过 Modelfile 可自定义系统提示词、温度、Top-p、LoRA 权重，构建专属模型并推送至社区仓库 username/model。
• 极致轻量
  单二进制文件 < 100 MB，运行时内存占用低至 512 MB（1.5 B 模型），支持单 GPU 多卡并行与 CPU 回退。
• 离线 & 隐私
  所有数据本地存储，无需联网即可推理，满足政企、医疗、金融等高合规场景。

主要功能分区

1. 模型市场
   • 分类：通用对话、代码生成、多模态、Embedding、中文模型等
   • 命令：ollama search deepseek 在线检索，ollama pull deepseek-r1:14b 拉取
2. 运行环境
   • CLI：ollama run model 交互式对话
   • API：POST http://127.0.0.1:11434/api/chat JSON 接口
   • UI：浏览器访问 localhost:11434 图形化聊天
3. 开发者中心
   • SDK：Python / JavaScript / Go / Java Spring AI 启动器
   • 环境变量：OLLAMA_HOST、OLLAMA_MODELS、OLLAMA_NUM_PARALLEL 自定义端口、并发、缓存路径
   • Docker：官方镜像 ollama/ollama 一键部署
4. 社区与共享
   • 注册账号即可 ollama push username/my-model 发布模型
   • GitHub 20k+ stars，活跃中文交流群与教程生态

部署与系统要求

硬件建议：7 B 模型 ≥ 8 GB RAM，14 B ≥ 16 GB RAM，33 B ≥ 32 GB RAM；NVIDIA/AMD GPU 可显著加速。

典型使用场景

• 开发者：本地调试 RAG、Agent、Function Call，零成本替换 OpenAI API
• 学生/研究者：离线论文阅读助手、代码解释器、数学推理
• 企业内网：私有化客服、规章制度问答、合同审查，数据不出域
• 内容创作者：本地化文案、脚本、翻译工作流，无调用费用

访问与入口

• 官网首页：https://ollama.com
• 模型库：https://ollama.com/library
• 下载中心：https://ollama.com/download
• GitHub 源码：https://github.com/ollama/ollama
• 中文文档：https://ollama.readthedocs.io

版权与运营

• 开源协议：MIT License
• GitHub：https://github.com/ollama/ollama
• 官方团队：Ollama Inc.