2026/4/6 4:19:51
网站建设
项目流程
网站备案的时间,网站首页大图轮播,做网站多少钱_西宁君博优选,设计好看的企业网站颠覆 AI 开发效率#xff01;开源工具一站式管控 30大模型ApiKey#xff0c;秘钥付费负载均衡全搞定
引言
在 AI 技术爆发式发展的今天#xff0c;OpenAI、百度文心一言、智谱 ChatGLM、腾讯混元等主流大模型纷纷涌现#xff0c;各自凭借独特优势占据市场。但对开发者而言…颠覆 AI 开发效率开源工具一站式管控 30大模型ApiKey秘钥付费负载均衡全搞定引言在 AI 技术爆发式发展的今天OpenAI、百度文心一言、智谱 ChatGLM、腾讯混元等主流大模型纷纷涌现各自凭借独特优势占据市场。但对开发者而言多平台对接却成了棘手难题不同的 API 格式、繁杂的鉴权方式、各异的返回结构意味着要维护多套代码、反复研读不同文档不仅耗时耗力还大幅增加了系统维护成本。而开源工具 One-API 的出现正以 万能接口翻译官 的姿态彻底破解这一行业痛点。什么是One-API1个平台管理30大模型API并支持秘钥付费。LLM API 管理 分发系统支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型统一 API 适配可用于 key 管理与二次分发。单可执行文件提供 Docker 镜像一键部署开箱即用。LLM API management key redistribution system, unifying multiple providers under a single API. Single binary, Docker-ready, with an English UI.One-API 支持几十种模型服务商包括但不限于• OpenAI / Azure OpenAI• DeepSeek• Moonshot• Anthropic Claude• Google Gemini• 阿里 Qwen• 百度文心• 讯飞星火• 本地模型代理如 LM Studio、Ollama并提供• 轮询• 权重分配• 故障自动切换• 负载均衡让调用更稳定。演示站部署One-API前置条件Docker部署1.使用 SQLite 的部署命令mkdir -p /data/docker/one-api docker run --name one-api -d --restart always -p 3000:3000 -e TZAsia/Shanghai -v /data/docker/one-api:/data justsong/one-api浏览器访问IP端口2.使用 MySQL 的部署命令在上面的基础上添加-e SQL_DSNroot:123456tcp(localhost:3306)/oneapi请自行修改数据库连接参数不清楚如何修改请参见下面环境变量一节。docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSNroot:123456tcp(localhost:3306)/oneapi -e TZAsia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api其中-p 3000:3000中的第一个3000是宿主机的端口可以根据需要进行修改。数据和日志将会保存在宿主机的/data/docker/one-api目录请确保该目录存在且具有写入权限或者更改为合适的目录。如果启动失败请添加--privilegedtrue。如果上面的镜像无法拉取可以尝试使用 GitHub 的 Docker 镜像将上面的justsong/one-api替换为ghcr.io/songquanpeng/one-api即可。如果你的并发量较大务必设置SQL_DSN详见下面环境变量一节。更新命令docker run --rm -v /var/run/docker.sock:/var/run/docker.sock containrrr/watchtower -cR3.基于 Docker Compose 进行部署wget https://raw.githubusercontent.com/songquanpeng/one-api/refs/heads/main/docker-compose.yml # 目前支持 MySQL 启动数据存储在 ./data/mysql 文件夹内 docker-compose up -d # 查看部署状态 docker-compose psNginx 的参考配置server{ server_name openai.justsong.cn; # 请根据实际情况修改你的域名 location / { client_max_body_size 64m; proxy_http_version 1.1; proxy_pass http://localhost:3000; # 请根据实际情况修改你的端口 proxy_set_header Host $host; proxy_set_header X-Forwarded-For $remote_addr; proxy_cache_bypass $http_upgrade; proxy_set_header Accept-Encoding gzip; proxy_read_timeout 300s; # GPT-4 需要较长的超时时间请自行调整 } }certbot 配置 HTTPS# Ubuntu 安装 certbot sudo snap install --classic certbot sudo ln -s /snap/bin/certbot /usr/bin/certbot # 生成证书 修改 Nginx 配置 sudo certbot --nginx # 根据指示进行操作 # 重启 Nginx sudo service nginx restart使用One-API1.登录初始账号用户名为 root密码为 1234562.添加渠道如下图点击渠道、 添加新的渠道支持• OpenAI含官方和各种代理• Azure OpenAI• Anthropic Claude• 百度文心一言• 科大讯飞星火• 阿里通义千问• 智谱AI• 腾讯混元• 等等十几家...添加千问的渠道填入密钥测试3.创建令牌为你的应用创建授权令牌这是调用API的凭证。依次点击令牌、添加新的令牌创建新的令牌可以设置名称、模型范围、IP限制等复制令牌4.修改应用配置http://192.168.1.3:3000/v1/chat/completions测试是否成功http://192.168.1.3:3000/v1/chat/completionsCURL测试是否成功curl -X POST http://192.168.1.3:3000/v1/chat/completions \ -H Authorization: Bearer sk-D1aztx0oY9xBsez1Df0a188cD7434aAcB7C4E199D0DbBc2f \ -H Content-Type: application/json \ -d { \model\: \qwen-plus\, \messages\: [ { \role\: \system\, \content\: \You are a helpful assistant.\ }, { \role\: \user\, \content\: \你是谁\ } ] } {id:9b59d121-ce38-4ad6-afd9-bac2b616e371,model:qwen,object:chat.completion,created:1768471983,choices:[{index:0,message:{role:assistant,content:我是通义千问阿里巴巴集团旗下的超大规模语言模型。我能够回答问题、创作文字如写故事、公文、邮件、剧本等还能进行逻辑推理、编程甚至表达观点和玩游戏。我支持多种语言包括中文、英文、德语、法语、西班牙语等。如果你有任何问题或需要帮助欢迎随时告诉我},finish_reason:stop}],usage:{prompt_tokens:22,completion_tokens:78,total_tokens:100}}3.查看用量总览查看请求的趋势日志可以查看具体的使用情况再用相同的方法配置多个渠道结尾无论你是想做团队内部的模型网关还是想搭建一个对外的聚合服务甚至只是想把各种大模型的 Key 管理得更优雅一点One-API 都是个非常省心的选择。如果你在部署过程中遇到什么奇怪的问题可以随时来交流。我这边会继续补充更多踩坑经验和最佳实践帮你少走弯路。希望你也能顺利把 One-API 跑起来早点享受到“一个平台管所有模型”的爽感。祝你折腾愉快