AI+基础设施
The Unified LLM API Gateway - 统一的大模型 API 网关。更优价格、更稳定、无需订阅,只需替换 BASE URL 即可使用。支持 30+ LLM 提供商,提供安全、稳定、高效的 API 转发和管理能力。
状态: 已上线
核心特性
提供完整的大模型API中转服务功能
统一接入
The Unified LLM API Gateway - 更优价格、更稳定、无需订阅
- 支持 30+ LLM 提供商
- 统一接口标准
- 无缝切换模型
- 即开即用
对话与补全
支持多种对话和文本补全 API 接口
- /v1/chat/completions
- /v1/responses
- /v1/messages
- /v1beta/models
图像与嵌入
提供图像生成、编辑和向量嵌入服务
- /v1/embeddings
- /v1/rerank
- /v1/images/generations
- /v1/images/edits
语音服务
支持语音合成、转录和翻译功能
- /v1/audio/speech
- /v1/audio/transcriptions
- /v1/audio/translations
- 多语言支持
应用场景
为各种AI应用提供基础设施支持
AI+运动控制
为运动控制算法提供大模型推理能力,优化运动轨迹规划
应用示例
实时路径规划、参数自适应调整
AI+视觉检测
支持视觉模型的推理服务,实现智能缺陷检测和分类
应用示例
产品质量检测、异常识别
AI+数据分析
为工业互联网平台提供智能数据分析和预测服务
应用示例
设备故障预测、生产优化建议
服务架构
分层设计,易于扩展和维护
1
应用层
业务应用和客户端
接收客户端请求,进行身份验证、权限校验和流量控制
2
API 网关层
请求路由和鉴权
智能路由和负载均衡,将请求转发到对应的大模型服务
3
转发服务层
核心业务逻辑
请求处理、响应转换、错误处理
4
大模型服务层
大模型API对接
对接多种大模型API(OpenAI、Claude、国产大模型等)
5
监控与日志
安全与审计
实时监控API调用状态,记录详细的访问日志和使用统计
快速集成
简单的API调用,快速接入
# 使用示例 - Python
import openai
# Configure the API endpoint and key
openai.api_base = "https://model.openindu.com/v1"
openai.api_key = "your-api-key"
# Call the LLM API
response = openai.ChatCompletion.create(
model="gpt-4",
messages=[
{ "role": "user", "content": "分析这批产品的质量数据" }
]
)
print(response.choices[0].message.content)💡 支持的 API 端点
对话与补全
- • /v1/chat/completions
- • /v1/responses
- • /v1/responses/compact
- • /v1/messages
嵌入与重排
- • /v1beta/models
- • /v1/embeddings
- • /v1/rerank
图像服务
- • /v1/images/generations
- • /v1/images/edits
- • /v1/images/variations
语音服务
- • /v1/audio/speech
- • /v1/audio/transcriptions
- • /v1/audio/translations