强大的模型管理能力

支持大语言、文本嵌入/重排、语音识别/合成、视觉多模态、文生图、文生视频等，支持DeepSeek、Qwen、Llama、智谱等多内外主流模型厂商。

运维监控

资源使用可视化，运维更高效
平台内置控制中心，支持对GPU等算力资源的实时监控与使用统计。

丰富的工具支持

内置和支持各种辅助工具，例如数据提取、搜索等，还支持MCP（Model Context Protocol）调用方式。

统一安全的访问入口

内置模型API网关，整合不同类型的模型服务（模型、知识库、智能体应用） API，提供API Key鉴权、推理限流、负载均衡和弹性伸缩等功能。