MAMMOUTH API 提供了一套全面的AI模型交互端点。主要功能包括:
- 模型管理:通过端点如
/models/{model_id}、/model_group/info和/public/models检索特定模型、模型组和公共模型的信息。 - 聊天补全:使用
/chat/completions和/v1/chat/completions端点生成对话响应。 - 文本补全:通过
/completions和/v1/completions生成文本补全,并支持基于光标的聊天补全。 - 嵌入:使用
/embeddings和/v1/embeddings端点创建向量嵌入。 - 响应处理:通过端点如
/responses和/responses/{response_id}管理AI生成的响应,包括创建、检索、删除、压缩和取消响应。 - 健康监控:使用
/health、/health/readiness和/health/liveness端点检查API状态。 - 密钥管理:通过
/key/info访问密钥信息。 该API支持OAS 3.1,并包含各种请求和响应对象的模式,如ProxyChatCompletionRequest和ChatCompletionAssistantMessage。典型用例涉及将AI模型功能集成到应用程序中,用于聊天机器人、文本生成和数据嵌入等任务。

