GroqCloud Automation

GroqCloud Automation - 高性能 AI 推理自动化集成

技能概述

GroqCloud Automation 通过 Composio MCP 服务器集成，让开发者能够自动化执行 GroqCloud 的 AI 推理任务，包括超高速聊天补全、模型发现、音频翻译和 TTS 语音管理。

适用场景

1. AI 推理工作流自动化

当需要在应用中集成快速 AI 推理能力时，使用 GroqCloud Automation 可以动态获取可用模型列表、执行聊天补全，并根据业务需求调整温度、top-p 等参数。相比手动调用 API，自动化流程能更好地处理模型更新和参数验证。

2. 多语言音频处理

对于需要将非英语音频转换为文本的场景，GroqCloud Automation 提供 Whisper 模型驱动的音频翻译功能。支持本地文件、URL 和 base64 格式输入，适合构建字幕生成、会议记录等应用。

3. 聊天应用与语音服务集成

在构建实时聊天或语音交互应用时，可以通过该技能获取 TTS 语音列表、执行聊天补全，并利用 GroqCloud 的高性能推理能力实现低延迟响应。

核心功能

1. 模型发现与管理

通过 GROQCLOUD_LIST_MODELS 动态获取 GroqCloud 上所有可用模型的元数据，避免因硬编码模型 ID 导致的调用失败。GROQCLOUD_GROQ_RETRIEVE_MODEL 可查询单个模型的详细信息，包括上下文窗口大小和功能支持。

2. 聊天补全执行

使用 GROQCLOUD_GROQ_CREATE_CHAT_COMPLETION 生成 AI 对话响应，支持完整的消息历史管理、温度控制、top-p 采样、stop 序列和流式输出等参数配置。

3. 音频翻译与语音服务

GROQCLOUD_GROQ_CREATE_AUDIO_TRANSLATION 将非英语音频翻译成英文文本，支持多种输出格式。GROQCLOUD_LIST_VOICES 获取可用的 TTS 语音列表，用于构建语音合成功能。

常见问题

GroqCloud 是什么？为什么说它高性能？

GroqCloud 是提供 AI 推理服务的云平台，基于自研的 LPU（语言处理单元）推理引擎，在相同模型下能提供比传统 GPU 更快的推理速度和更低的延迟。这使得它非常适合需要实时响应的 AI 应用场景。

如何连接 GroqCloud 到 Composio？

首次使用时，代理会提示你通过 https://rube.app/mcp 提供的认证链接连接 GroqCloud 账户。完成认证后，所有 GROQCLOUD_* 工具即可在 MCP 会话中使用。连接状态会自动维护，无需重复认证。

GroqCloud 支持哪些模型？模型列表会变化吗？

GroqCloud 支持多个开源大模型（如 Llama、Mixtral 等），具体可用模型需要通过 GROQCLOUD_LIST_MODELS 动态获取。模型列表会定期更新，旧的模型可能被弃用或重命名，因此建议在每次使用前获取最新列表。

音频翻译支持什么格式？有文件大小限制吗？

音频翻译工具支持常见的音频格式（如 MP3、WAV、M4A 等），输入可以是本地文件路径、HTTP(S) URL 或 base64 数据 URL。具体文件大小限制取决于 GroqCloud 的服务限制，建议先验证音频格式再调用。

聊天补全的温度参数如何设置？

温度参数控制输出的随机性，范围 0-2，默认值为 1。0 使输出更确定和一致，较高的值（如 1.5）使输出更有创造性和多样性。根据应用场景选择：代码生成建议用较低温度，创意写作可以用较高温度。

GroqCloud API 有什么需要注意的限制？

模型列表响应可能是嵌套结构（response['data']['data']），解析时需要处理。硬编码模型 ID 容易因模型更新而失效，务必动态获取。TTS 语音列表是手动维护的静态列表，可能存在更新延迟。