异步请求

使用 xAI API 时，您可能需要处理数百甚至数千个请求。顺序发送这些请求会非常耗时。

为了提高效率，您可以使用 xai_sdk 中的 AsyncClient 或 openai 中的 AsyncOpenAI，这允许您并发发送多个请求。下面的示例是一个 Python 脚本，演示了如何使用 AsyncClient 批量异步处理请求，从而显著缩短整体执行时间。

xAI API 目前不提供批处理 API。

速率限制

调整 max_concurrent 参数以控制最大并行请求数。

您无法在 API 控制台中显示的速率限制之外并发运行请求。