标签:负载

OpenAI Load Balancer:Open AI API 负载均衡

OpenAI Load Balancer:Open AI API 负载均衡 它是一个Python库,用于在多个端点之间分配API请求(支持OpenAI和Azure)。它实现了轮询负载平衡机制,并包括每个AP...