OpenAI amplia infraestrutura do ChatGPT para 1 bilhão de usuários e acelera leituras em 12 vezes
OpenAI otimiza o sistema Habitat com Azure Cosmos DB e cache global, acelerando leituras do ChatGPT em 12 vezes para 1 bilhão de usuários.
Para sustentar a demanda de mais de 1 bilhão de usuários no ChatGPT, a OpenAI reformulou a arquitetura do seu sistema de armazenamento online, o Habitat. A solução envolveu a implementação de um modelo multilocatário (*multi-tenancy*) resiliente aliado a camadas distribuídas de cache global, projetadas para mitigar gargalos operacionais sob tráfego massivo.
A integração estratégica com o Azure Cosmos DB viabilizou operações de leitura até 12 vezes mais rápidas, garantindo baixa latência e alta disponibilidade. O avanço técnico demonstra como arquiteturas de dados híbridas e distribuídas são fundamentais para viabilizar a infraestrutura de inferência em hiperescala para inteligência artificial generativa.
*Fonte original: OpenAI Blog.*
---
Fonte original: OpenAI Blog