OpenAI в 12 раз ускорила чтение данных в хранилище ChatGPT
OpenAI научила своё хранилище Habitat, построенное на облачной базе данных Microsoft, обслуживать много сервисов сразу, добавила глобальный кэш, и чтение для ChatGPT ускорилось в 12 раз.
OpenAI в 12 раз ускорила чтение данных для ChatGPT в Habitat — внутреннем хранилище компании, на котором работает чат-бот.
Детали: хранилище научили надёжно обслуживать сразу много сервисов, чтобы они не мешали друг другу. Ещё в него добавили глобальный кэш, а расти хранилищу помогла облачная база данных Microsoft Azure Cosmos DB — на ней Habitat работает с запуска в 2023 году.
Ранее, 11 сентября, OpenAI рассказала, как Habitat вырос из библиотеки на Python в хранилище, распределённое по всему миру. Оно обслуживает больше миллиарда пользователей ChatGPT и больше 70 млн запросов в секунду.