Как экономить 100 TB оперативы
#rust
Cloudflare обнаружил, что их сервис балансировки нагрузки Pingora Backend Router использует 6+ GB RAM на хранение хешей для консистентного хеширования
Инженеры применили два улучшения: заменили 32-битный индекс сервера на 16-битный, упаковав структуру в 6 байт вместо 8, и, проанализировав статистическую формулу коэффициента вариации, выяснили, что 90% хешей можно убрать без потери точности распределения нагрузки.
В итоге высвободили 100 TB оперативной памяти по всей глобальной сети. Ашалеть
https://kodikapusta.ru/news/1225-kak-ekonomit-100-tb-operativy
Поддержать проект на boosty: https://boosty.to/kodikapust
#rust
Cloudflare обнаружил, что их сервис балансировки нагрузки Pingora Backend Router использует 6+ GB RAM на хранение хешей для консистентного хеширования
Инженеры применили два улучшения: заменили 32-битный индекс сервера на 16-битный, упаковав структуру в 6 байт вместо 8, и, проанализировав статистическую формулу коэффициента вариации, выяснили, что 90% хешей можно убрать без потери точности распределения нагрузки.
В итоге высвободили 100 TB оперативной памяти по всей глобальной сети. Ашалеть
https://kodikapusta.ru/news/1225-kak-ekonomit-100-tb-operativy
Поддержать проект на boosty: https://boosty.to/kodikapust