Cloudflare звільнила близько 100 ТБ RAM, ущільнивши кеш DNS 1.1.1.1

Cloudflare повідомила про оптимізацію платформи Big Pineapple, яка обслуговує кеш рекурсивного DNS-резолвера 1.1.1.1. Замість встановлення нових модулів пам’яті інженери змінили представлення даних у програмі: середній розмір одного кешованого запису скоротився з 953 до 420 байтів. За оцінкою компанії, на масштабі її глобальної мережі це звільнило приблизно 100 ТБ оперативної пам’яті.

Масштаб ефекту пояснюється кількістю об’єктів. Система одночасно тримає близько 250 мільярдів записів DNS, тому навіть один зайвий байт у структурі перетворюється приблизно на 250 ГБ у всьому парку серверів. Коли економія на записі вимірюється сотнями байтів, результат уже порівнюваний з пам’яттю понад сотні сучасних серверів. Це наочний приклад того, чому у великій інфраструктурі оптимізація структури даних іноді дає більший результат, ніж локальне оновлення обладнання.

Інженери працювали на рівні реалізації Rust і застосували п’ять змін до формату записів та способу їхнього зберігання. Деталі важливі не лише програмістам: процесор звертається до пам’яті блоками кеш-ліній, і компактніші структури частіше поміщаються ближче до обчислювальних ядер. Менше непродуктивних читань означає нижчу затримку, менший трафік між CPU та RAM і більше корисної роботи з того самого сервера. Таким чином економія місткості може перейти у приріст швидкодії.

За внутрішніми вимірюваннями Cloudflare, пропускна здатність вставлення записів зросла на 43%, а затримка пошуку зменшилася на 19%. Це заявлені компанією результати її власного навантаження, тому вони не є універсальним бенчмарком для всіх DNS-систем. Проте напрямок цілком логічний: менший об’єкт простіше копіювати, він краще використовує кеш процесора і дозволяє довше зберігати популярні відповіді без витіснення.

Користувачі 1.1.1.1 не отримають додаткові 100 ТБ на своїх пристроях, адже зміна стосується серверної інфраструктури оператора. Практичний ефект має проявлятися опосередковано: сервіс може обробляти більше запитів на наявному обладнанні, зменшувати кількість звернень до авторитетних DNS-серверів і краще переживати пікове навантаження. Нижча затримка пошуку окремого запису також корисна, хоча у реальному відкритті сайту вона є лише однією з багатьох складових.

Історія особливо показова на тлі дорожчої пам’яті та попиту дата-центрів з боку AI. Вона не скасовує потреби у нових серверах, але демонструє альтернативний ресурс — інженерну ефективність. Коли сервіс працює у планетарному масштабі, ретельне компонування полів, відмова від надлишкових даних і краща локальність пам’яті можуть заощадити і капітальні витрати, і електроенергію. Остаточну економію енергії Cloudflare у цьому повідомленні не кількісно оцінювала, тому приписувати оптимізації конкретне зниження споживання було б передчасно.