Бұлттық сервердегі жад кідірісі: болжам емес, өлшем

Бұлттық сервердегі жад кідірісі: болжам емес, өлшем

Бұлттық сервердегі жад кідірісі: болжам емес, өлшем

Қысқаша (2026-11-01 тексерілді): Осы демалыста Hacker News басты бетіне шыққан жазба 100% жүктемені көрсететін процессор жиі тек RAM-ды күтіп тұрады дейді. Автор көбірек жұмыс істеп, бірақ жадқа сирек жүгініп жылдамдаған GROUP BY сұрауын көрсетеді. Біз сол идеяны осы блогты жазатын бұлттық серверде тексердік: деректер L1-ге сыйса, бір оқу шамамен 2 нс тұрады, ал 256 МБ жұмыс жиынында шамамен 200 нс, яғни жүз есеге жуық көп. Сервер жалдайтындар үшін бұл айырма тапсырыстағы ядро санынан маңыздырақ. Төменде біздің сандар және олардың бұлт пен арнайы сервер арасындағы таңдауға әсері.

Дереккөз. "It's the memory latency, stupid", авторы Maor Kern (Pivot / Epsio Labs, 2026-10-28 жарияланған), Hacker News талқылауы, 2026-11-01 жағдайы бойынша 175 ұпай. Олардың сандары жазбада қалай берілсе, солай келтірілді; өз сандарымызды өзіміз өлшедік.

Pivot жазбасы нені өлшеді

Тест бір сұраудан тұрады: ClickBench "hits" кестесі бойынша GROUP BY UserID (шамамен 99 миллион жол, шамамен 17 миллион бірегей пайдаланушы), 128 ГБ DDR5 бар AMD EPYC 9124 bare-metal серверінің бір ядросына бекітілген. 17 миллион кілтке арналған қарапайым хеш-кесте ешбір кэшке сыймайды, сондықтан іздеудің барлығына жуығы RAM-ға барады. Жолдарды алдымен 4096 бөлікке бөліп, әрқайсысына шағын хеш-кесте берсе, жұмыс көбейеді, бірақ әр кесте кэште қалады:

Көрсеткіш (бір ядро) Қарапайым хеш-кесте Radix бөлу
Уақыт, 1-ші / 2-ші іске қосу 3.9 с / 3.6 с 3.3 с / 2.7 с
Жадты күтетін слоттар 50.1% 23.5%
Пайдалы жұмыс слоттары 16.1% 32.2%
DRAM-нан оқулар 76.2 млн 25.7 млн

Бөлінген нұсқа көбірек операция орындайды (19.4 млрд, 11.4 млрд-қа қарсы), бірақ бәрібір бірінші аяқтайды. Автордың оңтайландырылған нұсқасы бір ядрода 1.85 с, барлық 16 ядрода 0.17 с жұмыс істеді. Сабақ бір дерекқорға ғана қатысты емес: top ішіндегі "CPU 100%" ядроның бос тұрмағанын білдіреді, оның есептеп жатқанын емес.

Біздің бұлттық серверде өлшенді

Кідірісті көрудің классикалық тәсілі - pointer chase: әр ұяшықта келесісінің индексі сақталған, кездейсоқ ретпен, бір кэш-сызық (64 байт) қашықтықта орналасқан массив. Әр оқу алдыңғысына тәуелді, сондықтан процессор деректі алдын ала жүктей де, оқуларды қатар орындай да алмайды, ал бір қадамның уақыты жұмыс жиыны тұрған деңгейдің кідірісіне тең. Біз Bun үшін JavaScript-те жазылған өз pointer chase скриптімізді іске қостық, өйткені блог машинамызда C компиляторы жоқ: JIT циклды бірнеше машиналық нұсқаулыққа айналдырады, бұл әр санға аздап қосады. Абсолюттік мәндерді емес, сатыларды салыстырыңыз.

Нәтиже, DCXV бұлттық серверінде Bun 1.4.4 арқылы 2026-11-01 іске қосылды:

CPU: Intel(R) Xeon(R) CPU E5-2698 v4 @ 2.20GHz
Caches: L2 4096K, L1d 32K, L3 16384K, L1i 32K
working set   ns/load
     16 KB       2.0
     32 KB       2.2
    256 KB      12.5
      1 MB      24.3
      4 MB     122.2
     16 MB     138.4
     64 MB     164.7
    256 MB     205.1

Сол таңғы екінші іске қосу 1 МБ-қа дейін ең көбі 2 нс, одан жоғары ең көбі 12 нс айырмашылық берді:

Жұмыс жиыны бір оқуға нс, іске қосу 1 / 2 Қай жерде тұрады
32 КБ 2.2 / 2.4 L1 деректер кэші
256 КБ 12.5 / 10.5 L2, ішінара L3
1 МБ 24.3 / 24.3 L3
16 МБ 138.4 / 137.2 бет кестелерін аралау, L3 және DRAM
256 МБ 205.1 / 193.5 DRAM

Сандар не айтады

  1. Қонақ жүйе нақты кэштерді көрмейді. ВМ 4 МБ L2 және 16 МБ L3 көрсетеді; Intel Xeon E5-2698 v4 үшін 50 МБ кэш көрсетеді (Intel ark, 2026-11-01 тексерілді). Гипервизор өз топологиясын ұсынады, ал бұлттық сервердегі lscpu кремнийді емес, соны оқиды. Жазуларға сенбей, жабдықты өлшеңіз.
  2. Құлдырау кэш толмай тұрып-ақ басталады. 1 МБ мен 4 МБ аралығында кідіріс бес есе өседі, бұл 50 МБ-тан әлдеқайда төмен. 4 КБ беттермен 4 МБ бойынша кездейсоқ аралау 1 024 бетті қозғайды, бұл TLB сыйғызатыннан көп, ал ВМ ішінде TLB жіберіп алуы қонақтың да, хосттың да бет кестелерін аралайды; оның үстіне L3 сокеттің басқа ядроларымен ортақ. Бұл себептерді біз бөліп қарамадық. Практикалық қорытынды бірдей: ВМ-де жылдам жұмыс жиыныңыз бірнеше мегабайт қана деп жоспарлаңыз.
  3. Көп RAM жылдам RAM дегенді білдірмейді. 1 МБ-тан 256 МБ-қа дейін бір оқудың құны шамамен сегіз есе өседі. Қосымша гигабайттар жылдамдық емес, көлем береді; кідіріске тірелген тапсырманы Pivot бөлуі көрсеткендей кішірек ыстық жиын жылдамдатады.

Сервер жалдағанда бұл нені білдіреді

  • Бұлттық серверлер веб-қосымшалардың, API мен шағын дерекқорлардың көпшілігіне жарайды: олардың ыстық деректері кэшке сыяды, және олар RAM-ды күтпей тұрып-ақ желіні не дискіні күтеді. Көлемді өлшенген жад қолданысы бойынша таңдаңыз, біздің бұлттық сервер көлемін таңдау нұсқаулығындағыдай.
  • Арнайы серверлер үлкен жұмыс жиыны күні бойы кездейсоқ оқылғанда өзін ақтайды: аналитика, үлкен хеш-біріктірулер, жадтағы кэштер, индекстері RAM-ға енді сыймайтын PostgreSQL сервері. Сіз көршілерсіз бүкіл L3 мен жадтың барлық арнасын аласыз және TLB жіберіп алуларын азайтатын huge pages қоса аласыз. Конфигурацияны арнайы сервер бетінде жинаңыз.
  • Кез келген жаңартудан бұрын тестті қолыңыздағы серверде іске қосып, баяу тапсырмаңыз кідіріске тірелетінін тексеріңіз. Ядроларды екі есе көбейту уақытының жартысын күтумен өткізетін бір ағынға көмектеспейді. Жадтың өзі биыл қымбаттады, қараңыз: 2026 жылғы сервер RAM, сондықтан ең арзан шешім көбіне оған азырақ жүгінетін код.

Сатып алмас бұрын тексеріңіз

Прага мен Ковильядағы Tier III дата-орталықтарымыз бұлттық серверлерді және арнайы серверлерді ұсынады. Бұлттық серверді іске қосып, онда өз жүктемеңізді орындаңыз да, өлшеу нәтижелерін sales@dcxv.com мекенжайына жіберіңіз: арнайы сервер сандарды өзгерте ме, соны шешуге көмектесеміз.

Starlink Mini 2 CGNAT артында: көшіп жүретін нысанға қалай жетуге болады
networkingcloudinfrastructure

Starlink Mini 2 CGNAT артында: көшіп жүретін нысанға қалай жетуге болады

Starlink Mini 2 шықты, бірақ стандартты тарифтер CGNAT артында. 12+ млн клиентке 990 208 IPv4 санадық және нысанға жетудің төрт тәсілін салыстырдық.

Еуропадағы дата-орталыққа наразылық: клиент не істейді
clouddedicatedinfrastructure

Еуропадағы дата-орталыққа наразылық: клиент не істейді

6 қарашада жүздеген адам Амстердамдағы Microsoft дата-орталығының құрылысына кірді. Нидерланд желісінің сандары, ЕО хабтарына өлшенген кідіріс және кеңес.

АҚШ сайлаушылары дата-орталыққа 45:1 қарсы: клиентке сабақ
clouddedicatedinfrastructure

АҚШ сайлаушылары дата-орталыққа 45:1 қарсы: клиентке сабақ

АҚШ-тағы дата-орталықтар туралы 47 жергілікті дауыс беру, шектеу жағы 45-інде жеңді. Бастапқы деректерді қайта санап, сервер жалдаушыларға мәнін түсіндіреміз.

AWS BYOIP 2026: IPv4 үшін $43.80 немесе өз /24 блогыңыз
ipv4pricingcloud

AWS BYOIP 2026: IPv4 үшін $43.80 немесе өз /24 блогыңыз

AWS жария IPv4 үшін сағатына $0.005, жылына $43.80 алады. BYOIP бұл төлемсіз: сатып алынған не жалға алынған /24 қашан ақталады, ROA дайындығын тексерумен.

Broadcom-нан кейін VMware-ден кету: тексерілген көшу жоспары
clouddedicatedinfrastructure

Broadcom-нан кейін VMware-ден кету: тексерілген көшу жоспары

Broadcom мерзімсіз лицензияларды тоқтатып, серіктестерді азайтып, VDDK-ны жасырды. ВМ-ді KVM, Proxmox не Hyper-V-ге көшіру: күндер, OVA түрлендіруінің сынағы.