Karpenter English: Vocabulary for Kubernetes Node Autoscaling Discussions (англійською)

Коли інженерна команда платформи приймає Karpenter для автоматичного масштабування вузлів Kubernetes, новий набір англійських термінів входить в щоденні розмови. Слова, такі як «консолідація», «розрив» і «дрейф» мають загальне англійське значення, але в обговореннях Карпентера вони несуть точні технічні визначення. Знання словника полегшує участь у передачі за запитом, читання runbooks і внесок у перегляди дизайну інфраструктури.

Цей термін має лексичне значення

Karpenter автоматизує забезпечення та видалення вузлів Kubernetes. Мовні інженери використовують для опису його поведінки суміш загальних англійських слів, що мають конкретні технічні значення і спеціально побудовані складні іменники. Нерозуміння навіть одного терміну — наприклад, плутанина «перерви» з загальним відключенням — може викликати справжню плутанину під час інциденту.

Основний словник

** Пул вузлів **

• NodePool * — це ресурс Karpenter, який визначає обмеження і параметри групи вузлів, наприклад, які типи екземплярів буде дозволено, які зони доступності буде використано, а також які завантаження вузли повинні приймати. Інженери використовують цей термін як іменник, так і як модифікатор у фразах.

«Ми маємо окремий NodePool для навантажень GPU, тому обмеження планування не втручаються в загальний обчислювальний пул»

«Налаштування NodePool було занадто обмежуючим — воно блокувало забезпечення в двох з трьох зон доступності»

NodeClaim

• NodeClaim * — це внутрішній об’ єкт Karpenter, який представляє запит на певний вузол. Коли Karpenter вирішує забезпечити вузол, він створює NodeClaim. Інженери стикаються з цим терміном найчастіше, коли зневаджують, чому вузол був або не був створений.

«NodeClaim було створено, але базовий екземпляр ніколи не з’являвся — виглядає як проблема ємності на стороні хмарного провайдера»

** Провізор ** (старий термін)

• Провізор * — це старий термін Karpenter, який було замінено на NodePool у останніх версіях, але ви все ще побачите його у старій документації, повідомленнях блогу і командних підручниках. Інженери іноді використовують обидва терміни взаємозамінно, коли мова йде про налаштування забезпечення вузлів.

Цей runbook був написаний для Karpenter v0.27 — «провайдер», на який він посилається, тепер називається NodePool

Срочно

У Karpenter термін * розлад * означає навмисне припинення або заміну вузлів, наприклад, під час консолідації або коли вузол відхиляється від бажаної конфігурації. Це навмисний процес, а не випадковість. Слово «розривний» використовується як прикметник для опису дій, які вимагають заміни вузлів.

«Ми встановили бюджет розриву, щоб обмежити кількість вузлів, які Karpenter може замінити одночасно під час події консолідації»

«Оновлення було розривним — Карпентер повинен був замінити всі вузли в цьому NodePool протягом двогодинного вікна»

Консолидація

• Консолідація * — це процес зменшення кількості вузлів за допомогою пересування робочих завантажень на меншу кількість вузлів, які використовуються ефективніше, і закінчення роботи порожніх вузлів. Інженери обговорюють консолідацію, коли говорять про оптимізацію витрат і ефективність кластерів.

«Після вмикання консолідації, кількість наших вузлів впала з 40 до 28 в непікові години, що значно зменшило обчислювальний рахунок»

«Консолідація занадто агресивна для наших станових завантажень — нам потрібно налаштувати її обережніше»

Дрейф

Про вузол кажуть, що він * дрейфує *, коли його фактична конфігурація більше не відповідає тому, що вказано у NodePool — наприклад, якщо AMI (Amazon Machine Image) було оновлено, але запущений вузол все ще використовує стару версію. Karpenter виявляє дрейф і може автоматично замінювати пошкоджені вузли.

«Виявлення дрейфу позначило 12 вузлів як застарілих після того, як ми оновили версію AMI в специфікації NodePool»

«Ми ввімкнули відновлення дрейфу, щоб вузли автоматично замінювалися, коли вони виходять з відповідності»

** Упаковка в контейнеры **

• Упакування у контейнери * — це стратегія планування, за якої завантаження розташовуються якомога щільніше на невеликій кількості вузлів, зменшуючи витрати. Термін походить від класичної проблеми комп’ютерної науки bin-packing. Інженери використовують його, коли обговорюють, як Karpenter вибирає типи і розміри екземплярів.

«Упаковка контейнера Карпентера обрала менший тип екземпляра, ніж ми очікували, тому що вона могла вмістити всі очікувані піддони на один вузол»

Відсутні місця

• Спот- ємність * означає запасні обчислювальні ресурси хмарного провайдера, доступні за зниженою ціною, з тим компромісом, що екземпляри можна відновити без попередження. Інженери обговорюють точкову пропускну здатність при проектуванні економічних, але стійких до перерви навантажень.

«Ми запускаємо пакетні завдання на місці і зберігаємо сервери API на випадках за запитом, щоб уникнути несподіваних перерв»

Ключові слова

• provision a node — для створення і реєстрації нового вузла у кластері
• ** trigger consolidation ** — для початку процесу зменшення кількості вузлів
• detect drift — для визначення вузлів, конфігурація яких більше не відповідає специфікації
• ** завершити роботу вузла ** — для завершення роботи і вилучення вузла з кластера
• ** встановити бюджет перерви ** — для визначення обмежень кількості вузлів, які можна перервати одночасно
• ** відновлення локальної пропускної здатності ** — коли постачальник хмарних послуг повертає локальний екземпляр

Practice

Знайти діаграму архітектури Karpenter або запис у блогу з внутрішньої документації вашої компанії або з відкритого джерела. Опишіть його вголос або письмово, використовуючи лише словниковий запас з цього повідомлення. Спробуйте включити принаймні одне речення про кожен з шести основних термінів. Потім поділіться вашим описом з колегою і запитайте, чи точно він відображає діаграму.

Навигація Nuance: вирішення потенційних нерозумінь з Карпентером

Основна сила Karpenter полягає в його здатності динамічно регулювати навантаження в кластері на основі попиту - оптимізація для вартості * і * продуктивності. Однак, перекладаючи цю технічну майстерність в чітке, коротке спілкування може бути складним, особливо при обговоренні основних концепцій і потенційних викликів. Багато розробників, які не знають Karpenter, або навіть ті, хто має досвід в інших рішеннях автомасштабування, можуть спочатку боротися з деякою термінологією навколо розриву, консолідації і дрейфу - терміни, що є центральними для його роботи. Важливо уникати жаргону, який звучить надто технічно або передбачає жорсткий, заздалегідь визначений розклад. Метою завжди є повідомлення * чому * Karpenter робить те, що робить, а не тільки * що * це робить.

Одне з найпоширеніших нерозумінь виникає під час обговорення « переривання ». Хоча Karpenter пересуває робочі завдання, його метою не є переривання роботи програм. Це більше про активне реагування на наявність ресурсів і коливання попиту. Хороший спосіб пояснити цю розмову полягає в тому, що Karpenter має на меті оптимізацію використання - перенесення робочих навантажень туди, де вони найбільше потрібні. Розгляньте повідомлення Slack у відповідь на запитання інженера, чому його завдання було ненадовго перенесено: « Привіт [Ім’ я інженера], просто повідомляю вам, що кластер виявив підвищений попит на вашу програму, і Karpenter тимчасово пересунув її на вузол з вільними ресурсами. Це забезпечує оптимальну продуктивність і уникнення потенційних вузьких місць, при цьому мінімізуючи витрати. Ми постійно моніторимо, щоб переконатися, що немає помітного впливу на ваш сервіс. “Іншим прикладом може бути опис запитів на витягування: “Ця PR використовує можливості динамічного масштабування Karpenter для використання точкової пропускної здатності під час періодів низького попиту, забезпечуючи економічність без впливу на продуктивність програми”

Також важливо визнати, що термін «дрейф» може бути неправильно інтерпретований. Це не означає помилку; це просто описує природні відхилення у використанні ресурсів з часом. Незначний відхил у використанні процесора є абсолютно нормальним, і метою Karpenter є зменшення цих відхилень за допомогою активного регулювання навантаження. Сфокусування на метриці — процесор, пам’ять, мережевий вхід/вихід — і пояснення того, як Karpenter реагує на ці метрики, забезпечує більш доступне пояснення, ніж просто заява «дрейф»

Нарешті, при обговоренні консолідації - процес групування схожих завантажень - важливо підкреслити переваги: поліпшення використання ресурсів і зменшення накладних витрат. Не називайте це «пакуванням речей у коробки»; замість цього описуйте це як розумне поєднання ресурсів для максимальної ефективності.

Ось простий приклад, що демонструє здатність Karpenter масштабувати за потребою за допомогою CLI:

karpenter scale --cluster-name my-cluster --node-pool my-pool --scale-up 2 --reason "High workload detected"

Ця команда наказує Karpenter збільшити кількість вузлів у пулі вузлів my-pool у кластері my-cluster на два, з посиланням на « Виявлено велике навантаження » як причину. Це дозволяє отримати чітке і реалізоване пояснення при спілкуванні з зацікавленими сторонами про масштабування рішень.