Vocabulary for Machine Learning Engineers
Необхідний англійський словник для інженерів машинного навчання — тренування моделей, оцінка метрик, MLOps і терміни розгортання пояснені з прикладами.
Машинне навчання має свій власний щільний словник — поєднуючи статистику, програмне забезпечення та науку про дані. Незалежно від того, обговорюєте ви продуктивність моделі на зустрічі, пишете технічний звіт або готуєтеся до інтерв’ ю з машинним навчанням, знати правильну англійську мову є обов’ язковим.
Модель тренувального словника
| Term | Definition | Example sentence |
|---|---|---|
| training data | Data used to teach the model | ”We trained the model on 500,000 labelled examples.” |
| validation data | Data used to tune hyperparameters during training | ”We monitor loss on the validation set to detect overfitting.” |
| test data | Held-out data used only for final evaluation | ”We evaluate on the test set only once, after training is complete.” |
| epoch | One full pass through the training data | ”We trained for 50 epochs with early stopping.” |
| batch size | Number of samples processed in one training step | ”We use a batch size of 32 — larger batches tend to generalise worse on this dataset.” |
| learning rate | How fast the model updates its weights | ”We started with a learning rate of 0.001 and used decay after 20 epochs.” |
| overfitting | Model performs well on training data but poorly on new data | ”The training accuracy was 98% but validation accuracy was 74% — a clear sign of overfitting.” |
| underfitting | Model is too simple to capture the patterns | ”The model underfits — we need a more expressive architecture.” |
| regularisation | Techniques to prevent overfitting | ”We applied L2 regularisation and dropout to reduce overfitting.” |
| fine-tuning | Adapting a pre-trained model to a specific task | ”We fine-tuned BERT on our domain-specific corpus.” |
Метрична система оцінки
- “Сама по собі точність тут не є вказівкою на точність, оскільки набір даних дуже незбалансований. Ми повинні приділяти пріоритет точності і відновленню.»*
| Metric | Definition | When to use it |
|---|---|---|
| accuracy | Fraction of correct predictions | When classes are balanced |
| precision | Of all positive predictions, how many were correct | When false positives are costly |
| recall | Of all actual positives, how many were found | When false negatives are costly |
| F1 score | Harmonic mean of precision and recall | When you need a balance of both |
| AUC-ROC | Area Under the ROC Curve — model’s ability to distinguish classes | Binary classification problems |
| loss | The error signal used during training | All supervised learning tasks |
| RMSE | Root Mean Square Error — for regression tasks | ”The model achieved an RMSE of 4.2 on the test set.” |
| MAE | Mean Absolute Error | Regression; easier to interpret than RMSE |
| perplexity | Measure of how well a language model predicts text | NLP tasks |
| BLEU score | Similarity between generated and reference text | Machine translation, summarisation |
Модель архітектурного словника
| Term | Definition |
|---|---|
| neural network | A model inspired by the structure of the brain, made of layers of connected units |
| layer | A building block of a neural network (e.g., convolutional layer, attention layer) |
| parameter | A learned weight inside the model |
| hyperparameter | A setting configured before training (learning rate, depth, batch size) |
| transformer | The architecture underlying modern LLMs; introduced in “Attention Is All You Need” (2017) |
| attention mechanism | A component that allows the model to focus on relevant parts of the input |
| embedding | A dense vector representation of a piece of data (word, image patch, etc.) |
| gradient descent | The optimisation algorithm used to train most neural networks |
| backpropagation | How gradients flow backward through the network to update weights |
Словниковий словник
- “Ми використовуємо сервер стеження MLflow для ведення журналу експериментів і порівняння запусків. Успішні моделі підвищуються до реєстру моделей і розгортаються за допомогою синьо-зеленої стратегії розгортання.”*
| Term | Definition |
|---|---|
| MLOps | DevOps practices applied to machine learning — training, deployment, monitoring |
| experiment tracking | Recording parameters, metrics, and artefacts from training runs |
| model registry | A central store for versioned, validated models |
| feature store | A centralised repository of engineered features for training and inference |
| data drift | When the distribution of production data diverges from training data |
| model degradation | Decline in model performance over time |
| pipeline | A sequence of automated steps from raw data to deployed model |
| inference | Using a trained model to make predictions on new data |
| latency | Time taken to return a prediction |
| throughput | Number of predictions the model can make per second |
| shadow mode | Running a new model alongside the old one for comparison before switching |
| A/B testing | Splitting traffic between two models to compare performance in production |
Фрази для обговорень ML
** Описуючи модель: **
“Модель досягає 89% точності на тестовому наборі, що на 12 пунктів краще за наш базовий.”
“Точність висока, але відтворення низьке — модель консервативна у позитивних прогнозах.”
Опис тренувальних рішень:
- “Ми експериментували з трьома архітектурами. Модель, заснована на трансформаторі, перевершила інші при перевірці, тому ми продовжили з цим»
“Ми припинили тренування на епохі 40 на основі раннього зупинення - втрата підтвердження була на рівні п’яти епох.”
** Опис розгортання: **
“Модель обслуговується через REST API з затримкою P99 45 мс.”
- “Ми щотижня стежимо за змінами даних. Якщо результат дрейфу перевищує поріг, ми запускаємо конвеєр перенавчання.”*
Цей словник допоможе вам безпечно брати участь у зустрічах команди з машинного навчання, писати чітку документацію щодо моделі і повідомляти про результати учасникам, яким потрібно розуміти, що насправді означають цифри.
Наприклад, слово «невідомий» вживається для позначення невідомих людей
У цьому пості ми описали значну кількість технічного жаргону — від * градієнтного спуску * до * налаштування гіперпараметрів *. Фантастика, що ти будуєш свій словник навколо цих основних поняттів. Однак, як не рідною англійською мовою, що пересувається в світі машинного навчання, це не тільки про знання визначення; це про ефективне спілкування в команді і розуміння тонких змін в значенні. Часто навіть носії рідної мови використовують фрази з трохи різними конотаціями залежно від контексту. Давайте розглянемо деякі спільні області, де можуть виникнути ці відмінності, зосередившись на тому, як переконатися, що ваш внесок буде ясним і добре прийнятим.
Одним з найчастіших викликів є різниця між * « реалізувати » * і * « розробляти » *. Хоча обидва позначають створення коду, « реалізувати » часто означає суворе дотримання визначеної специфікації або існуючого дизайну — подумайте про переклад детального технічного документа у робочий код. « Розробляти », з іншого боку, говорить про більш творче вирішення проблем і архітектурні рішення. Рецензент може сказати: « Це хороша реалізація алгоритму, але розробимо більш надійну стратегію обробки помилок ». Важливо розуміти, що « реалізувати » іноді може відчуватися як вимога до точної репродукції, тоді як « розробляти » запрошує ширше мислення. Аналогічно, будьте уважні до фраз на кшталт «масштабування» - це часто використовується випадково, але в контексті ML, це конкретно стосується збільшення здатності вашої моделі або системи обробляти більші набори даних і збільшення користувацького трафіку.
Іншою областю, яка потребує ретельного розгляду, є те, як ми обговорюємо * модельну продуктивність *. Сказати, що модель має “високу точність” недостатньо. Важливо кількісно оцінити цю точність – «Модель досягла 92% точності на тестовому наборі». Крім того, розуміння різниці між точністю і пригадуванням є ключовим. Точність вимірює частку позитивних прогнозів, які були насправді правильними, а відновлення вимірює частку справжніх позитивних прогнозів, які були правильно визначені. Високий бал точності може вказувати на дуже специфічну модель, яка чудово уникає хибних позитивних результатів, але це також може означати, що вона пропускає багато справжніх випадків (низьке відновлення). Ясне повідомлення цих нюансів є ключем до ефективного співробітництва і прийняття рішень.
Нарешті, пам’ ятайте, що опис змін у запиті на звантаження має бути чітким. Замість простого повідомлення « Виправлено ваду », спробуйте « Виправлено проблему, у якій моделі не вдалося передбачити мітки для зразків з великим перекриттям властивостей ». Такий рівень деталізації показує ретельність і допомагає переглядачам зрозуміти кореневу причину і потенційний вплив вашого виправлення. Це про те, щоб показати, що ти не просто * зробив * щось, але що ти * розумієш * те, що ти зробив.
# Example: Using TensorFlow to check for GPU availability
python -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))"За допомогою цієї команди можна перевірити, чи має ваша система доступ до графічного процесора, що є важливим параметром у багатьох потоках роботи з машинним навчання. Надання такого роду інформації коротко може уникнути довгих дискусій про проблеми інфраструктури.