Англійська мова для інженерів штучного інтелекту: Ключовий словник
Необхідний англійський словник для інженерів штучного інтелекту і машинного навчання — вбудовування, висновки, тонка настройка, RAG, агенти — з чіткими визначеннями і прикладними реченнями.
Штучний інтелект є однією з найшвидше розвиваючихся галузей технологій, а його словник розвивається так само швидко. Для не рідних англомовних людей, які працюють в AI і ML, знання правильних слів не тільки про розуміння документів і документації. Це про надійне спілкування на зустрічах з проектуванням, перегляді коду і обговоренні продукту.
У цьому довіднику наведено основні слова, які вам знадобляться, а також визначення, приклади речень і підказки щодо використання кожного з цих слів у контексті.
Фундаменти: Як працюють моделі
Embedding
** Вбудоване ** — це числове представлення даних (текст, зображення, аудіо) у високовимірному векторному просторі. Елементи з подібним значенням розташовуються поруч один з одним у цьому просторі.
- “Ми зберігаємо вбудовані документи у векторній базі даних, щоб ми могли отримати семантично схожі шматки у час запиту.” *
“Модель отображает каждый токен в 1536-мерном вложении перед обработкой.”
Inference
** Виведення ** — це процес використання тренованої моделі для створення передбачень на основі нових даних. Це протилежність тренувань.
“Затримка виводу є вузької місцини - ми бачимо часи відповіді P99 понад дві секунди.”
“Ми виконуємо виведення на екземплярах GPU, щоб задовольнити наші вимоги щодо пропускної здатності.”
Token
Токен є базовим елементом тексту, який обробляється мовою моделі — приблизно слово або фрагмент слова.
“Ця команда використовує близько 800 символів, що дозволяє нам добре працювати у контекстному вікні моделі.”
Тренування та адаптація
Настройка
** Досконала настройка ** це процес прийняття попередньо тренованої моделі і продовження її тренування на меншому, специфічному для домену наборі даних для адаптації її поведінки.
- “Ми вдосконалив базову модель нашого квитка підтримки даних для поліпшення точності класифікації.” *
- “Досконала настройка потребує значно менше обчислень, ніж навчання з нуля.” *
До тренувань
** Попереднє навчання ** це початкова фаза, на якій модель вивчає великий загальний набір даних перед будь- яким адаптуванням до певного завдання.
“Модель была предварительно тренирована на триллионе символов интернет-текста.”
Рефлексивний аналіз (Reflexive Analysis)
** RLHF ** — це методика тренування, за якої люди оцінюють вихідні дані моделі, а ці оцінки керують подальшим тренуванням, щоб вирівняти модель з людськими перевагами.
“RLHF — це те, як більшість комерційних моделей чату вирівняно, щоб допомагати виконувати інструкції.”
Контекст і зміст
RAG (Retrieval-Augmented Generation) — генерація з відновленням
** RAG ** — це архітектура, де відповіді мовної моделі розширюються за допомогою отримання відповідних документів з зовнішньої бази знань під час запиту.
- “Ми використовуємо конвеєр RAG, тому модель завжди відповідає на основі найновішої документації компанії, а не тільки її тренувальних даних.” *
- “Крок отримання повертає перші п’ ять шматків документа, які ми вставляємо у контекст запитів.” *
Контекстне вікно
** контекстне вікно ** — це максимальна кількість тексту (вимірюється у токенах), яку модель може обробити за один виклик.
“Контекстне вікно 128k дозволяє нам передати всю базу коду до запитів для рефакторингу завдань.”
Chunking
** Розбиття на шматки ** — це процес розбиття великих документів на менші частини перед їх вбудовуванням для отримання.
- “Ми розбиваємо документи на 512 токенів з перекриванням 50 токенів, щоб зберегти контекст через кордони.” *
Організація та керівництво
Agent
У штучному інтелекті, ** агент ** це система, яка використовує мовну модель для обґрунтування, планування і виконання дій (таких як виклик інструментів або API) для досягнення мети на декількох кроках.
“Агент автономно викликає API пошуку, читає результати і синтезує відповідь.”
- “Ми створили агент кодування, який може читати файли, писати латки і виконувати тести у середовищі пісочниці.” *
Використання інструментів / виклик функцій
** Використання інструментів ** (також називається ** виклик функцій **) є можливістю, яка надає змогу моделі мови викликати зовнішні функції або API як частину створення відповіді.
“Ми виставляємо API погоди як інструмент, і модель вирішує, коли викликати його на основі запитів користувача.”
Orchestration
** Оркестрація ** стосується координації декількох компонентів ШІ, агентів або викликів моделей у визначеному потоці роботи.
“Ми використовуємо LangGraph для оркестрації — він керує становою машиною, яка маршрутизує між агентами планування і виконання.”
Оцінка та якість
Hallucination
Галюцинация - это когда модель генерирует правдоподобно звучащую, но фактически неправильную информацию.
“Наша система оцінки позначить галюцинації перекрестними посиланнями на вихідні дані моделі з джерельними документами.”
Benchmark
** Бенчмарк ** це стандартизований тест, який використовується для вимірювання продуктивності моделі на конкретному завданні або можливості.
“Модель набрала 87% на еталоні MMLU, який охоплює багатодоменні знання.”
Затримка проти пропускної здатності
** Затримка ** — це час, необхідний для виконання однієї операції. ** Пропускна здатність ** — це кількість операцій, які система може виконати за одиницю часу.
- “Ми оптимізували затримку в продукті, що орієнтований на клієнта, але ми виконуємо пакетні фонові завдання, щоб збільшити пропускну здатність.” *
Порядок слів: словосполучення
-
- “Конвейєр виведення обробляє запити з середньою затримкою 340 мс.” *
- “Ми оцінюємо, чи дасть тонка настройка або RAG кращу точність для цього випадку використання.”
-
- “Агент використовує виклики інструментів для пошуку даних у реальному часі перед створення відповіді.” *
- “Стратегія фрагментації має значний вплив на якість пошуку — ми перевірили три підходи.”
Вміння користуватися цим словником допоможе вам безпечно брати участь у обговореннях з інженерії ШІ, писати чіткі технічні специфікації і повідомляти про досягнення учасникам. Поле швидко розвивається, але ці основні терміни формують стабільний фундамент.
Розробка та впровадження систем управління якістю та контролю якості
Для носіїв, для яких англійська не є рідною мовою, розуміння того, як ефективно поширювати технічні ідеї, так само важливо, як і знання самої термінології. Не достатньо просто перекладати; вам потрібно зрозуміти культурні очікування щодо зворотнього зв’язку, співпраці і запитів на допомогу в середовищі розробки програмного забезпечення - особливо в швидких проектах штучного інтелекту. Багато з словників, які ми вивчали, наприклад, «точна настройка» або «вивід», можуть звучати неймовірно точно, коли їх говорять, але часто вимагають відповідного використання контексту.
Одним з поширених сценаріїв є отримання коментаря перегляду коду. Припустимо, ви надіслали запит на витягування, у якому міститься нова функція, розроблена для покращення точності моделі за допомогою вбудованих функцій. Рецензент може залишити коментар на зразок: « Це виглядає добре, але чи не могли б ми розглянути можливість додавання журналювання навколо процесу вбудованого пошуку? Це дійсно допоможе з налагодженням, якщо щось не так.» Простий переклад « зневадження » на вашу рідну мову не в повній мірі передасть * очікування *. Рецензент не просто вказує на потенційну проблему; вони запитують інформацію і, можливо, пропонують проактивний крок для запобігання майбутнім проблемам. Ефективна відповідь вимагає більше, ніж буквального перекладу - вона вимагає розуміння того, що коментар є запрошенням до пояснення, а не обов’язково критики. Формування вашої відповіді як « Зрозуміло — я додам журналування навколо вбудованого отримання. Чи можете ви дати певні рекомендації щодо того, який рівень деталізації був би найбільш корисним?» демонструє залученість і бажання співпрацювати.
Аналогічно, розмови Slack можуть швидко стати складними. Розглянемо ситуацію, коли команда обговорює продуктивність конвеєра з покращеним генеруванням (RAG). Розробник може опублікувати: «Затримка RAG підвищується під час годин пік. Нам потрібно дослідити потенційні вузли у запиту векторної бази даних.” Це твердження використовує технічний жаргон, але також підкреслює відповідальність - “ми” повинні дослідити. Важливо визнати це приховане право власності і запропонувати рішення, а не просто стверджувати про проблему. Краще було б сказати: «Гаразд, почнемо з профілювання запитів бази даних під час годин пік. Я можу запустити деякі команди redis-cli, щоб перевірити час запиту і визначити будь-які повільні операції — щось на зразок redis-cli --stats може дати нам хороший огляд»
Нарешті, при написанні описів запитів на завантаження, важливо вказати, чому ви робите зміни. Уникайте нечітких тверджень на зразок « Покращена продуктивність моделі ». Замість цього описуйте вплив: « Впроваджено тонку настройку моделі аналізу настроїв за допомогою набору даних X, щоб поліпшити точність на 2, 5% за мірою F1- балів ». Такий рівень докладності показує чітке розуміння вашого результату і його цінності.
redis-cli --stats | grep 'keyspace_hits'За допомогою цієї команди, яку виконується у екземплярі Redis (зазвичай використовується у конвеєрах RAG), ви зможете спостерігати за кількістю успішних пошуків ключів — критичним показником для оцінки ефективності ваших запитів до векторних баз даних. Зрозуміти і використовувати такі інструменти, як це демонструє технічну майстерність, а не просто знати словник.