AI Ethics Reviews in English: Vocabulary for Responsible AI Teams (англійською)

Відповідальний розвиток ШІ вимагає не тільки технічної ретельності, але і спільного словника для обговорення етичних вимірів систем ШІ. Оскільки огляди етики ШІ, аудити моделей і оцінки справедливості стають стандартною практикою в технологічних організаціях, інженери і вчені з даних повинні мати змогу вільно брати участь в цих розмовах англійською мовою. Терміни в цій статті тепер є частиною повсякденної мови відповідальних команд ШІ.

Ключовий словник

** Алгоритмическое уклонение ** Алгоритмічне упередження — це систематична помилка у виходах моделі, що дає несправедливі результати для певних груп людей, часто відображаючи упередження, присутні в тренувальних даних. “Аудит виявив алгоритмічну упередженість в моделі схвалення кредиту - заявникам з певних поштових індексів було відмовлено в значно більших кількостях без законного фінансового обґрунтування.”

** Метрика справедливості ** Метрика справедливості є вимірюваним критерієм, який використовується для оцінки того, чи є результати моделі справедливими для різних демографічних груп. Поширені приклади включають демографічну парність і вирівняні шанси. “Перед розгортанням, нам потрібно домовитися про те, для якої метрики справедливості ми оптимізуємо — демографічний паритет і вирівняні шанси іноді можуть бути в конфлікті.”

Пояснення Пояснюваність — це ступінь, до якого роздуми за рішенням моделі можуть бути зрозумілі і повідомлені людині — чи це розробник, регулятор або кінцевий користувач. “Регулюючий орган вимагає пояснення для будь-якого автоматизованого рішення, що впливає на застосування фінансових послуг користувача.”

** Людина в петлі (HITL) ** Процес «людина в петлі» — це той, де людина-рецензент бере участь у критичній точці рішення, або для перевірки виводу моделі, або для того, щоб зробити остаточний виклик перед тим, як буде вчинено дію. “Для рішень з високими ставками, ми використовуємо підхід “людина в петлі” - модель генерує рекомендацію, але обучений рецензент схвалює або відкидає її до того, як вона буде діяти.”

Модель карточки Карта моделі — це короткий документ, який супроводжує модель машинного навчання і описує її призначене використання, характеристики продуктивності, обмеження та етичні роздуми.

• “Кожна модель, яку ми розгортаємо зовнішньо, має мати картку моделі, яка чітко вказує, для чого модель не слід використовувати.” *

Рід даних Походження даних - це документована історія того, звідки походять дані, як вони були перетворені і як вони використовувалися в тренуванні. Це необхідно для відстеження джерела упередження або порушення відповідності. “Етичний огляд не міг продовжуватися, поки ми не отримали повного послідовності даних для тренувального набору даних — нам потрібно було знати початкове джерело і будь- які застосовані перетворення.”

Следок аудиту Аудиторський шлях є хронологічним журналом всіх рішень, змін і дій, пов’язаних з моделлю - від збору даних через навчання, розгортання і моніторинг. Потрібно для відповідності нормативним вимогам і внутрішньої підзвітності. “Наша система управління штучним інтелектом вимагає повного аудиту кожної моделі в виробництві - хто її схвалив, коли її перенавчили і як вона була відстежена.”

** Змінна проксі ** Змінною проксі є атрибут у наборі даних, який сильно корелює з захищеною характеристикою (наприклад, расою або статтю), навіть якщо ця характеристика не включена безпосередньо. Змінні проксі можуть вводити упередження ненавмисно. “Поштовий індекс є класичною змінною для етнічної приналежності в наборах даних Великої Британії — ми вилучили його з тренувальних функцій під час перегляду етики.”

Корисні фрази

• “Етичний огляд цієї моделі виявив дві області, що викликають занепокоєння: потенційна демографічна упередженість у тренувальних даних і обмежене пояснення для кінцевих користувачів.”
• “Ми впровадили процес “людина в петлі” для всіх рішень, що перевищують певний рівень ризику.”
• “Модель карточки должна быть обновлена прежде чем мы сможем представить ее внешнему аудиторскому комитету.”
• • “Чи можемо ми відстежити похідні даних назад до початкового джерела даних? Нам потрібно зрозуміти, чи метод збору впровадив упередження відбору.”*
• • “Ми не стверджуємо, що модель є безуспішною - ми стверджуємо, що ми виміряли її, задокументували її і зменшили її до прийнятного рівня.” *

Поширені помилки

Використання “неупередженого” як абсолютного твердження Сказати, що «наші моделі неупереджені» не є довірливим і може піддати команду критиці. Всі моделі відображають дані, на яких вони були треновані. Точне твердження полягає в тому, що упередження було виміряно, оцінено і зменшено: * “Ми оцінили модель справедливості по охоронюваним характеристикам, перерахованим в Законі про рівність, і не знайшли статистично значущих відмінностей ”. *

Плутанина пояснення і інтерпретації Ці терміни пов’язані, але відрізняються. Інтерпретація стосується розуміння внутрішньої механіки моделі. Пояснюваність відноситься до повідомлення обґрунтування за конкретним рішенням до конкретної аудиторії. Обидва важні, але в різних контекстах.

Третування етичної огляду як одноразового ворота Деякі команди розглядають перегляд етики як позначку перед запуском. В англійській обговоренні, ясно, що етика є постійним процесом: * “Огляд етики при запуску є початковою точкою - ми маємо постійний моніторинг на місці, щоб виявити справедливість дрейфу, як розподіл даних змінюється. ”*

Словник етики ШІ швидко розвивається, і організації все частіше вимагають від інженерів говорити і писати про ці концепції з точністю. Вільно володіючи цією мовою, ви можете зробити значний внесок у відповідальний розвиток штучного інтелекту.

Національний склад: Перелік гравців на сайті ФІФА (англ.)

Багато команд, що будують відповідальний ШІ, зараз розподілені по всьому світу, об’єднуючи розробників з різними рівнями вільної англійської мови. Це представляє унікальний виклик, окрім простого розуміння основних етичних концепцій - це про передачу складних ідей чітко і ефективне отримання зворотнього зв’язку. Поширеним сценарієм є молодший розробник з Бразилії, який вказує на потенційну упередженість у тренувальних даних моделі, але бореться, щоб сформулювати * чому * це проблематично, використовуючи точну англійську термінологію. Або, можливо, старший інженер з Німеччини просить про пояснення щодо «пояснення» - концепція може не мати прямого еквіваленту в технічному словнику їх рідної мови навколо розуміння системи. Важливо пам’ятати, що нерозуміння не стосуються інтелекту; вони майже завжди пов’язані з тонкими відмінностями в тому, як концепції оформлені і виражені, особливо коли справа доходить до нюансових етичних міркувань.

Однією з ключових областей є надання конструктивної критики під час перегляду коду. Уявіть запит на збирання, надісланий розробником, що базується в Іспанії. Рецензент, який розмовляє англійською як другою мовою, залишає коментар: « Цю частину потрібно перевірити ще раз ». Хоча вона технічно точна, але в ній бракує деталей. Кращий підхід був би такий: «Я турбуюся про потенційну упередженість, що виникає з викривленого представлення демографічних даних користувачів в цьому наборі даних. Чи можете ви додати журнал, щоб стежити за розподілом можливостей серед різних демографічних груп, щоб дати змогу провести подальші дослідження? Зокрема, чи можемо ми використовувати scikit-learn OneHotEncoder з ретельним розглядом балансу категорійних особливостей?” Цей приклад демонструє, як додавання конкретної термінології - “похиле представлення”, “демографічні групи”, “запис”, і посилання на певний інструмент, наприклад, scikit-learn - перетворює зворотний зв’язок з неясного на діюче. Аналогічно, під час обговорень Slack, уникнення жаргону і пояснення термінів простішою мовою є найважливішим. Замість того, щоб сказати: «Давайте забезпечимо відповідність моделі карті», спробуйте: «Ми повинні задокументувати ключові характеристики цієї моделі, включаючи її обмеження і потенційні упередження, щоб кожен розумів, як вона використовується»

Крім того, пам’ятайте про культурні відмінності в стилях спілкування. Прямий зворотній зв’язок може сприйматися по-різному в залежності від досвіду розробника. Часто корисно вводити критичні коментарі з позитивним підкріпленням - визнання зусиль розробника перед розглядом областей для поліпшення. Активне слухання також важливо; запитання прояснюючих питань, таких як «Чи можете ви пояснити свої міркування за цим підходом?», Демонструє повагу і допомагає виявити будь-які нерозуміння. Врешті-решт, створення справді інклюзивної і ефективної етичної команди ШІ вимагає терпіння, емпатії і прихильності до чіткого і доступного спілкування, незалежно від мовної майстерності.

import pandas as pd
from sklearn.preprocessing import OneHotEncoder

data = {'feature1': [0, 1, 0, 1, 0],
        'feature2': ['A', 'B', 'A', 'C', 'B'],
        'target': [0, 1, 1, 0, 1]}

df = pd.DataFrame(data)

encoder = OneHotEncoder(handle_unknown='ignore', sparse_output=False)
encoded_data = encoder.fit_transform(df[['feature1']])
encoded_df = pd.DataFrame(encoded_data, columns=encoder.get_feature_names_out(['feature1']))

print(encoded_df)