Все темы
Ответственный ML
Модели, которым можно доверять: смещение через признаки-посредники, проверки справедливости по группам и permutation importance для объяснимости.
Сортировка:
2 вопроса
JuniorТеорияЧастоЕсли убрать из кредитной модели столбец с полом, станет ли модель свободной от смещения по полу?
JuniorТеорияЧасто
Если убрать из кредитной модели столбец с полом, станет ли модель свободной от смещения по полу?
Нет. Признаки, коррелирующие с удалённым, например почтовый индекс, имя или должность, служат посредниками и возвращают смещение. Справедливость проверяют по результатам: сравнивают долю одобрений и ошибок по группам на отложенных данных.
Типичные ошибки
- ✗Считать, что удаление чувствительного столбца делает модель справедливой: коррелирующие признаки вроде почтового индекса восстанавливают его, и смещение остаётся.
- ✗Пропускать проверки по группам после удаления столбца: только сравнение результатов между группами показывает, ушло ли смещение.
Уточняющие вопросы
- →Какие метрики по группам вы сравните для модели одобрения кредитов?
- →Зачем защищённый признак всё равно нужен для аудита модели?
JuniorТеорияЧастоЧто измеряет перестановочная важность и чего она не может сказать о признаке?
JuniorТеорияЧасто
Что измеряет перестановочная важность и чего она не может сказать о признаке?
Это падение качества модели на отложенных данных при перемешивании столбца одного признака. Она показывает, на что опирается модель, а не причину и следствие; коррелирующие признаки её делят: если перемешать один, модель опрётся на двойника.
Типичные ошибки
- ✗Читать permutation importance как причинный эффект: она показывает, насколько модель зависит от признака, а это может быть посредник или утечка, а не то, что определяет цель.
- ✗Доверять низкой оценке коррелирующего признака: при его перемешивании модель опирается на двойника, и оба могут выглядеть неважными.
Уточняющие вопросы
- →Почему permutation importance считают на отложенных данных, а не на обучающей выборке?
- →Как учесть два сильно коррелирующих признака при ранжировании важности?
