Следующий раз, когда вы подаете заявку на работу, ИИ может просмотреть ваше резюме до того, как его увидит любой человек. Но есть веские причины сомневаться в том, будет ли ИИ судить вас справедливо. Исследователи уже знают, что большие языковые модели (LLM) перенимают человеческие предубеждения из своих тренировочных данных. Новые исследования предполагают, что LLM также могут развивать свои собственные предубеждения из:
данных, используемых для их обучения.
Ниже приведены 5 тезисов, которые подтверждают эту идею:
* Ограниченность тренировочных данных: LLM могут быть обучены на ограниченном наборе данных, который не отражает разнообразие реального мира, что может привести к предубеждениям в принятии решений.
* Отсутствие прозрачности: Алгоритмы ИИ могут быть сложными и непрозрачными, что затрудняет понимание того, как они принимают решения и какие предубеждения они могут иметь.
* Предубеждения в данных: Если тренировочные данные содержат предубеждения, LLM могут перенимать эти предубеждения и использовать их для принятия решений, что может привести к несправедливым результатам.
* Отсутствие человеческого надзора: Если ИИ принимает решения без человеческого надзора, может быть трудно обнаружить и исправить предубеждения, что может привести к несправедливым результатам.
* Риск усиления предубеждений: LLM могут усиливать существующие предубеждения, если они не обучены на разнообразных данных и не проверяются на наличие предубеждений, что может привести к еще большему неравенству в принятии решений.
Источник: MIT Technology Review
