Согласно расследованию Guardian, правительственные чиновники используют искусственный интеллект, чтобы решать целый ряд вопросов – от выделения льгот до миграционных разрешений, – при этом бессистемные и неконтролируемые технологические методы зачастую приводят к ошибочным выводам.
Как показывает расследование, ИИ помогает государственным служащим выносить вердикты как минимум в восьми департаментах Уайтхолла, а также в нескольких полицейских участках, и некоторые из используемых инструментов могут привести к дискриминационным результатам. Так, например, инструмент распознавания лиц в столичной полиции, при определенных настройках допускает ошибки, чаще распознавая черные лица, чем белые. Как показала внутренняя оценка Министерством внутренних дел, бот, используемый для выявления фиктивных браков, непропорционально часто отбирает людей определенных национальностей, а именно пары из Албании, Греции, Румынии и Болгарии.
Алгоритм Министерства труда и пенсий (DWP) в «интегрированной службе рисков и разведки», по мнению депутата от Лейбористской партии Кейт Осамор, ошибочно привел к лишению пособий десятков людей: в последние годы многим болгарам внезапно приостановили получение вспомоществований, а их заявления ошибочно были отмечены как потенциально мошеннические. Тем не менее, DWP настаивает, что алгоритм не учитывает национальность. Представитель департамента подчеркнул: «Мы преследуем тех, кто пытается эксплуатировать систему и бесстыдно обворовывает тех, кто больше всего в ней нуждается. Мы продолжаем работу по спасению для налогоплательщиков 1,3 миллиарда фунтов стерлингов в следующем году».
При этом ни DWP, ни Министерство внутренних дел не предоставили подробностей о том, как работают автоматизированные процессы, но оба ведомства заявили, что используемые ими методы справедливы, поскольку окончательные решения принимаются людьми. Однако эксперты обеспокоены тем, что предвзятые алгоритмы приведут к предвзятым выводам, поскольку чиновники рассматривают только те дела, о которых им сообщил ИИ, и зачастую имеют для этого ограниченное время.
Искусственный интеллект обычно «обучается» на большом наборе данных, а затем анализирует эти данные способами, которые иногда не до конца понимают даже те, кто разработал эти инструменты. Использование ИИ в государственном секторе и ранее вызывало споры. Так, в Нидерландах налоговые органы, выявлявшие потенциальное мошенничество с пособиями по уходу за детьми при помощи ИИ, были оштрафованы на 3,7 миллиона евро после того, как чиновникам предъявили доказательства неоднократного применения неправильных решений.
Сейчас эксперты обеспокоены повторением этого скандала в Великобритании, предупреждая, что британские чиновники используют плохо понятные алгоритмы для принятия судьбоносных решений, а люди, которых эти решения касаются, даже не знают об этом. Ситуация усугубилась после отмены в начале этого года независимого правительственного консультативного совета, который возлагал на органы государственного сектора ответственность за то, как они используют ИИ. Как отметила Мэрион Освальд, профессор права Университета Нортумбрии и бывший член правительственного консультативного совета по этике данных: «В том, как ИИ используется в государственном секторе, отсутствует последовательность и прозрачность. Многие из этих инструментов влияют на людей в их повседневной жизни, но люди не имеют возможности оспорить их».
