Великобритания и США создают национальные институты безопасности ИИ. Это решение стало итогом работы первого дня британского саммита по искусственному интеллекту.

Обе организации призваны изучить и снизить риски, связанные с новыми мощными системами ИИ. Но у них не будет прямых полномочий по установлению правил. Институты планируют обмениваться информацией и запускать совместные исследовательские проекты по новым инструментам безопасности в партнерстве с учеными, промышленностью и некоммерческими организациями.

Британский институт будет создан на базе правительственной рабочей группы Frontier AI — группы экспертов по искусственному интеллекту, возглавляемой технологическим инвестором Яном Хогартом. Американский институт безопасности искусственного интеллекта войдет в состав Национального института стандартов и технологий (NIST) Министерства торговли США.

Владелец компании X Илон Маск заявил, что поддерживает идею создания «независимого арбитра», который «может наблюдать за тем, что делают ведущие компании, занимающиеся искусственным интеллектом, и, по крайней мере, бить тревогу, если у них есть опасения», но предостерег правительства от «подавления положительной стороны ИИ».

Правда, некоторые представители технологического сообщества без оптимизма отнеслись к сосредоточенности саммита на «катастрофических» рисках, связанных с высокоразвитыми системами, что и было подчеркнуто в «Декларации Блетчли», совместном заявлении, подписанном рядом участников. Так, по мнению Натана Бенайча, основателя инвестиционной компании в сфере искусственного интеллекта Air Street Capital, такая «узкая ориентация на экстремальный риск» не «отражает баланс мнений в сообществе ИИ» и может сконцентрировать власть в руках небольшого числа крупных компаний.

Тем не менее, представители других стран поддержали идею создания институтов. Как заявила вице-президент Европейской комиссии Вера Юрова, в соответствии с законом ЕС об искусственном интеллекте планируется создать «постоянную исследовательскую структуру», которая «может сотрудничать» с аналогичными организациями Великобритании и США. А младший министр Франции, отвечающий за цифровые вопросы, Жан Ноэль Барро сообщил, что во Франции и Канаде уже открылись экспертные центры под эгидой возглавляемого Францией Глобального партнерства по искусственному интеллекту (GPAI).