Почему Карл III собирает лидеров ИИ-индустрии за одним столом

Осенью глава Anthropic Дарио Амодеи опубликовал эссе объёмом около 3800 слов с призывом сдерживать темп развития наиболее мощных моделей. Об этом сообщил Axios.

Карл III тем временем готовится принять в шотландском Дамфрис-хаусе представителей Nvidia, Google DeepMind, OpenAI и Anthropic. По сообщениям Reuters и AFP, встреча посвящена общим принципам развития искусственного интеллекта и его пользе для общества.

Эссе Амодеи и королевская встреча — события разного происхождения. Но оба ставят один вопрос: как договориться об осторожности людям, которых конкуренция заставляет ускоряться?

Компания, которая отложит выпуск модели ради дополнительных проверок, рискует уступить пользователей, выручку и внимание инвесторов. Даже искреннее беспокойство о безопасности не устраняет страх отстать.

Поэтому согласиться с необходимостью контроля проще, чем определить, кто притормозит первым и как убедиться, что остальные сделали то же самое.

Здесь и появляется король

У британского монарха нет полномочий устанавливать для ИИ-компаний правила разработки. Зато королевское приглашение может помочь собрать конкурентов за столом, где ни одному из них не приходится признавать лидерство другого.

Встречу организует британский фонд Ditchley Foundation. По данным AFP со ссылкой на Sunday Times, обсуждается возможный документ — хартия с принципами уважения человеческого достоинства и общественной пользы ИИ. Пока это тема для обсуждения, не согласованный текст. Подробнее — в сообщении AFP.

Королевская площадка может придать договорённостям репутационный вес. Но сначала компаниям предстоит договориться о содержании: что именно они готовы изменить в своих действиях?

Само внимание короны к технологиям имеет предысторию. Елизавета II принимала представителей технологического бизнеса ещё в 2014 году. Об этом писал The Guardian.

Внимание короны к ИИ — продолжение давней традиции, а не сигнал тревоги. Конкурентное давление в индустрии — отдельный и куда более острый вопрос. Поэтому видеть в приглашении доказательство чрезвычайной ситуации было бы преувеличением.

Почему в этот раз получится?

Обсуждения безопасности уже приводили к международным договорённостям. В Блетчли-парке в 2023 году участники согласовали декларацию о сотрудничестве, а ведущие разработчики на добровольной основе согласились тестировать модели совместно с правительствами перед выпуском. Associated Press — о результатах саммита.

Нынешние призывы к дополнительным мерам показывают, что разговор не завершён. При этом продолжение разработок само по себе не доказывает провала прежних соглашений: безопасность нужно оценивать по конкретным требованиям и их исполнению.

Слабое место любой новой хартии — расстояние между принципом и решением. «ИИ должен приносить пользу человечеству» легко поддержать. Гораздо сложнее согласовать основания для переноса запуска продукта, в который уже вложены миллиарды.

Что должно остаться после встречи

Стоит искать четыре вещи:

• опубликованный текст хартии;

• список компаний, принявших обязательства;

• механизм независимой проверки;

• сроки выполнения.

Закрытая встреча может подготовить последующие соглашения. Однако без проверяемых обязательств её практический результат будет зависеть от того, какие обещания компании возьмут на себя публично.

Для компаний и госорганов Казахстана здесь тоже есть прикладной вопрос: какие доказательства безопасности они будут требовать от поставщиков ИИ? Публичные обещания разработчиков нужно переводить в условия внедрения — ограничения доступа, ответственность, порядок сообщения об инцидентах и возможность остановить систему.

Королевское приглашение способно собрать конкурентов в одной комнате. Главное — договорятся ли они о том, какой риск станет достаточной причиной отложить следующую модель.

Подготовлено RD media