Предложение Касым-Жомарта Токаева рассмотреть Соглашение о суперинтеллекте как возможную модель для глобального применения затрагивает вопрос распределения ответственности за развитие искусственного интеллекта.
Президент обозначил условие такого перехода – тщательное обсуждение заинтересованными странами. Считаю этот подход обоснованным. Когда технологические решения одной компании используются в разных государствах, последствия ошибок выходят за пределы её отношений с отдельным потребителем. Возникает потребность согласовать, кто оценивает риски, какие сведения должны предоставлять разработчики и как действовать при обнаружении угроз.
Практическое значение инициативы Дональда Трампа состоит в согласовании принципов безопасности с компаниями, которые непосредственно создают передовые системы ИИ.
Соглашение предусматривает четыре уровня контроля: (1) внутренние процедуры наблюдения за моделями, (2) отдельную команду для проверки этих процедур, (3) независимую внешнюю оценку и (4) надзор со стороны комитета совета директоров.
Документ также предполагает регулярные встречи участников для выработки стандартов безопасности. Такая конструкция позволяет поставить вопрос об ответственности внутри самой компании: обнаруженная проблема должна пройти путь от технического специалиста до руководства, способного принять решение о её устранении.
Участие разработчиков имеет самостоятельное значение. Они располагают информацией об обучении моделей, результатах испытаний и выявленных ограничениях. Государственным органам трудно оценивать безопасность сложной системы без доступа к этим сведениям. Внешняя проверка может частично сократить этот разрыв в знаниях. Для этого аудиторам потребуются достаточные полномочия и возможность оценивать реальные процедуры компании. Смысл проверки заключается в том, чтобы установить, выполняются ли заявленные требования на практике и позволяют ли они своевременно обнаруживать опасное поведение системы.
Согласование подходов между конкурирующими компаниями также может повлиять на стимулы самой отрасли. Если разработчик предполагает, что дополнительные испытания задержат выпуск продукта, а конкурент выйдет на рынок раньше, возникает давление в пользу ускорения. Общие требования к проверкам способны уменьшить такое давление. Безопасность становится заранее известным условием разработки. Для этого участники должны сопоставимо исполнять обязательства: выборочное соблюдение правил будет сохранять преимущество у тех, кто экономит на проверках.
При этом соглашение носит добровольный характер. Его подписание фиксирует согласие относительно принципов, а результат будет определяться последующим исполнением.
Потребуется понять, как обеспечивается независимость аудиторов, кому доступны их выводы и что происходит при выявлении существенных нарушений. Эти вопросы должны стать частью дальнейшего обсуждения. Доверие к такому механизму будет формироваться по мере появления проверяемых свидетельств того, что компании устраняют обнаруженные проблемы и корректируют свои решения.
Предложение Президента Токаева позволяет поставить следующий вопрос: какие элементы этого подхода могут работать на международном уровне?
Для государств, использующих зарубежные технологии, существенна возможность участвовать в определении требований к безопасности. Они несут расходы при сбоях цифровых услуг и отвечают перед собственными гражданами за последствия внедрения ИИ. Поэтому международное обсуждение должно учитывать опыт и потребности этих стран. Его предметом могли бы стать сопоставимые методы оценки рисков и согласованные процедуры уведомления о серьёзных инцидентах.
Такое обсуждение неизбежно будет связано с технологической конкуренцией. Государства заинтересованы в развитии собственных компаний и защите чувствительной информации. Потребуется определить объём сведений, достаточный для проверки безопасности, с учётом коммерческой тайны и национальных требований.
Если условия участия окажутся приемлемыми для разных разработчиков и государств, у предложенной модели появится больше возможностей для распространения. Именно поэтому оговорка Токаева о тщательном обсуждении имеет содержательное значение: международная применимость должна быть выработана в ходе переговоров.
Для Казахстана участие в этом процессе связано с качеством решений, которые будут внедряться в экономике и государственном управлении. При выборе ИИ-систем заказчику необходимо понимать, какие испытания она прошла, где находятся пределы её надёжности и кто обязан реагировать на сбои. Согласованные требования могли бы облегчить сравнение поставщиков и сделать условия закупок более определёнными. Отечественные разработчики, в свою очередь, получили бы более понятные ориентиры для подготовки продуктов к выходу на зарубежные рынки.
Одновременно Казахстану потребуется развивать собственную способность оценивать применяемые технологии. Международный аудит даёт полезную информацию, однако пригодность системы для конкретной задачи необходимо проверять с учётом местных условий, языка и характера обрабатываемых данных.
По мере внедрения ИИ в решения, затрагивающие права граждан, значение такой экспертизы будет возрастать. Участие в формировании международных подходов и подготовка собственных специалистов здесь непосредственно связаны: квалифицированные эксперты позволяют стране предметно обсуждать правила и затем применять их в национальной практике.
Айдар Курмашев,
руководитель отдела азиатских исследований КИСИ при Президенте РК
