Специалисты заявили об опасности бесконтрольного масштабирования возможностей ИИ
Бесконтрольное масштабирование возможностей искусственного интеллекта несет в себе катастрофические риски для человечества. Предотвращение этого процесса, сокращение рисков и обеспечение доступа к благам ИИ для всех людей – главные цели международного договора по безопасности ИИ, разработать который призывают ведущие мировые эксперты.
В Лондоне 1 и 2 ноября 2023 года состоялся первый Международный саммит по безопасности ИИ. Накануне события специалисты со всего мира в области ИИ опубликовали открытое письмо, в котором говорится о необходимости разработать и ратифицировать договор о безопасности ИИ, который получит широкое одобрение во всем международном сообществе. Эксперты считают, что рабочая группа должна быть создана при широкой международной поддержке на Саммите по безопасности ИИ.
Свои подписи под документом поставили такие специалисты, как ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, известный когнитивист Гари Маркус, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио и многие другие.
Во главе инициативы встал британский прогнозист Толга Билге, который заявил: «Обеспечение того, чтобы ИИ был безопасным и приносил пользу всем, является не только технической, но и геополитической проблемой. Нам нужно, чтобы великие державы мира, включая США и Китай, отложили в сторону свои разногласия ради человечества и конструктивно работали над созданием надежного набора международных правил, направленных на сосредоточение внимания на этих проблемах».
В заявлениях к открытому письму эксперты отмечали необходимость глобального консенсуса и глобальных действий для выяснения потенциальных путей развития ИИ и угроз с его стороны, создания основанных на здравом смысле новых, сильных международных институтов и правил, которые будут регулировать чрезмерное развитие ИИ, угрожающее безопасности и благополучию человека. По мнению специалистов, нужна политическая воля ведущих технологических держав, таких как США, Европейский Союз и других, чтобы воспринять переговоры по международному договору о безопасности ИИ как неотложный дипломатический вызов.
