Заключить международный договор о безопасности искусственного интеллекта призвали в открытом письме мировое сообщество ведущие эксперты в области ИИ. Документ опубликован в преддверии проведенного 1 и 2 ноября 2023 года Международного саммита по безопасности ИИ в Великобритании.
В обращении говорится о необходимости создания на Саммите рабочей группы по разработке и ратификации договора о безопасности ИИ. Снижение с помощью недопущения бесконтрольного масштабирования возможностей ИИ различных рисков, которые системы ИИ представляют для всего человечества, и обеспечение доступа к благам ИИ для всех людей – основные цели договора.
Специалисты отмечают, что Международный договор, по мнению специалистов, должен иметь ряд основных положений о создании организации по безопасности ИИ, которая объединит ресурсы, знания и опыт в деле безопасности ИИ, комиссии по соблюдению договора, а также о всемирных ограничениях на объем вычислений для обучения какой-либо модели ИИ.
Подписи под обращением поставили научные эксперты, лидеры бизнеса и государственного управления – некоторые из них входят в число избранных экспертов, приглашенных на Международный саммит по безопасности ИИ или являются членами Консультативного органа высокого уровня ООН по ИИ. В их числе член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, известный когнитивист Гари Маркус и другие.
«Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться. Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади», – считает китайский учёный Йи Цзэн.
- 09:22 CATL представила Shenxing PLUS с дальностью 1000 км и сверхбыстрой зарядкой 4C
- 08:14 Huawei представила IDS на 26-м Всемирном энергетическом конгрессе
- 18:10 QSAN представит новейшие решения на выставке COMPUTEX 2024
- 18:06 Hillstone Networks включена в обзорный отчет о решениях в области микросегментации