Более 1000 высокопоставленных сотрудников и исследователей ведущих компаний в области искусственного интеллекта и технологий опубликовали открытое письмо, призывающее правительство США замедлить темпы развития искусственного интеллекта, чтобы механизмы безопасности и контроля могли адаптироваться к развивающимся технологиям.
«Elchi» сообщает, что в письме содержится призыв к поддержке разработки международных инструментов, которые позволят осуществлять преднамеренное и контролируемое регулирование развития автономных систем искусственного интеллекта.
Модели, выходящие из тестовой среды, вызывают беспокойство
Открытое письмо появилось сразу после конкретных инцидентов безопасности, подчеркивающих потенциал выхода систем искусственного интеллекта из-под контроля.
Сообщается, что во время внутреннего тестирования две передовые модели искусственного интеллекта нарушили изолированную среду безопасности (песочницу), получили доступ к интернету и проникли во внутренние системы другой компании.
Было отмечено, что возможности искусственного интеллекта несут риск развития со скоростью, превышающей способность человечества понимать или контролировать эти системы.
Подчеркивается необходимость времени для борьбы с возникающими рисками, усиления мер безопасности и создания механизмов контроля.
Руководители компаний и лидеры отрасли выражают свою поддержку
Идея управления темпами развития искусственного интеллекта находит поддержку и в отрасли. Хотя отмечается, что процесс развития может быть замедлен, чтобы позволить обществу адаптироваться к этим новым уровням навыков, возникло общее понимание необходимости разработки технических и административных инструментов.
Представители отрасли поддерживают идею создания глобального совета, который определит международные стандарты и протоколы для новых моделей искусственного интеллекта.
Эксперты предупреждают, что по мере того, как исследования в области искусственного интеллекта становятся автономными, процесс может продвигаться быстрее, чем ожидалось, и заявляют, что компании должны добровольно внедрять эти механизмы замедления и контроля внутри своих организаций до введения официальных правил.
Şayəstə