Соучредитель Anthropic Джек Кларк предупредил, что мы приближаемся к точке, когда искусственный интеллект сможет развиваться без вмешательства человека, и заявил, что должен быть способ замедлить его развитие.
elchi сообщает, что в интервью BBC Кларк сказал: «Вы хотите иметь возможность убрать ногу с газа и нажать на тормоза. В настоящее время в индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза».
Он подчеркнул, что люди должны взять под контроль системы искусственного интеллекта, которые будут становиться все более мощными и оказывать более широкое влияние на общество посредством государственной политики. Кларк отметил: «Мир должен задуматься об этом и в конечном итоге разработать новые правила, которые позволят нам доверять этим системам».
Популярный чат-бот Anthropic Claude в настоящее время работает на кодовой базе, где 80% кода написано самой системой. Кларк заявил, что эта скорость может достичь 100% в течение двух лет, и это будет иметь «огромные последствия». Не представив конкретного плана того, как создать «педаль тормоза» для исследований и разработок в области ИИ, Кларк сравнил текущую ситуацию с нефтяным бумом и эпохой нефтяных баронов начала прошлого века. Кларк сказал: «Ответом общества стало создание разумной политики и нормативно-правовой базы, которая дала людям уверенность в нефти и тех благах, которые она может принести миру, не беспокоясь о личностях людей, управляющих компаниями. Мы явно движемся в этом направлении». Напротив, Anthropic приветствовала относительно мягкий указ президента Дональда Трампа об искусственном интеллекте на этой неделе. Указ не требует от компаний, занимающихся ИИ, прохождения государственных проверок безопасности и оставляет этот процесс на добровольной основе.
Şayəstə