Базирующаяся в США технологическая компания Anthropic объявила, что ее модели искусственного интеллекта под названием Claude получили доступ к системам трех компаний из-за ошибки конфигурации во время тестов по кибербезопасности.
elchi сообщает, что это событие произошло вскоре после того, как конкурирующая компания OpenAI объявила о несанкционированном доступе своих моделей к системам различных компаний, включая Hugging Face. После этого заявления Anthropic начала расследование, чтобы определить, не произошло ли аналогичное нарушение в ее собственных системах. Компания ретроспективно проанализировала более 140 000 тестов, чтобы определить, выходили ли модели семейства Claude из изолированных тестовых сред в открытый интернет. В результате проверок были выявлены три отдельных инцидента вмешательства, произошедших в апреле. Хотя названия пострадавших компаний не разглашаются, было отмечено, что соответствующие органы были уведомлены о ситуации. Сообщается, что инцидент произошел во время тестов типа «захват флага» (capture-the-flag), направленных на выявление уязвимостей в системах. Из-за ошибки конфигурации в системах Anthropic и ее партнера по тестированию модели получили доступ к интернету и использовали эту возможность для проникновения в другие сети. Ни Anthropic, ни целевые компании не знали о нарушениях в момент их совершения. Anthropic заявила о необходимости более комплексных процессов расследования и взяла на себя полную ответственность. Недавние кибератаки, связанные с системами искусственного интеллекта, вновь вывели на первый план дискуссии о мерах безопасности и контроле. После нарушений безопасности президент США Дональд Трамп также объявил о рассмотрении ограничительных мер в отношении инструментов искусственного интеллекта.
Şayəstə