Выпуск Claude Mythos AI от Anthropic вызывает опасения регулирующих органов ЕС после предупреждения NCSC

Регулирование ИИ является спорным вопросом между США и ЕС, с серьезными последствиями. На прошлой неделе Anthropic, американская фирма, занимающаяся ИИ, выпустила Claude Mythos, рекламируемую как самую передовую модель для обнаружения рисков кибербезопасности.

Проблема заключается в отсутствии взаимодействия с регулирующими органами в процессе разработки Claude Mythos. Национальный центр кибербезопасности Ирландии (NCSC) сообщил Комитету по коммуникациям Oireachtas в прошлый вторник, что опубликованные Anthropic технические материалы представляют собой значительное изменение в идентификации уязвимостей. Национальные регуляторы ЕС получили предварительный просмотр, но более широкого взаимодействия не было. Anthropic утверждает, что это связано с тем, что Claude Mythos ограничена примерно 40 компаниями, минуя обычные регуляторные процессы.

Это вызывает беспокойство в ЕС. Европейская комиссия опубликовала Закон ЕС об ИИ в 2024 году, но его эффективность была подорвана. Вице-президент США Дж. Д. Вэнс раскритиковал регуляторный подход Европейской комиссии в Будапеште. Белый дом поддерживает саморегулирование для американских технологических фирм, выступая против подавления роста ИИ.

Про-AI группы, финансируемые технологическими компаниями, имеют 300 миллионов долларов на проведение кампаний против кандидатов, выступающих за более жесткое регулирование. Критики утверждают, что саморегулирование исторически терпело неудачу, ссылаясь на финансовый кризис 2008 года, и что риски ИИ перевешивают риски нерегулируемого финансового сектора, что требует глобально скоординированной системы.