Випуск Claude Mythos AI від Anthropic викликає занепокоєння регуляторних органів ЄС після попередження NCSC
Anthropic випустила Claude Mythos, модель штучного інтелекту для кібербезпеки, викликавши занепокоєння регуляторних органів ЄС через обмежену взаємодію з агентствами. Ірландський NCSC наголосив на впливі моделі, в той час як Закон ЄС про ШІ стикається з проблемами на тлі протидії США жорсткому регулюванню. Про-AI групи мають 300 мільйонів доларів на проведення кампаній
Регулювання ШІ є спірним питанням між США та ЄС, з серйозними наслідками. Минулого тижня Anthropic, американська фірма, що займається ШІ, випустила Claude Mythos, яку рекламують як найпередовішу модель для виявлення ризиків кібербезпеки.
Проблема полягає у відсутності взаємодії з регуляторними органами в процесі розробки Claude Mythos. Національний центр кібербезпеки Ірландії (NCSC) повідомив Комітету з комунікацій Oireachtas минулого вівторка, що опубліковані Anthropic технічні матеріали являють собою значну зміну в ідентифікації вразливостей. Національні регулятори ЄС отримали попередній перегляд, але ширшої взаємодії не було. Anthropic стверджує, що це пов'язано з тим, що Claude Mythos обмежена приблизно 40 компаніями, минаючи звичайні регуляторні процеси.
Це викликає занепокоєння в ЄС. Європейська комісія опублікувала Закон ЄС про ШІ в 2024 році, але його ефективність була підірвана. Віце-президент США Дж. Д. Венс розкритикував регуляторний підхід Європейської комісії в Будапешті. Білий дім підтримує саморегулювання для американських технологічних фірм, виступаючи проти придушення зростання ШІ.
Про-AI групи, що фінансуються технологічними компаніями, мають 300 мільйонів доларів на проведення кампаній проти кандидатів, які виступають за більш жорстке регулювання. Критики стверджують, що саморегулювання історично зазнавало невдачі, посилаючись на фінансову кризу 2008 року, і що ризики ШІ переважують ризики нерегульованого фінансового сектора, що вимагає глобально скоординованої системи.