RedactorКомпания Anthropic PBC анонсировала свою новую модель искусственного интеллекта Mythos, которую признала слишком опасной для широкого публичного использования. После презентации министр финансов США Скотт Бессинт провёл встречу с руководителями крупных финансовых организаций, чтобы обсудить меры безопасности, что привлекло к Mythos дополнительное внимание и поставило вопрос о том, кто получит эксклюзивный доступ к этой технологии.
В настоящее время Министерство финансов США добивается доступа к Mythos, тогда как Британский институт безопасности ИИ уже использует модель для оценки рисков. Исследования показали, что Mythos способен проводить сложные кибератаки эффективнее, чем популярные аналоги вроде ChatGPT от OpenAI или Gemini от Google. Однако основная угроза исходит от использования модели против слабо защищённых систем — в то время как крупные банки обладают надёжной защитой, малые и средние предприятия остаются уязвимыми.
Киберспециалисты давно указывают на недостаточный уровень безопасности в компаниях, что приводит к множеству уязвимостей в программном обеспечении. Технологические гиганты применяют практику «ответственного раскрытия информации», своевременно сообщая о найденных дырах и предлагая патчи. Например, Microsoft ежемесячно выпускает обновления в рамках «Вторника патчей», которые банки тщательно тестируют перед внедрением — процесс, занимающий недели или месяцы.
Появление генеративного ИИ усложнило ситуацию: теперь злоумышленники могут быстро анализировать уязвимости и искать новые возможности для атак, используя возможности ИИ. Модель Mythos даже способна создавать многоступенчатые атаки, объединяя несколько уязвимостей, что раньше было доступно лишь опытным хакерам.
Использование агентных функций в ИИ, таких как в модели Claude Cowork от Anthropic, позволяет автоматически выполнять задачи, включая поиск и эксплуатацию уязвимостей, что ускоряет хакерские операции. В результате время между обнаружением уязвимости и её использованием злоумышленниками резко сократилось — с 771 дня в 2018 году до нескольких часов сегодня.
Хотя генеративный ИИ до сих пор использовался преимущественно для улучшения традиционных методов атак, новые модели создают серьёзные вызовы для безопасности, особенно малых компаний, которые не располагают ресурсами для оперативного обновления и защиты своих систем. Это ставит под вопрос эффективность существующих подходов к устранению уязвимостей и требует новых решений на уровне технологий и регулирования.
