Anthropic и project glasswing: как ии меняет кибербезопасность

Угроза нового уровня

Есть одна вещь, которую понимает любой разработчик: программное обеспечение всегда содержит баги. Большинство из них безобидны, но некоторые — это серьёзные дыры в безопасности. Через них злоумышленники могут получить контроль над системами банков, больниц электростанций.

Раньше найти такую уязвимость было искусством. Нужны были годы опыта, глубокое знание ассемблера и умение мыслить нестандартно. Таких экспертов в мире несколько сотен.

Теперь всё изменилось.

Anthropic показали модель Mythos Preview (пока не публичную), которая умеет находить и эксплуатировать уязвимости лучше почти всех людей на планете. За последние недели она обнаружила тысячи проблем нулевого дня — то есть таких, о которых разработчики даже не знали.

Почему это пугает

Вот вам простая аналогия: представьте, что ядерное оружие стало бы доступно любому желающему через год-два? Примерно так выглядит ситуация с этими возможностями ИИ.

Если такие модели попадут к плохим парням (или просто к тем, кто не будет думать о последствиях) — кибератаки станут массовыми как никогда. Страны уже сейчас проводят атаки на больницы, школы, энергосистемы по всему миру.

Ежегодный ущерб от киберпреступности оценивают примерно в полтриллиона долларов в год.

Без вмешательства всё станет только хуже.

Что делает project glasswing

И вот здесь появляется надежда.

Anthropic объединили крупнейшие технологические компании (Amazon, Apple, Google, Microsoft, NVIDIA, Cisco, CrowdStrike, Palo Alto Networks и другие) вместе с финансовыми гигантами типа JPMorganChase и организацией Linux Foundation в проект под названием Project Glasswing.

Суть простая: вместо того чтобы прятать эти мощные capabilities (возможности), они дают их защитникам.

Mythos Preview будут использовать для поиска уязвимостей в своих продуктах все участники альянса. Причём Anthropic открыли доступ ещё 40+ организациям, которые занимаются критической инфраструктурой — чтобы сканировать и закрывать дыры повсеместно.

КАК РАБОТАЕТ PROJECT GLASSWING
───────────────────────────────

   ┌─────────────┐     ┌──────────────────┐     ┌─────────────────┐
   │   MYTHOS    │────▶│   НАХОДИТ        │────▶│   ЗАКРЫВАЮТ     │
   │   PREVIEW   │     │   УЯЗВИМОСТИ     │     │   ДЫРЫ          │
   └─────────────┘     └──────────────────┘     └─────────────────┘
         ▲                     ▲                        ▲
         │                     │                        │
    ┌────┴────┐          ┌─────┴─────┐            ┌────┴──────┐
    │Anthropic│          │УЧАСТНИКИ  │            │OPEN-SOURCE│
    └─────────┘          │GLASSWING  │            └───────────┘

Ожидание: ИИ найдёт → ИИ предложит → Люди закроют быстрее,
           быстрее чем              чем злоумышленники смогут 
           хакеры                   эти дыры использовать

Честно говоря

Мне эта история напоминает гонку вооружений, но с одной важной поправкой: впервые защитники получили преимущество раньше, чем атакующие успели массово вооружиться.

Вопрос только, сколько это продлится?

Anthropic честно признаются, что работа только началась, что возможности ИИ будут расти очень быстро буквально за месяцы, и что никто не знает, как всё повернётся дальше.

Но сама идея того, что крупнейшие игроки индустрии сели за один стол, чтобы решать проблему вместе, а не конкурировать между собой — это уже неплохо.

Как минимум, теперь есть шанс, что следующий серьёзный баг найдут мы, а не кто-то другой, который использует его против нас.

Ссылки

• Project Glasswing: Securing critical software for the AI era — официальная страница проекта