Технологический прорыв в кибербезопасности
Генеральный директор Anthropic Дарио Амодеи провел встречу в Белом доме с участием главы аппарата администрации Сьюзи Уайлс и министра финансов Скотта Бессента. Переговоры прошли в конструктивной обстановке, что стало неожиданным поворотом в отношениях компании с властями.
Причиной такого интереса стала модель Mythos. Она не создавалась специально для задач безопасности, но благодаря развитию логического мышления и навыков программирования научилась самостоятельно находить и использовать уязвимости в программном обеспечении.
Невероятные результаты тестирования
В ходе внутренних испытаний Mythos обнаружила тысячи критических уязвимостей в популярных операционных системах и браузерах. Среди них были ошибки, которые не замечали автоматизированные системы тестирования на протяжении многих лет, включая 27-летнюю ошибку в OpenBSD и 16-летнюю брешь в FFmpeg.
В данный момент Anthropic не выпускает модель в открытый доступ. Вместо этого она доступна ограниченному кругу организаций в рамках проекта Glasswing, куда входят такие гиганты, как Apple, Google, Microsoft и Nvidia. Эти компании используют инструмент для «наступательного» поиска уязвимостей, чтобы устранить их до того, как ими воспользуются злоумышленники.
Политический раскол в правительстве
Ситуация с Anthropic обнажила разногласия между ведомствами США. Пентагoн ранее объявил компанию риском для цепочки поставок и фактически запретил сотрудничество с ней. Однако гражданские ведомства, такие как Министерство энергетики и Министерство финансов, стремятся получить доступ к технологиям Mythos для защиты критической инфраструктуры.
Для министерств вопрос стоит остро: использование таких инструментов необходимо для укрепления обороны, но существует и риск, что подобные технологии могут быть использованы хакерами для взлома финансовой системы. В связи с этим администрация пытается разделить споры с военными и вопросы использования ИИ в гражданском секторе.
Новый этап сотрудничества
На данный момент юридические споры с Пентагоном продолжаются, и Anthropic пока не может заключать контракты с Министерством обороны. Тем не менее, Белый дом намерен продолжать диалог, а Управление по управлению и бюджетом уже готовит механизмы для предоставления агентствам доступа к Mythos для оценки их защищенности.
Что это значит
Правительство США стремится получить доступ к передовым технологиям ИИ, чтобы не уступить технологическое преимущество конкурентам, даже если это требует пересмотра текущих ограничений в отношении компании Anthropic.