ИИ создаёт новые уязвимости. NVIDIA видит в их защите огромный рынок

Искусственный интеллект уже научился писать код. Дженсен Хуанг считает, что следующий большой рынок появится из продолжения этой способности: ИИ будет искать уязвимости, атаковать их и одновременно защищать системы от таких атак.

10 сентября на конференции Goldman Sachs Communacopia + Technology глава NVIDIA назвал кибербезопасность «следующим крупным сценарием применения ИИ».

Логика Хуанга предельно проста. Если модель умеет писать код, она должна уметь его отлаживать. Если она умеет находить ошибки, следующий шаг — поиск уязвимостей. А дальше появляются две группы ИИ-агентов:

Red team ищет способы взлома системы.

Blue team ищет те же слабые места и пытается их закрыть.

Причём Хуанг говорит уже не об одном агенте. В его сценарии постоянно работают целые рои моделей, которые атакуют и защищают инфраструктуру 24/7.

И это уже не только концепция. NVIDIA сотрудничает с CrowdStrike, Cisco и Palantir. CrowdStrike использует модели NVIDIA Nemotron 3 Super в Falcon Exposure Management — системе, где специализированные ИИ-агенты помогают находить и приоритизировать уязвимости и ускорять их устранение. Это партнёрство. CrowdStrike не зависит от NVIDIA целиком: у компании есть собственная AI-платформа и собственные модели работы с безопасностью.

Но самая обсуждаемая часть выступления Хуанга была не технологической.

Он сказал: «What better way to create demand than to create a problem?» «Что может лучше создать спрос, чем создание проблемы?»

И продолжил: кто не хотел бы, чтобы рынок «впал в истерику» вокруг его продукта и выстроился за ним в очередь.

Фраза звучит жёстко. Но обрывать цитату на этом месте нельзя — дальше есть продолжение. Следом Хуанг добавил, что существуют «ответственные способы это делать и менее привлекательные». Он не утверждал, что киберугрозы выдуманы. Его мысль точнее: новые возможности ИИ создают одновременно и угрозы, и коммерческий спрос на защиту.

И именно здесь история становится интересной экономически.

Сегодня AI-ассистент может включаться, когда программисту нужно написать функцию или проверить код.

Кибербезопасность устроена иначе.

Защитный ИИ должен работать непрерывно: сканировать системы, искать изменения, анализировать новые уязвимости, моделировать атаки, проверять исправления и реагировать на действия других ИИ-агентов.

Хуанг прямо подчеркнул эту разницу: cybersecurity, по его словам, "is going to run continuously".

Для NVIDIA это принципиально важный момент.

Если ИИ превращается из инструмента, который человек периодически вызывает, в армию постоянно работающих агентов, растёт и постоянный спрос на inference — вычисления, необходимые уже обученным моделям для выполнения задач.

Один ИИ пишет код.

Другие модели проверяют этот код.

Третьи пытаются его взломать.

Четвёртые ищут атаки.

Пятые исправляют найденные проблемы.

Так кибербезопасность может превратиться ещё в один крупный постоянный потребитель вычислительной инфраструктуры.

На этом фоне особенно интересно, что всего за два дня до выступления Хуанга исследователь Anthropic Джейкоб Коксон объявил об уходе из компании и заявил, что люди, создающие передовые модели, всерьёз допускают сценарий, при котором ИИ способен привести к гибели человечества уже до конца десятилетия.

Его публично поддержал руководитель направления alignment science Anthropic Эван Хубингер.

Он написал, что лично оценивает вероятность того, что ИИ «убьёт всех людей» в течение следующего десятилетия, выше 10%.

Но здесь важно не смешивать две разные дискуссии.

Коксон и Хубингер говорят прежде всего об экзистенциальном риске — потере контроля над будущими сверхмощными системами.

Хуанг на Goldman Sachs говорил главным образом о кибербезопасности и рынке продуктов, которые будут защищать существующую цифровую инфраструктуру.

Это не прямой спор.

Но две истории удивительным образом сходятся в одном месте.

Чем мощнее становятся модели, тем больше задач мы им передаём.

Чем больше задач они получают, тем больше появляется новых поверхностей атаки.

А чем больше угроз способен создавать ИИ, тем больше ИИ потребуется для защиты от них.

Именно поэтому cybersecurity может стать следующим большим рынком искусственного интеллекта.

Дело не в автоматической связи страха и катастрофы. Речь о другом: впервые атакующий и защитник могут масштабироваться с помощью одного и того же ИИ.

Насколько умными станут эти системы — лишь часть вопроса. Более важная часть — кто будет контролировать скорость этой гонки.