ЖИ жаңа осалдықтар тудырады. NVIDIA оларды қорғаудан үлкен нарық көріп отыр

Жасанды интеллект код жазуды енді меңгерді. Дженсен Хуанг келесі үлкен нарық осы қабілеттің жалғасынан туындайды деп есептейді: ЖИ осалдықтарды іздейді, оларға шабуыл жасайды және жүйелерді сол шабуылдардан қорғайды.

10 қыркүйекте Goldman Sachs Communacopia + Technology конференциясында NVIDIA басшысы киберқауіпсіздікті «ЖИ қолданудың келесі ірі сценарийі» деп атады.

Хуангтың логикасы қарапайым. Модель код жаза алса, оны жөндей де алуы керек. Қателерді таба алса, келесі қадам — осалдықтарды іздеу. Содан кейін екі топ ЖИ-агент пайда болады: Red team жүйені бұзу тәсілдерін іздейді, Blue team сол әлсіз тұстарды тауып, жабуға тырысады.

Хуанг бір ғана агент туралы айтпайды. Оның сценарийінде инфрақұрылымға 24/7 шабуыл жасайтын және оны қорғайтын модельдер үздіксіз жұмыс істейді.

Бұл енді тек тұжырымдама емес. NVIDIA CrowdStrike, Cisco және Palantir-мен ынтымақтасады. CrowdStrike Nemotron 3 Super модельдерін Falcon Exposure Management жүйесінде қолданады — мамандандырылған ЖИ-агенттер осалдықтарды табуға, басымдық беруге және жоюды жеделдетуге көмектеседі. Бұл — серіктестік. CrowdStrike NVIDIA-ға толықтай тәуелді емес: компанияның өз ЖИ-платформасы бар.

Ал ең көп талқыланған бөлігі технологиялық емес еді. Хуанг былай деді: «What better way to create demand than to create a problem?» — «Сұранысты проблема тудырудан жақсырақ не қалыптастыра алады?»

Содан кейін: нарық өнімнің айналасында дүрбелең тудырып, кезекке тұруын кім қаламас еді. Бұл сөйлем қатаң естіледі, бірақ үзуге болмайды. Хуанг «жауапты тәсілдер мен тартымдылығы төмен тәсілдер бар» деп қосты. Ол киберқатерлерді ойдан шығардық деп айтқан жоқ. ЖИ-дің жаңа мүмкіндіктері бір мезгілде қатер де, қорғауға деген сұраныс та тудырады.

Бүгінде ЖИ-көмекші тек қажет болғанда қосылады. Киберқауіпсіздік басқаша — қорғаныш ЖИ үздіксіз жұмыс істеуі керек: сканерлеу, өзгерістерді бақылау, шабуылдарды модельдеу, түзетулерді тексеру. Хуангтың сөзінше, cybersecurity «is going to run continuously».

Егер ЖИ адам мезгіл-мезгіл пайдаланатын құралдан үздіксіз жұмыс істейтін агенттерге айналса, inference-ге деген тұрақты сұраныс артады.

Бір ЖИ код жазады. Біреулер тексереді. Үшіншілері бұзуға тырысады. Төртіншілері шабуылдарды іздейді. Бесіншілері проблемаларды түзетеді. Осылайша киберқауіпсіздік есептеу инфрақұрылымының тағы бір ірі тұрақты тұтынушысына айналуы мүмкін.

Хуанг сөйлеуден екі күн бұрын Anthropic зерттеушісі Джейкоб Коксон компаниядан кететінін хабарлады: озық модельдерді жасайтын адамдар ЖИ адамзаттың құрып кетуіне әкелуі мүмкін сценарийді байыппен қарастырады. Оны Anthropic alignment science жетекшісі Эван Хубингер қолдады: ол келесі онжылдықта ЖИ «барлық адамдарды өлтіру» ықтималдығын 10%-дан жоғары деп бағалады.

Бірақ екі түрлі пікірталасты шатастырмау маңызды. Коксон мен Хубингер экзистенциалды тәуекел туралы айтады. Хуанг Goldman Sachs-та киберқауіпсіздік және қолданыстағы инфрақұрылымды қорғайтын өнімдер нарығы туралы айтты.

Бұл тікелей қайшылық емес. Бірақ екі оқиға таңғаларлық жерде түйіседі: модельдер қуаттырақ болған сайын көбірек тапсырма алады, көп тапсырма — көп осалдық, көп осалдық — қорғанысқа көбірек ЖИ керек.

Осылайша cybersecurity келесі ірі ЖИ нарығына айналуы мүмкін. Мәселе қорқыныш пен апат арасындағы автоматты байланыста емес. Алғаш рет шабуылдаушы да, қорғанушы да бір ЖИ көмегімен ауқымды деңгейде әрекет ете алады.

Жүйелер қаншалықты ақылды болатыны — сұрақтың бір бөлігі ғана. Маңыздырағы — бұл жарыс қарқынын кім бақылайды?