Карл III неге ЖИ индустриясының көшбасшыларын бір үстелге жинап отыр

Күзде Anthropic компаниясының басшысы Дарио Амодеи ең қуатты модельдердің даму қарқынын тежеу қажеттігі туралы шамамен 3800 сөзден тұратын эссе жариялады. Бұл туралы Axios хабарлады.

Осы уақытта Карл III Шотландиядағы Дамфрис-хаусте Nvidia, Google DeepMind, OpenAI және Anthropic өкілдерін қабылдауға дайындалып отыр. Reuters пен AFP хабарлауынша, кездесу жасанды интеллектіні (ЖИ) дамытудың жалпы принциптеріне және оның қоғамға пайдасына арналған.

Амодеидің эссесі мен корольдік кездесу — түп-төркіні бөлек оқиғалар. Бірақ екеуі де бір сұрақ қояды: бәсеке жеделдетуге мәжбүрлеп отырған адамдар сақтық туралы қалай келісе алады?

Қосымша тексерулер үшін модельдің шығуын кейінге қалдырған компания пайдаланушылардан, кірістен және инвесторлар назарынан айырылу қаупіне барады. Қауіпсіздік туралы шынайы алаңдаушылықтың өзі артта қалу қорқынышын жоймайды.

Сондықтан бақылау қажеттігімен келісу оңай, ал кім бірінші болып тежейтінін және қалғандарының дәл солай істегеніне қалай көз жеткізуге болатынын анықтау қиынырақ.

Осы жерде корольдің рөлі басталады

Британ монархының ЖИ компанияларына арналған әзірлеу ережелерін белгілеуге өкілеттігі жоқ. Дегенмен корольдік шақыру бәсекелестерді бір үстел басына жинауға көмектеседі — мұнда ешқайсысы басқасының көшбасшылығын мойындауға тиіс емес.

Кездесуді британдық Ditchley Foundation қоры ұйымдастырады. AFP-нің Sunday Times-қа сілтеме жасауынша, адам қадір-қасиетін құрметтеу және ЖИ-дің қоғамдық пайдасы принциптерін қамтитын мүмкін құжат — хартия талқылануда. Бұл әзірге келісілген мәтін емес, талқылау тақырыбы ғана. Толығырақ — AFP хабарламасында.

Корольдік алаң келісімдерге беделдік салмақ бере алады. Бірақ алдымен компаниялар мазмұны бойынша келісуі керек: олар өз әрекеттерінде нақты нені өзгертуге дайын?

Тәждің технологияларға назары бұрыннан бар. Елизавета II технологиялық бизнес өкілдерін тіпті 2014 жылы қабылдаған болатын. Бұл туралы The Guardian жазған.

Тәждің ЖИ-ге назары — дабыл сигналы емес, ежелгі дәстүрдің жалғасы. Индустриядағы бәсекелестік қысымы — бөлек әрі әлдеқайда өткір мәселе. Сондықтан шақыруды төтенше жағдайдың дәлелі деп санау асыра айту болар еді.

Бұл жолы неге сәтті болмақ?

Қауіпсіздік туралы талқылаулар халықаралық келісімдерге әкелген болатын. 2023 жылы Блетчли-паркте қатысушылар ынтымақтастық туралы декларацияға келісіп, жетекші әзірлеушілер модельдерді шығарар алдында үкіметтермен бірлесіп тестілеуге өз еркімен келісім берді. Саммит нәтижелері туралы — Associated Press хабарлаған.

Қосымша шаралар туралы қазіргі шақырулар әңгіменің әлі аяқталмағанын көрсетеді. Дегенмен әзірлеулердің жалғасуы бұрынғы келісімдердің сәтсіздігін өз алдына дәлелдемейді: қауіпсіздікті нақты талаптар мен олардың орындалуы бойынша бағалау қажет.

Кез келген жаңа хартияның осал тұсы — принцип пен шешім арасындағы қашықтық. «ЖИ адамзатқа пайда әкелуі керек» дегенді қолдау оңай. Миллиардтаған қаражат салынған өнімнің шығуын кейінге қалдыруға негіз табу әлдеқайда қиын.

Кездесуден кейін не қалуы керек

Төрт нәрсені қадағалаған жөн:

• жарияланған хартия мәтіні

• міндеттеме қабылдаған компаниялар тізімі

• тәуелсіз тексеру тетігі

• орындау мерзімдері

Жабық кездесу келесі келісімдерге негіз дайындай алады. Дегенмен тексерілетін міндеттемелерсіз оның нақты нәтижесі компаниялардың қоғам алдында қандай уәде беретініне байланысты болады.

Қазақстандағы компаниялар мен мемлекеттік органдар үшін де мұнда қолданбалы сұрақ бар: олар ЖИ жеткізушілерінен қандай қауіпсіздік дәлелдерін талап етеді? Әзірлеушілердің қоғам алдындағы уәделерін енгізу шарттарына — қолжетімділікті шектеу, жауапкершілік, оқиға туралы хабарлау тәртібі және жүйені тоқтату мүмкіндігіне — айналдыру қажет.

Корольдік шақыру бәсекелестерді бір бөлмеге жинай алады. Ең бастысы — олар келесі модельді кейінге қалдыруға жеткілікті себеп болатын қауіп деңгейі туралы келісе ме, жоқ па.

Подготовлено RD media