ЖИ-ді түсінуге көмектесетін 10 сөз

Күрделі туралы қарапайым тілде · REAL DIGITAL сөздігі · 1-бөлім

Неге ЖИ (жасанды интеллект) сенімді түрде қателеседі? Ол әңгімеден нені «есте сақтайды»? Сіз түзеткен кезде үйрене ме? Терминдерді формуласыз, жаргонсыз түсіндіреміз.

1. LLM — үлкен тілдік модель

Көптеген ЖИ-көмекшілердің негізі осы. Оқыту кезінде модель орасан көп мәтінді өңдейді, тілдің заңдылықтарын табады.

Сіз сұрақ қойғанда, ол жауапты қадам-қадаммен құрастырады, әр кезде жалғасын таңдайды. Осылай модель хат жазады, аударады, түсіндіреді. Бірақ қателесуі де мүмкін.

2. Промпт — ЖИ-ге берілетін тапсырмаңыз

Промпт сұрақтан, нұсқаудан, бастапқы деректерден және күтілетін жауап үлгісінен тұрады.

«Шартты қара» — промпт. «Шарттан айыппұлдарды тауып, оларды қашан төлеу керектігін түсіндір» — да промпт, бірақ тапсырма әлдеқайда нақты.

3. Галлюцинация — ЖИ ойдан шығарғанда

Модель жоқ зерттеуге сілтеме жасауы, дәйексөз ойлап табуы немесе шарт мазмұнына жоқ шартты қосуы мүмкін.

Мұндай жауап өте сенімді көрінуі мүмкін. Сондықтан маңызды деректерді, сандарды және сілтемелерді тексеру қажет.

4. ЖИ-агент — әрекет ете алатын көмекші

Сіз тапсырма бересіз, жүйе қадамдарды таңдап, қолжетімді құралдарды пайдаланады.

Мысалы: жеткізушілердің үш ұсынысын табу, бағаларды салыстыру, кестеге жинау. Агенттің өз бетінше не істей алатыны оның баптаулары мен рұқсаттарына байланысты.

5. Токен — мәтіннің бөлшегі

Модель мәтінді шағын бөліктермен — токендермен өңдейді. Бұл сөз, сөздің бөлігі немесе белгі болуы мүмкін. Бір сөз бірнеше токенді алуы мүмкін.

Сұраныс пен жауап көлемі токенмен есептеледі. Модель қолданбаға қосылғанда, төлем көбіне өңделген токен санына байланысты болады. Олардың саны тілге де, нақты модельдің мәтінді қалай бөлетініне де тәуелді.

6. Контекстік терезе — ЖИ бір уақытта ескере алатын ақпарат көлемі

Мұнда жауап дайындау кезінде модельге қолжетімді нұсқаулар, хабарламалар және құжаттар кіреді.

Көлем шектеулі. Сондықтан ұзақ хат алмасу жағдайында қолданба ескі хабарламаларды қысқартуы, ал үлкен құжаттан тек таңдалған үзінділерді ғана беруі мүмкін. Барлығы сыйса да, модель кейде бөлшектерді жіберіп алады.

7. Инференс — оқытылған модель жұмыс істеген кезде

Мұнда екі процесті ажырата білген жөн.

Оқыту — training: модель мысалдар негізінде өзінің ішкі параметрлерін баптайды.

Инференс — inference: дайын модель сол баптауларды пайдаланып, сіздің сұранысыңызды орындайды.

Сіз хат құрастыруды сұрайсыз, модель жазады — бұл инференс.

8. Дообучение — модельдің қосымша дайындығы

Дайын модель арнайы таңдалған мысалдар негізінде қосымша оқытылады. Бұл fine-tuning деп аталады. Мысалы, осылай оны клиент өтініштерін жақсырақ талдауға немесе жауаптың керекті форматын сақтауға үйретуге болады.

Мұнда модельдің ішкі баптаулары өзгереді. Ал сіз чатта «қысқартып жаз» деп жазғанда, модель әдетте тек ағымдағы әңгімеде осы тілекті ескереді.

9. RAG — керектіні тауып, соған сүйеніп жауап беру

Жауап бермес бұрын жүйе құжаттардан сәйкес үзінділерді іздеп табады, оларды модельге береді. RAG — Retrieval-Augmented Generation, яғни дереккөздер бойынша іздеумен толықтырылған генерация дегенді білдіреді.

Айталық, қызметкер: «Іссапарды қалай рәсімдеу керек?» деп сұрайды. Жүйе регламенттің керекті бөлімін табады, ЖИ осы мәтін негізінде жауап дайындайды.

Осылай модельді қайта оқытпай-ақ компания құжаттарымен жұмыс істеуге болады. Бірақ жүйе қате құжат тапса немесе модель оны дұрыс түсінбесе, жауап қате болуы мүмкін.

10. Салмақтар — оқыту нәтижесі бекітілетін сандар

Салмақтар — модельдің ішкі сандық баптаулары. Олар бірігіп, модельдің сұранысты қалай өңдеп, жауапты қалай құрастыратынын анықтайды.

Оқыту кезінде алгоритм осы сандарды түзетеді. Мысалы, «Қазақстанның астанасы — …» деген фразаға модельдің болжамын «Астана» жалғасымен салыстырады да, қатені азайту үшін салмақтарды өзгертеді. Бұл көптеген мысалда қайталанады.

«Қазақстанның астанасы» деген жеке салмақ жоқ: білім көптеген баптау арасында бөлінген. 7B шамамен 7 миллиард параметрді білдіреді. Параметр саны көп болғанмен, жауап жақсы бола бермейді: деректер мен оқыту сапасы да маңызды.

────────

Келесі әңгімеде пайдалану үшін сақтап қойыңыз.

Келесі бөлімде: «модель ойлайды» дегеннің мағынасы, ЖИ-ді өз компьютерде іске қосу және ашық салмақтар деген не.

RD media дайындады

#ЖИсөздігі #REAL_DIGITAL