10 слов, которые помогут понимать ИИ

Просто о сложном · Словарь REAL DIGITAL · Часть 1

Почему ИИ уверенно ошибается? Что он «помнит» из разговора? И учится ли он, когда вы его поправляете? Объясняем термины без формул и жаргона.

1. LLM — большая языковая модель

Основа многих ИИ-помощников. Во время обучения модель обрабатывает огромное количество текстов и находит закономерности языка.

Когда вы задаёте вопрос, она строит ответ шаг за шагом, каждый раз подбирая продолжение. Так модель пишет письма, переводит и объясняет. Но может и ошибиться.

2. Промпт — ваше задание для ИИ

Промпт включает вопрос, инструкцию, исходные данные и пример желаемого ответа.

«Посмотри договор» — промпт. «Найди в договоре штрафы и объясни, когда нам придётся их платить» — тоже промпт, но задача гораздо яснее.

3. Галлюцинация — когда ИИ выдумывает

Модель может сослаться на несуществующее исследование, придумать цитату или добавить в пересказ договора условие, которого там нет.

Выглядеть такой ответ может очень убедительно. Поэтому важные факты, цифры и ссылки нужно проверять.

4. ИИ-агент — помощник, который может действовать

Вы даёте задачу, а система выбирает шаги и пользуется доступными инструментами.

Например: найти три предложения поставщиков, сравнить цены и собрать таблицу. Что агент сможет сделать самостоятельно, зависит от его настроек и выданных разрешений.

5. Токен — кусочек текста

Модель обрабатывает текст небольшими частями — токенами. Это может быть слово, часть слова или знак. Одно слово может занимать несколько токенов.

Токенами считают объём запроса и ответа. При подключении модели к приложению плата часто зависит от количества обработанных токенов. Их число зависит и от языка, и от того, как конкретная модель разбивает текст.

6. Контекстное окно — сколько информации ИИ может учитывать за один раз

Сюда входят инструкции, сообщения и документы, доступные модели при подготовке ответа.

Объём ограничен. Поэтому в длинной переписке приложение может сокращать старые сообщения, а из большого документа — передавать только выбранные фрагменты. Даже если всё поместилось, модель иногда упускает детали.

7. Инференс — когда обученная модель работает

Здесь полезно различать два процесса.

Обучение — training: модель на примерах настраивает свои внутренние параметры.

Инференс — inference: готовая модель использует эти настройки, чтобы выполнить ваш запрос.

Вы просите составить письмо, модель пишет — это инференс.

8. Дообучение — дополнительная подготовка модели

Готовую модель дополнительно обучают на специально подобранных примерах. Это называется fine-tuning. Например, так её можно научить лучше разбирать обращения клиентов или соблюдать нужный формат ответа.

Внутренние настройки модели при этом меняются. А когда вы пишете в чате «сделай короче», модель обычно просто учитывает пожелание в текущем разговоре.

9. RAG — найти нужное и ответить по нему

Перед ответом система ищет подходящие фрагменты в документах и передаёт их модели. RAG расшифровывается как Retrieval-Augmented Generation — генерация с поиском по источникам.

Допустим, сотрудник спрашивает: «Как оформить командировку?» Система находит нужный раздел регламента, и ИИ готовит ответ по этому тексту.

Так можно работать с документами компании без дообучения модели. Но если система найдёт не тот документ или модель неверно его истолкует, ответ может оказаться ошибочным.

10. Веса — числа, в которых закрепляется результат обучения

Веса — внутренние числовые настройки модели. Вместе они определяют, как она обрабатывает запрос и строит ответ.

При обучении алгоритм корректирует эти числа. Например, сравнивает прогноз модели для фразы «Столица Казахстана — …» с продолжением «Астана» и меняет веса, чтобы уменьшить ошибку. Это повторяется на множестве примеров.

Отдельного веса «столица Казахстана» нет: знания распределены между множеством настроек. 7B означает примерно 7 миллиардов параметров. Больше параметров не гарантирует лучшего ответа: важны также данные и качество обучения.

────────

Сохраните — пригодится в следующем разговоре об ИИ.

В следующей части: что значит «модель рассуждает», как запустить ИИ на своём компьютере и что такое открытые веса.

Подготовлено RD media

#REAL_DIGITAL #ИИсловарь