От смысла к действию — семинар 25 + 45 минут

1.1

Базовый принцип

GPT: не справочник, а генератор продолжения

В аббревиатуре уже зашит принцип работы: модель предобучена на больших данных, использует Transformer и создаёт результат последовательно.

0–3 мин

GGenerative

Создаёт продолжение токен за токеном, опираясь на уже имеющийся контекст.

PPre-trained

До диалога проходит предварительное обучение на больших массивах данных.

TTransformer

Связывает элементы контекста через механизм внимания.

Эволюция Transformer → GPT

Контекст→Вероятности токенов→Выбор продолжения→Новый контекст

Что важно запомнить

Модель не извлекает готовую фразу из хранилища. Она вычисляет наиболее подходящее продолжение и повторяет этот процесс много раз.

Как объяснить студентам

Предложите студентам по очереди продолжать незнакомое предложение одним словом. Каждый новый участник видит всё, что уже написано: это простая аналогия авторегрессии.

1.2

Источник возможностей

Данные формируют возможности и ограничения

Модель учится не по учебнику с готовыми правилами. Она находит закономерности в корпусе, а вместе с ними наследует качество, пробелы и перекосы данных.

3–7 мин

Сбор данных→Очистка→Обучение→Закономерности

Сбор данных

Очистка данных

Педагогический вывод: уверенный тон ответа не доказывает истинность. Результат нужно сопоставлять с источниками, условиями задачи и профессиональными критериями.

1.3

Язык машины

Токены: мост от текста к числам

Токеном может быть слово, часть слова, знак или символ. Подсловное разбиение даёт компромисс между огромным словарём и слишком длинной последовательностью.

7–12 мин

Текст→Токены→Числовые ID→Вычисления

Интерактив: сравнение слов, символов и подсловных токенов

BPE и SentencePiece — коротко

BPE многократно объединяет часто встречающиеся пары в новые токены.
SentencePiece работает с сырым текстом и рассматривает пробел как обычный символ, что удобно для мультиязычности.

Ограничение, которое увидит студент

Редкое русское слово может занимать больше токенов, чем частое английское. Поэтому один и тот же объём смысла может по-разному расходовать контекст модели.

1.4

Координаты смысла

Эмбеддинги превращают токены в карту смыслов

Числовой ID ничего не говорит о значении. Эмбеддинг превращает объект в многомерный вектор: похожие употребления получают близкие представления.

12–20 мин

Трёхмерная карта слов

Контекст меняет значение

Пример: «дверной замок» и «старинный замок» начинаются с одного токена, но окружающий контекст постепенно разводит их внутренние представления.

Что важно запомнить

Эмбеддинг — не определение слова, а набор координат, полезный модели для сравнения и преобразования смыслов.

Как объяснить студентам

Используйте аналогию карты города: координаты не описывают здание словами, но позволяют понять, какие объекты находятся рядом и как между ними перемещаться.

1.5

Финал первой части

Текст, изображение и звук встречаются на общей карте

Разные типы сигналов преобразуются в сопоставимые векторные представления. Для модели важен не источник сигнала, а смысловые связи.

20–25 мин

Одна карта смыслов

Логический переход к отдельной практике

Мы управляем не пикселями,
а направлением в пространстве смыслов

Чем точнее описаны объект, действие, окружение, композиция, стиль, свет и ограничения, тем яснее задан смысловой ориентир для генерации изображения.

Объект+Действие+Среда+Композиция+Стиль

Вторая теоретическая часть

Как смысл становится действием

Продолжаем маршрут: контекст связывает смыслы, обучение формирует поведение, параметры меняют выбор, а инструменты и цикл обратной связи превращают модель в агента.

Общий тайминг: 45 минут

2.1

Контекст

Внимание связывает элементы запроса

Эмбеддинг даёт исходное представление, а механизм внимания уточняет его с учётом других элементов последовательности.

0–5 мин

Query — запрос

Какую информацию текущий токен ищет у других?

Key — ключ

Какие признаки токен предлагает для сопоставления?

Value — значение

Какую информацию он передаст при высокой связи?

Интерактив: механизм внимания

2.2

Формирование поведения

Знания, инструкции и критерии качества обучаются по-разному

Важно разделять три задачи: получить языковую базу, научиться выполнять инструкции и согласовать поведение с критериями полезности и безопасности.

5–14 мин

Этап 1

Pre-training

Предсказание следующего токена формирует языковые закономерности и базовые знания.

Этап 2

SFT / Instruct-tuning

Примеры «инструкция → ответ» учат модель выполнять задачу, а не просто продолжать текст.

Этап 3

Обучение по предпочтениям

Сравнение ответов формирует критерии полезного, безопасного и уместного поведения.

Интерактив: путь обучения модели

Outcome Reward и Process Reward

Оцениваем только результат

быстро масштабируется;
не показывает место первой ошибки;
подталкивает к формату «правильно / неправильно».

Добавляем оценку процесса

видим приближение к решению;
выбираем адресную подсказку;
реализуем формирующее оценивание.

Точная педагогическая аналогия: «Система 1 / Система 2» описывает режимы мышления, а Outcome / Process Reward — способ оценивания. Они связаны, но не являются одним и тем же.

2.3

Управление выбором

Температура и фильтры меняют пространство следующего шага

После вычисления логитов Softmax формирует распределение вероятностей. Настройки определяют, насколько широкий набор токенов будет участвовать в сэмплировании.

14–20 мин

Логиты→Softmax→Фильтры→Сэмплирование

Temperature

Низкая заостряет распределение, высокая увеличивает разнообразие и риск.

Top-K

Оставляет только K наиболее вероятных кандидатов.

Top-P

Оставляет минимальный набор с заданной суммарной вероятностью.

Min-P

Отсекает варианты, слишком слабые относительно лидера.

Интерактив: Temperature, Top-K, Top-P и Min-P

Практический ориентир для агентов

Проверка по критериям и извлечение данных — низкая вариативность.
Объяснение одной темы разными способами — средняя.
Мозговой штурм — повышенная, но с последующей проверкой.

Как исследовать ползунки

Меняйте один параметр за раз и сравнивайте несколько запусков на одном запросе. Иначе невозможно понять, какая настройка повлияла на результат.

2.4

Режимы решения задач

От быстрого шаблона к декомпозиции и самопроверке

Рассуждающие модели получают больше вычислений на этапе ответа: разбивают задачу, сравнивают варианты и проверяют промежуточные результаты.

20–25 мин

Условная «Система 1»

быстрый ответ;
знакомый шаблон;
подходит для простых задач;
может пропустить логическую ошибку.

Условная «Система 2»

декомпозиция;
сравнение подходов;
самопроверка;
выше стоимость и риск переусложнения.

Интерактив: эволюция рассуждающих моделей

Связь с обучением: ИИ может помочь преподавателю анализировать наблюдаемые шаги решения каждого студента. Это делает процессную обратную связь реалистичной даже при большой группе.

2.5

От ответа к действию

Инструменты и цикл обратной связи рождают агента

Модель по-прежнему генерирует токены, но теперь может сформировать структурированный вызов инструмента, получить наблюдение и скорректировать следующий шаг.

25–32 мин

Модель
мозг

Цель
направление

Инструменты
действия

Цикл
обратная связь

Цикл ReAct: рассуждение → действие → наблюдение

Понять цель→Выбрать инструмент→Действовать→Проверить↺

Что отличает агента от чат-бота

Чат-бот отвечает на сообщение. Агент получает цель, выполняет несколько шагов, использует внешние инструменты и меняет план по результатам действий.

Ограничения и риски

Ошибка агента может стать реальным действием. Поэтому важны минимальные разрешения, подтверждение необратимых операций и принцип «человек в петле».

2.6

Память и подключение к миру

RAG возвращает эмбеддинги, MCP подключает инструменты

Абстрактная карта смыслов становится практическим механизмом поиска: релевантные фрагменты документов находятся по близости векторов и добавляются в контекст.

32–39 мин

RAG: открытая книга для модели

MCP: универсальная розетка

Материалы→Фрагменты→Эмбеддинги→Поиск по смыслу→Контекст

Для кружка: RAG позволяет отвечать по вашим методическим материалам, а MCP — подключать файлы, базы данных и другие разрешённые инструменты единым способом.

2.7

Педагогический смысл

Агент-наставник помогает увидеть путь каждого студента

Задача не в автоматической отметке, а в масштабировании диагностической обратной связи: обнаружить место затруднения и выбрать следующий вопрос.

39–45 мин

Получить наблюдаемые шаги решения

Сопоставить с критериями

Найти первое отклонение

Задать диагностический вопрос

Собрать отчёт преподавателю

Что анализировать

Черновики, версии проекта, результаты тестов, ответы на вопросы и объяснение выбора.

Что поручить агенту

Рутинное сопоставление с критериями, поиск первого сбоя и подготовку дозированной подсказки.

Что оставить человеку

Педагогическое решение, ответственность, мотивацию, этику и понимание контекста студента.

Условия безопасного применения

Не передавать лишние персональные данные.
Показывать студенту критерии анализа.
Не выдавать готовый ответ раньше диагностического вопроса.
Оставлять преподавателю возможность проверить и изменить рекомендацию.

Почему это стало возможным сейчас

Преподаватель один, студентов много, а анализ промежуточных шагов трудоёмок. Агент может предварительно обработать наблюдаемые свидетельства и направить внимание преподавателя туда, где оно нужнее всего.

Мы создаём не автоматическую отметку «правильно / неправильно», а помощника, который видит путь студента и выбирает следующий полезный вопрос.