Генеративные модели: как устроен ИИ

Материалы раздела

• Генеративные и дискриминативные модели: в чём разница — Генеративная модель учится описывать распределение данных так, чтобы оценивать или создавать правдоподобные новые примеры.
• Данные, токены и эмбеддинги: как текст становится числами — До первого слоя нейросети текст проходит цепочку преобразований: сбор и подготовку корпуса, нормализацию, токенизацию, перевод идентификаторов токенов в векторы.
• Transformer и attention: как модель связывает части контекста — Transformer обрабатывает последовательность через повторяющиеся блоки attention и преобразований признаков. Attention позволяет каждому положению вычислять взвешенную смесь…
• Предобучение и предсказание следующего токена — Авторегрессионная языковая модель предобучается предсказывать следующий токен по предыдущему контексту. Простая формулировка цели не означает простого поведения: чтобы уменьшать…
• Как модель выбирает ответ: logits, temperature и top-p — После одного прохода языковая модель выдаёт для каждого токена не готовое слово, а числовую оценку — logit. Алгоритм декодирования преобразует эти оценки в выбор следующего токена.
• Контекстное окно и prompting: что модель видит в запросе — Контекстное окно — последовательность токенов, доступная модели в текущем вызове. В неё могут входить системные инструкции, история диалога, документы, результаты инструментов и…
• Instruction tuning и RLHF: как базовая модель становится ассистентом — Базовая модель продолжает текст согласно предобученному распределению. Чтобы получить ассистента, который отвечает на запрос, соблюдает формат и отказывается от части опасных…
• Галлюцинации языковых моделей: причины, виды и проверка — Галлюцинацией обычно называют правдоподобный, но неподтверждённый, выдуманный или противоречащий источнику результат.
• Эмбеддинги и RAG: как подключить внешние знания — Retrieval-Augmented Generation соединяет генератор с внешней памятью. Приложение извлекает релевантные фрагменты, добавляет их к запросу и просит модель сформировать ответ.
• Инструменты и агенты: как модель выполняет действия — Языковая модель сама по себе генерирует токены. Чтобы получить вычисление, поиск или изменение внешней системы, приложение предоставляет инструменты: описанные функции с…
• Мультимодальные модели: текст, изображения и звук — Мультимодальная система принимает или создаёт данные нескольких модальностей: текст, изображение, аудио, видео.
• Дообучение, LoRA и QLoRA: когда менять параметры модели — Fine-tuning продолжает обучение предобученной модели на целевом наборе. Он подходит для устойчивой адаптации поведения, формата и доменного распределения, но требует данных,…
• Оценка генеративных моделей: как измерять качество — Eval — воспроизводимая процедура, которая связывает сценарий использования с примерами, эталонами, метриками и правилом принятия решения.
• Безопасность, приватность, авторские права и bias — Риски генеративного ИИ возникают на всём жизненном цикле: в данных, обучении, интерфейсе, интеграциях и использовании результата.
• Инференс, стоимость и задержка генеративной модели — Inference — выполнение обученной модели для нового запроса. Пользователь видит единый ответ, но система проходит токенизацию, prefill входа, последовательный decode, сетевую…
• Границы генеративных моделей: знание, рассуждение и неопределённость — Генеративная модель может строить полезные объяснения, код и планы, но её возможности следует описывать через проверяемое поведение, а не приписывание человеческого сознания.
• Архитектура промышленной системы с генеративной моделью — Production-система — это не только endpoint модели. Она включает данные, retrieval, prompt assembly, инструменты, policy, валидацию, наблюдаемость, evals и fallback.
• Итоговый проект: ассистент с проверяемыми источниками — В итоговом проекте вы спроектируете ассистента, который отвечает только по выбранному корпусу, показывает доказательства, признаёт отсутствие данных и измеряется до релиза.
• Память attention на практике: матрица оценок, буферы и KV-cache — После этого практикума вы сможете оценить размер конкретного буфера attention, объяснить рост памяти при увеличении контекста и отличить матрицу оценок от KV-cache.
• Диффузия на практике: расписание шума и проверка обучающих примеров — В этом практикуме вы проверите генератор зашумлённых обучающих примеров: составите расписание beta, вычислите alpha_bar и сравните два способа получения x_t.