Входы (inputs)
Числа, описывающие данные. Например, пиксели изображения, признаки объекта или значения от предыдущих нейронов.
ТЕХНИЧЕСКИЙ ПУТЕВОДИТЕЛЬ / 2026
Загляни внутрь
искусственного
интеллекта.
От искусственного нейрона до языковых моделей с миллиардами параметров. Разбираемся, из чего состоит ИИ, как он учится и что происходит внутри, когда ты задаёшь вопрос.
1943первые формальные
модели нейронов
модели нейронов
2017архитектура
Transformer
Transformer
∞пространство
возможностей
возможностей
NEURAL NETWORKWEIGHTS · 01SIGNAL FLOW ↗
FIG 01 Условная визуализация нейросети
ГЛАВНАЯ ИДЕЯ
Нейросеть не думает как человек. Это математическая система, которая находит закономерности в данных, настраивая миллионы или миллиарды числовых параметров.
01 / БАЗОВЫЙ ЭЛЕМЕНТ
Как выглядит нейрон ИИ?
Искусственный нейрон — небольшая вычислительная функция. Он получает числа, умножает их на веса, складывает результаты и пропускает сумму через функцию активации.
СХЕМА ИСКУССТВЕННОГО НЕЙРОНА● LIVE MODEL
входные значения вычисление и выход
Веса (weights)
Коэффициенты важности. Большой по модулю вес сильнее влияет на результат. Именно эти значения сеть подбирает во время обучения.
Смещение (bias)
Дополнительное число, позволяющее сдвинуть результат и сделать модель гибче.
Активация
Нелинейная функция, например ReLU или sigmoid. Она помогает сети моделировать сложные зависимости.
МАТЕМАТИКА НЕЙРОНА
Одна операция — много возможностей
y = f(∑i xiwi + b)
x — входы · w — веса · b — смещение · f — функция активации · y — выход
Важно: биологический нейрон — живая клетка с дендритами, телом и аксоном. Искусственный нейрон лишь очень упрощённая математическая абстракция; внутри компьютера он не выглядит как клетка.
02 / АРХИТЕКТУРЫ
Из нейронов — нейросеть.
Нейроны объединяются в слои. Выход одного слоя становится входом следующего. Архитектура определяет, как информация проходит через модель.
Полносвязная сеть (MLP)
Каждый нейрон слоя связан с нейронами следующего слоя. Подходит для табличных данных и простых задач классификации.
Сверточная сеть (CNN)
Использует фильтры, которые скользят по изображению и находят края, текстуры, формы и более сложные визуальные признаки.
x₁ x₂x₃x₄↻
Рекуррентная сеть (RNN)
Передаёт внутреннее состояние от шага к шагу. Исторически применялась для текста, речи и временных рядов.
Параметры и слои — не одно и то же
Слой — часть архитектуры. Параметры — обучаемые числа внутри неё: веса и смещения. У модели может быть много слоёв, но число параметров зависит от ширины, связей и типа операций.
03 / ОБУЧЕНИЕ
Как нейросеть учится?
Обучение — это многократная настройка параметров так, чтобы ответы модели становились ближе к желаемым.
01
Данные
Примеры, тексты, изображения, аудио или измерения.
→
02
Прямой проход
Модель вычисляет прогноз на основе текущих весов.
→
03
Ошибка
Функция потерь измеряет расхождение прогноза и цели.
→
04
Обновление
Градиентный спуск корректирует параметры, цикл повторяется.
BACKPROPAGATION
Обратное распространение ошибки
Алгоритм вычисляет, как каждый параметр повлиял на ошибку. Для этого применяется цепное правило дифференцирования: градиенты распространяются от выхода сети к более ранним слоям.
веса ← веса − скорость_обучения × градиент
OPTIMIZATION
Оптимизаторы
SGD, Momentum и Adam — методы обновления параметров. Скорость обучения (learning rate) задаёт размер шага: слишком большая может мешать сходимости, слишком маленькая — замедлять обучение.
θt+1 = θt − η · ∇L(θ)
Обучение ≠ использование. При обучении веса меняются. При обычной генерации ответа (inference) веса, как правило, фиксированы: модель выполняет вычисления и выдаёт результат.
04 / СОВРЕМЕННЫЙ ПРОРЫВ
Почему все говорят о трансформерах?
Transformer — архитектура, представленная в 2017 году. Она стала основой большинства современных больших языковых моделей.
ТЕКСТ«Кошка сидит на окне»
Кошкасидитнаокне
↓
01Токенизациятекст → токены
↓
02Embedding + позициятокены → векторы
↓
03 / КЛЮЧЕВОЙ МЕХАНИЗМSelf-Attentionкаждый токен учитывает контекст других токенов
↓
04MLP / Feed Forwardпреобразование признаков
↓
ВЫХОДВероятности следующего токена
Токенизация
Текст разбивается на токены — фрагменты слов, целые слова или знаки. Модель работает не непосредственно с буквами, а с числовыми ID токенов.
Эмбеддинги
Каждый токен превращается в вектор — набор чисел, который кодирует выученные отношения и признаки. Позиционная информация помогает учитывать порядок.
Self-Attention
Механизм внимания вычисляет, на какие другие токены стоит обратить внимание при обработке текущего. Так модель учитывает контекст предложения.
Следующий токен
Языковая модель оценивает вероятности возможных следующих токенов и выбирает один из них по стратегии генерации. Затем процесс повторяется.
ATTENTION
Упрощённая формула внимания
Attention(Q,K,V) = softmax(QKᵀ / √dk)V
Q — запросы · K — ключи · V — значения · dk — размерность ключей. Формула показывает, как рассчитываются веса внимания и смешиваются информационные векторы.
05 / МАСШТАБ
Большие модели и их устройство.
Большая языковая модель (LLM) — нейросеть, обученная на огромных массивах данных для работы с языком и часто с другими типами информации.
Параметры — значения, которые модель выучила. Миллиард параметров означает миллиард чисел, а не миллиард отдельных нейронов.
Контекстное окно — объём токенов, который модель может учитывать в одном запросе. Это не обязательно долговременная память.
Ускорители выполняют множество матричных операций параллельно. Обучение крупных моделей требует значительных вычислительных ресурсов.
Снижение точности представления весов, например с FP16 до INT8 или 4-bit, может уменьшить память и ускорить запуск с компромиссом по качеству.
КАРТА СЕМЕЙСТВ МОДЕЛЕЙПРИМЕРЫ
| Семейство | Разработчик | Известные направления |
|---|---|---|
| Llama | Meta | Открытые веса, локальный запуск, исследования |
| Qwen | Alibaba | Текст, код, мультимодальные задачи |
| Mistral | Mistral AI | Эффективные языковые модели и MoE |
| Gemma | Компактные модели и исследовательские инструменты | |
| DeepSeek | DeepSeek | Рассуждения, код, архитектуры MoE |
| Phi | Microsoft | Компактные модели, эффективность |
MoE (Mixture of Experts): архитектура с несколькими «экспертными» подсетями и маршрутизатором. Для конкретного токена активируется лишь часть экспертов, что может повысить вычислительную эффективность. Общее число параметров при этом может быть намного больше числа активных параметров на токен.
06 / ИИ НА СВОЁМ УСТРОЙСТВЕ
Локальные модели: ИИ без облака.
Локальная модель запускается на твоём компьютере или сервере. Запросы могут обрабатываться без отправки текста внешнему провайдеру — если приложение и настройки действительно работают автономно.
LOCAL INFERENCE
$ ollama run qwen
>>> Объясни, как работает нейрон
Нейрон вычисляет взвешенную сумму входов...
▋
МОДЕЛЬ РАБОТАЕТ НА ЛОКАЛЬНОМ УСТРОЙСТВЕ
Что нужно для запуска?
- ОЗУ / видеопамять: хранение весов и рабочих данных.
- Процессор или GPU: вычисление слоёв модели.
- Файл модели: веса в поддерживаемом формате.
- Runtime: программа, которая загружает модель и выполняет inference.
Популярные инструменты
OllamaLM Studiollama.cppTransformersvLLM
ОБЛАЧНЫЙ ИИ
Модель на сервере
Мощные серверы, простое подключение, масштабирование. Нужны сеть и доверие к провайдеру обработки данных.
VS
ЛОКАЛЬНЫЙ ИИ
Модель у тебя
Больше контроля над данными и настройками, возможность автономной работы. Но ресурсы устройства ограничены.
Локально — не значит автоматически безопасно. Нужно проверять источник модели, лицензии, плагины, доступ к файлам и сетевые разрешения приложения.
07 / ИСТОРИЧЕСКИЙ КОНТЕКСТ
Как мы пришли к современному ИИ.
Ключевые идеи появлялись задолго до сегодняшних чат-ботов.
Формальный нейрон
Уоррен Маккаллок и Уолтер Питтс описали математическую модель нейрона.
Вопрос Тьюринга
Алан Тьюринг предложил знаменитую идею теста для обсуждения машинного интеллекта.
Рождение термина AI
Дартмутский семинар закрепил искусственный интеллект как отдельное направление исследований.
Перцептрон
Фрэнк Розенблатт представил обучаемую модель для распознавания простых образов.
Популяризация backpropagation
Обратное распространение ошибки стало важным инструментом обучения многослойных сетей.
Глубокое обучение
AlexNet показала сильные результаты в ImageNet и ускорила развитие глубоких CNN.
Transformer
Статья «Attention Is All You Need» предложила архитектуру, ставшую основой современных LLM.
Эра больших моделей
Масштабирование данных и вычислений, чат-интерфейсы, мультимодальность и открытые модели.
08 / ЧТО ДАЛЬШЕ
Следующий этап развития.
Исследования продолжаются сразу в нескольких направлениях: от более эффективных моделей до систем, которые умеют работать с разными типами данных и инструментами.
Мультимодальность
Единые системы для текста, изображений, звука, видео и пространственных данных.
Эффективность
Меньше вычислений и энергии на тот же уровень качества; компактные модели на устройствах.
Агенты и инструменты
Модели, которые планируют шаги, вызывают программы и проверяют результат выполнения задач.
Надёжность
Проверяемость ответов, защита от атак, оценка рисков и контроль использования.
КЛЮЧЕВАЯ МЫСЛЬ
ИИ — это не магия.
Это математика, данные и вычисления.
Чем лучше понимаешь устройство нейросетей, тем легче отличать реальные возможности технологий от маркетинговых обещаний.
Вернуться наверх ↑