Ответ не раскрывает механизм
Пусть программа выводит: «Две тетради стоят 6 условных единиц». Это наблюдаемый output, но ещё не описание причины. Фраза могла быть заранее записана разработчиком; цена 3 могла быть найдена в таблице и передана функции умножения; число могло быть оценено статистической моделью; наконец, приложение могло соединить поиск, модель и калькулятор. Одинаковый текст совместим с разными вычислительными графами.
Отсюда следует первое правило диагностики:
Нельзя восстанавливать внутренний механизм только по правдоподобию одного ответа. Нужно смотреть на данные, операции, состояние и границы системы.
Это правило защищает от двух симметричных ошибок. Первая — назвать нейросетью любой сложный интерфейс. Вторая — считать, что система без нейросети не может решать интеллектуально сформулированную задачу. Поиск пути по графу, планирование по правилам и доказательство в формальной системе могут относиться к задачам AI, хотя параметры такого алгоритма не обучались на dataset.
AI, ML и DL: множества методов, а не рейтинг
Artificial Intelligence, AI — область методов и систем для распознавания, поиска решений, планирования, управления и обработки языка. Определение намеренно широкое: оно описывает класс задач и подходов, а не одну архитектуру [S01].
Machine Learning, ML — семейство методов, в которых поведение настраивается по данным относительно заданного критерия. Даже когда коэффициенты получены автоматически, инженер выбирает пространство гипотез, представление примеров, функцию потерь, процедуру оптимизации и проверку качества. Поэтому фраза «модель сама научилась» не отменяет проектных решений.
Deep Learning, DL — часть ML, использующая композиции обучаемых преобразований и многоуровневые представления. Если
то результат третьего преобразования зависит от всей цепочки. «Глубина» относится к композиции, но единого официального порога числа слоёв, после которого начинается настоящий DL, нет. Рабочая вложенность курса имеет вид DL ⊂ ML ⊂ AI; она не утверждает, что любой метод статистики обязан называться AI.
Генеративность и foundation model — другие оси
Генеративная модель задаёт распределение, из которого можно получать новые образцы: последовательности токенов, изображения, звук или другие данные. Это свойство задачи и выхода. Глубокий классификатор может быть DL и выдавать только оценки классов. Напротив, простая n-граммная языковая модель строит последовательности, не являясь глубокой сетью [S03]. Поэтому Generative AI нельзя помещать ещё одним кругом строго внутри DL.
Language model оценивает вероятности языковых последовательностей. LLM в этом курсе означает крупную обученную модель для языковых задач; единственную численную границу «large» мы не вводим. Foundation model обозначает широко обученную основу, которую адаптируют к множеству последующих задач [S08, abstract-only]. Термин ничего не говорит о наличии у модели браузера, файловой системы или права выполнить команду.
Модель и приложение имеют разные границы
Параметрическую модель удобно записывать как
где x — текущий вход, θ — parameter state, а y — вычисленный выход. Эта запись не описывает всё приложение. Приложение ещё решает, как собрать x, какую историю включить, где искать документы, какие действия разрешить и как отобразить y.
Полезно анализировать три уровня:
| Уровень | Главный вопрос | Пример объекта |
|---|---|---|
| Задача | Какой результат требуется? | Найти маршрут, классифицировать, продолжить текст |
| Модель | Как вход преобразуется при фиксированных параметрах? | f_θ(x), logits, вероятность класса |
| Система | Откуда берётся вход и кто может действовать? | Retrieval, память, tool runtime, интерфейс |
Одна модель может использоваться в нескольких продуктах. Одно приложение может вызывать несколько моделей. Документ, найденный retrieval, не становится автоматически строкой матрицы параметров; результат калькулятора не обязан быть сгенерирован моделью.
Что можно заключить, а что нельзя
Если приложение изменило ответ после нового запроса, мы знаем, что изменился хотя бы вход или внешнее состояние. Мы не знаем, обновлялись ли weights. Если система показала источник, мы знаем, что интерфейс связал результат с некоторым объектом provenance. Мы не знаем, что источник истинный или актуальный. Если в продукте есть генеративная модель, это не означает, что каждый показанный символ произведён именно ею.
Ни один значок «AI» не заменяет схему потока данных. В нижней лаборатории можно отключать retrieval и tools и наблюдать, какой компонент перестаёт производить результат. Это причинный эксперимент: меняется один узел системы, а не рекламное название продукта.