Управляемость

⏱️ Примерное время: ~12 минут · 🎯 Урок 10 курса «Возможности и ограничения ИИ» · 🎬 видео

Чему вы научитесь

Примерное время: 30 минут

К концу этого урока вы сможете:

Объяснить, почему управляемость работает (дообучение научило модель следовать инструкциям) и почему у неё есть пределы (инструкции выполняются за счёт сопоставления с шаблонами, а не понимания)
Предсказывать, где контроль наиболее жёсткий (короткие, конкретные, проверяемые инструкции), а где наиболее слабый (длинные цепочки рассуждений, абстрактные запросы, задачи, требующие врождённой точности)
Распознавать дрейф рассуждений, следование букве в ущерб духу и хрупкую арифметику как характерные сбои управляемости
Понимать, что системные промпты, выполнение кода, видимые рассуждения и структурированный вывод — это продуктовые функции, которые компенсируют это ограничение

Как управляемость влияет на результаты генеративного ИИ

(5 минут)

Модель следует вашим инструкциям так же, как делает всё остальное: продолжая шаблон. Это делает её удивительно управляемой. Но это же означает, что между тем, что вы задумали, и тем, что получилось, всегда есть разрыв — и большинство интересных сбоев живут именно в этом разрыве.

Насколько вы на самом деле контролируете ситуацию?

Прежде чем читать дальше

Вы просите ИИ написать ровно 100 слов, не больше. Насколько тщательно вам нужно проверять результат? Выберите точку на шкале и зафиксируйте свою догадку.

Выберите точку и зафиксируйте свою догадку. Урок откроется, как только вы это сделаете.

Проверьте свою интуицию

Зафиксируйте догадку выше, чтобы сравнить её с типичным расположением.

Настройте под себя

Ключевые выводы

Управляемость означает, что модель следует инструкциям через предсказание следующего токена. Зона возможностей: короткие, конкретные, проверяемые инструкции. Спецификации формата, ограничения по длине, явные роли. Зона ограничений: длинные цепочки рассуждений, абстрактные или неоднозначные инструкции, всё, что требует врождённой числовой или логической точности. Характерные сбои: дрейф рассуждений (мелкие ошибки накапливаются) и следование букве в ущерб духу (инструкция выполнена, но намерение — нет). Системные промпты, выполнение кода, видимые рассуждения и режимы структурированного вывода существуют для того, чтобы ваше намерение не размывалось. Когда инструкция выполнена буквально, но бесполезно — переформулируйте цель. Повторение инструкции с большим напором разрыв не закроет.
Зона возможностей: короткие, конкретные, проверяемые инструкции. Спецификации формата, ограничения по длине, явные роли.
Зона ограничений: длинные цепочки рассуждений, абстрактные или неоднозначные инструкции, всё, что требует врождённой числовой или логической точности.
Характерные сбои: дрейф рассуждений (мелкие ошибки накапливаются) и следование букве в ущерб духу (инструкция выполнена, но намерение — нет).
Системные промпты, выполнение кода, видимые рассуждения и режимы структурированного вывода существуют для того, чтобы ваше намерение не размывалось.
Когда инструкция выполнена буквально, но бесполезно — переформулируйте цель. Повторение инструкции с большим напором разрыв не закроет.
Связь с 4D: управляемость — это то, что делает Описание мощным инструментом, и то, что задаёт его пределы. Понимание разрыва между словами и намерением меняет то, как вы пишете промпты и где вставляете контрольные точки.

Упражнения

Практика: переписывание цели

Зачем? Разрыв между тем, что вы говорите, и тем, что имеете в виду, — это то, где живёт большинство сбоев управляемости. Это упражнение учит вас формулировать промпт исходя из намерения, а не только из инструкции.

Выберите задачу из вашего списка к Уроку 1, которая включает несколько шагов или определённый формат вывода. Запишите цель в одном предложении: чего вы на самом деле пытаетесь добиться, а не как должен выглядеть результат. («Убедить мою команду, что эти сроки реалистичны» — это цель. «Три пункта списка» — это формат.)

Теперь проведите три проверки:

Проверка 1: жёсткий контроль. Дайте короткую, конкретную, проверяемую инструкцию, связанную с вашей задачей: «ответь в виде таблицы из трёх столбцов», «ровно пять пунктов списка», «во втором лице на протяжении всего текста». Проверьте, выполнена ли она в точности. Это зона возможностей: инструкция достаточно проста, чтобы безупречно сопоставиться с шаблоном.
Проверка 2: дрейф рассуждений. Попросите версию вашей задачи, которая требует 4–5 зависимых шагов. Просмотрите результат шаг за шагом. Перенеслась ли мелкая ошибка с раннего этапа до самого конца? Теперь попробуйте снова, но попросите ИИ остановиться и показать вам результат шага 2, прежде чем продолжать. Сравните, что вы получите, когда вставляете контрольную точку, и когда позволяете модели работать без остановок.
Проверка 3: буква против духа. Дайте инструкцию, которую можно выполнить буквально, но бесполезно. «Сделай это короче» для черновика, где настоящая проблема — структура. «Сделай это более профессиональным» для письма, где настоящая проблема в том, что оно прячет главную просьбу. Посмотрите, что получится. Затем перепишите промпт, явно указав цель рядом с инструкцией: «Сделай это короче. Моя цель — удержать внимание руководителя до ключевого вывода на второй странице». Сравните.

Вернитесь к своему списку задач. Для любых многошаговых задач отметьте, куда вы вставили бы контрольную точку. Для любых задач, где вы задавали промпт одним лишь форматом, набросайте формулировку цели, которую добавите в следующий раз.

Размышление по уроку

Как часто вы указывали формат, но не цель? Что меняется, когда вы включаете и то, и другое?
Какая повторяющаяся задача, в которую вы добавите промежуточную контрольную точку уже на этой неделе?

Что дальше

Теперь вы познакомились со всеми четырьмя свойствами по отдельности. В следующем уроке мы посмотрим, как они взаимодействуют, потому что большинство сбоев в реальном мире — это встреча двух свойств.

Обратная связь

По мере прохождения курса нам будет очень интересно узнать, как вы используете концепции из курса в своей работе, а также услышать любые ваши отзывы. Поделитесь своей обратной связью здесь.

Благодарности и лицензия

Copyright 2026 Anthropic. Оригинальная работа основана на AI Fluency Framework, разработанном проф. Риком Дэйканом (Ringling College of Art and Design) и проф. Джозефом Феллером (University College Cork). Выпущено под лицензией CC BY-NC-SA 4.0.