Когда свойства сталкиваются

⏱️ Примерное время: ~12 минут · 🎯 Урок 12 курса «Возможности и ограничения ИИ» · 🎬 видео

Чему вы научитесь

Примерное время: 25 минут

К концу этого урока вы сможете:

Понимать, что большинство сбоев ИИ связаны с взаимодействием двух или более свойств.
Диагностировать распространённые паттерны сбоев (выдуманные ссылки, дрейф в длинных диалогах, уверенно ошибочная математика, согласие с ложными посылками), определяя, какие свойства задействованы.
Применять точечное исправление в зависимости от того, какое свойство является ограничивающим фактором.

Диагностика сбоев ИИ

(3 минуты)

Четыре свойства не работают изолированно. Большинство реальных сбоев — это пересечение двух из них. Как только вы можете назвать, какие именно два, вы понимаете, какое исправление применить.

Встреча двух свойств: диагностируем, что пошло не так

Когда свойства сталкиваются

Большинство реальных сбоев ИИ — это одновременная встреча двух свойств.

Ключевые выводы

Реальные сбои обычно вызваны взаимодействием двух свойств, а не одного.
Диагностические пары, которые стоит распознавать: предсказание следующего токена + знания (выдуманные детали), рабочая память + управляемость (дрейф в длинных диалогах).
Предсказание следующего токена + знания (выдуманные детали).
Рабочая память + управляемость (дрейф в длинных диалогах).
Называние задействованных свойств напрямую указывает на исправление: проверить детали, заново предоставить контекст, передать вычисления в код или предложить ИИ возразить.
Этот диагностический приём — Различение в действии. Вы оцениваете лучше, когда понимаете, с каким именно видом ошибки имеете дело.

Упражнения

Практика: диагностика сбоя

Почему? Большинство реальных сбоев ИИ — это не одно свойство, дающее сбой. Это одновременная встреча двух свойств. Называние того, какие именно два, полностью меняет исправление.

Вспомните свой опыт работы с ИИ (включая то, что вы наблюдали в ходе этого курса). Выделите два-три случая, когда ответ ИИ по-настоящему разочаровал или удивил вас. Опишите каждый одним-двумя предложениями: что вы спросили, что получили, что было разочаровывающим или удивительным.

Разберите каждый случай вместе с ИИ. Опишите, что произошло, и спросите: «Исходя из четырёх свойств (предсказание следующего токена, знания, рабочая память, управляемость), какие из них, вероятно, были задействованы здесь и почему?»
Оцените его диагноз с учётом того, что вы теперь знаете. Согласны ли вы? Если нет — возразите. (Вспомните «отпечаток» подхалимства из урока 3: ИИ может слишком охотно соглашаться с вашей трактовкой. Если вы считаете, что он ошибается, скажите об этом.)
По каждому диагнозу спросите: «Учитывая этот диагноз, какое исправление будет самым точечным?» Если можете, проверьте корректировку прямо сейчас на похожей задаче.

Теперь посмотрите на список задач из урока 1 со всеми накопленными пометками (теги свойств из урока 2, оценки проверки из урока 4, флаги знаний из урока 5, потребности в контексте из урока 6, формулировки целей из урока 7). Для задач, которые доставили вам больше всего хлопот, назовите, какие два свойства сталкивались. Запишите диагноз рядом с каждой.

Размышление над уроком

Изменило ли называние пары свойств то, какое исправление вы бы выбрали? До этого курса вы бы попробовали другое (менее эффективное) исправление?
Какую пару свойств, по вашему мнению, вы будете встречать чаще всего в повседневной работе?

Что дальше

В заключительном уроке мы соберём воедино всё, что вы построили, свяжем это с фреймворком 4D как единой системой и подскажем, куда двигаться, чтобы углубиться.

Обратная связь

По мере прохождения курса нам было бы интересно узнать, как вы применяете концепции курса в своей работе, а также услышать любые ваши отзывы. Поделитесь обратной связью здесь.

Благодарности и лицензия

Copyright 2026 Anthropic. Оригинальная работа на основе фреймворка AI Fluency, разработанного проф. Риком Дэйканом (Ringling College of Art and Design) и проф. Джозефом Феллером (University College Cork). Выпущено под лицензией CC BY-NC-SA 4.0.