Возможности и ограничения

⏱️ Примерное время: ~12 минут · 🎯 Урок 5 курса «AI Fluency: основы и фреймворк» · 🎬 видео

Чему вы научитесь

К концу этого урока вы сможете:

определять основные возможности и ограничения современного генеративного AI.

Возможности и ограничения

*(7 минут)*

В этом видео мы разбираем, что генеративный AI способен и не способен эффективно делать на нынешнем этапе развития. Мы обращаем внимание на универсальность генеративного AI в работе с языковыми задачами, на его способность поддерживать естественный ход разговора и переключаться между самыми разными задачами без дополнительного обучения. Мы также рассматриваем ограничения: дату отсечения знаний, галлюцинации (фактически неверные ответы), ограничения контекстного окна и сложности с рассуждениями. Мы подчёркиваем, что эта область развивается крайне быстро, и поясняем, что самые эффективные сценарии применения объединяют взаимодополняющие сильные стороны человека и AI, работающих вместе.

Ключевые выводы

Генеративный AI создаёт новый контент (текст, изображения, код), а не просто анализирует уже существующие данные.
Современные системы вроде LLM стали возможны благодаря трём ключевым прорывам:

- алгоритмические и архитектурные прорывы (прежде всего архитектура «трансформер»); - огромные объёмы цифровых обучающих данных; - резкий рост вычислительных мощностей.

Генеративный AI обучается в два этапа: предварительное обучение (анализ закономерностей на миллиардах примеров) и дообучение (умение следовать инструкциям и давать полезные ответы).
К текущим возможностям относятся универсальность в разных задачах, понимание контекста разговора и способность подключаться к внешним инструментам.
К текущим ограничениям относятся дата отсечения знаний, вероятность галлюцинаций, ограничения контекстного окна и сложности со сложными рассуждениями.
Самые эффективные сценарии применения объединяют сильные стороны человека и AI, причём человек обеспечивает критическое мышление, суждение, творческий подход и этический контроль.

Упражнения

Рефлексия

Прежде чем двигаться дальше, уделите минуту следующим вопросам:

Как понимание технических основ генеративного AI (например, обучающих данных и этапов предварительного обучения и дообучения) меняет ваш взгляд на работу с этими системами?
Какие этические соображения приходят вам в голову после того, как вы узнали, как устроены эти системы и каковы их нынешние ограничения?

Что дальше

В следующем уроке мы подробнее рассмотрим первую из компетенций 4D — Делегирование. Вы научитесь принимать стратегические решения о том, как распределять работу между собой и AI, опираясь на понимание как своих целей, так и возможностей AI. Эта основа поможет вам осознанно определять, когда и как привлекать AI к творческим процессам и решению задач.

Обратная связь

По мере прохождения курса нам будет очень интересно узнать, как вы применяете идеи из курса в жизни, работе или учёбе, а также любые ваши отзывы. Поделиться обратной связью можно здесь.

Благодарности и лицензия

Copyright 2025 Rick Dakan, Joseph Feller и Anthropic. Опубликовано под лицензией CC BY-NC-SA 4.0. Этот курс основан на «The AI Fluency Framework» Дейкана и Феллера. Подготовлен при частичной поддержке Управления высшего образования Ирландии (Higher Education Authority, Ireland) через Национальный форум по совершенствованию преподавания и обучения.