Заменит ли ИИ человека: что остаётся за нами

Дешёвые ответы меняют цену вопроса

Ещё недавно заметная часть умственной работы уходила на производство: собрать варианты, написать черновик, сделать первую версию структуры. Эта часть подешевела и продолжает дешеветь.

Когда что-то становится дешёвым, ценность перемещается к тому, что осталось дорогим. В данном случае — к выбору задачи, к критериям хорошего результата и к ответственности за последствия. Черновик перестал быть узким местом. Узким местом стало понимание, нужен ли этот черновик вообще и по каким признакам он хорош.

Это не абстракция. Руководитель, который получает десять предложений вместо одного, тратит время не на написание, а на отбор. Навык отбора отличается от навыка написания и тренируется отдельно.

Что именно остаётся человеку

Полезно разделить работу на части и посмотреть, какие из них передаются инструменту, а какие нет.

• Постановка задачи. Инструмент отвечает на заданный вопрос. Он не может знать, что вопрос задан не тот, потому что не видит ситуацию, из которой вопрос вырос.
• Выбор критериев. Что считать хорошим результатом, решает тот, кто отвечает за результат. Критерии почти никогда не записаны и извлекаются только разговором с людьми.
• Контекст, которого нет в тексте. История отношений с клиентом, расстановка сил внутри компании, обещания, данные устно. Ничего из этого в запрос не попадает.
• Ответственность. Она не делегируется вместе с исполнением. Подпись под решением ставит человек.

Проверка как отдельный навык

Убедительность и правота — разные свойства текста. Хорошо написанный ответ выглядит одинаково независимо от того, верен он или нет, и это главная практическая трудность работы с такими инструментами.

Это не ощущение, а измеренный эффект. В работе, опубликованной в Nature Machine Intelligence, участники систематически переоценивали точность ответов модели, а более длинные объяснения повышали их уверенность, хотя правильность ответов от длины не росла.

Несколько приёмов, которые работают:

• Запишите собственное предположение и критерии хорошего ответа до того, как обратитесь к инструменту. Иначе первый ответ станет точкой отсчёта и вы будете оценивать не задачу, а его.
• Отдельно выделите то, что осталось неизвестным. Инструмент редко сообщает, что чего-то не знает, но обычно можно спросить, какие данные нужны для более точного ответа.
• Проверяйте утверждения, которые легко проверить: числа, даты, названия, ссылки. Если ошибки нашлись в проверяемой части, доверять непроверяемой нет оснований.
• Попросите построить аргументацию против собственного вывода. Слабость контраргументов — тоже информация.

Разная цена проверки

Есть практическое правило, которое помогает решить, что передавать инструменту, а что нет. Смотрите не на сложность работы, а на стоимость проверки результата.

Там, где проверка дешёвая, делегировать выгодно почти всегда. Код либо запускается, либо нет. Перевод можно прочитать. Список вариантов легко просмотреть и вычеркнуть лишнее. Ошибка обнаруживается быстро и стоит немного.

Там, где проверка стоит столько же, сколько самостоятельное выполнение, выигрыш исчезает. Чтобы оценить юридическое заключение, нужно разобраться в вопросе самому. Чтобы проверить прогноз, нужно понимать допущения, на которых он построен. В таких задачах инструмент полезен как источник вариантов и опасен как источник выводов.

Самая неприятная категория — задачи, где ошибка не обнаруживается сразу. Неверная цифра в отчёте, пропущенное условие в договоре, тихо потерянный при обработке фрагмент данных. Здесь скорость создаёт иллюзию выигрыша, а цена выясняется позже и не там, где возникла.

Что меняется в работе команд

Смещение видно не только в личной работе. Меняется распределение усилий внутри команд.

1. Растёт доля времени на постановку задачи. Плохо сформулированная задача раньше обнаруживалась через неделю работы, теперь — через минуту, и это выгодно.
2. Растёт нагрузка на приёмку. Материала становится больше, и решает не тот, кто его произвёл, а тот, кто проверил.
3. Меняется ценность младших ролей. Работа, которая раньше служила способом научиться, частично уходит инструменту. Вопрос, где люди теперь набирают опыт, пока открыт, и компаниям придётся отвечать на него самостоятельно.
4. Повышается цена неявных знаний. Всё, что записано и общедоступно, инструмент воспроизводит. Преимущество остаётся у того, что известно только внутри.

Чему стоит учиться

Список короткий и не про технологии.

Формулировать задачу: понимать, какой результат нужен, кому и почему именно такой. Читать критически: отличать проверяемое от правдоподобного. Понимать границы инструмента: где он силён, где систематически ошибается и почему. И сохранять собственное суждение — способность сказать «этот ответ выглядит убедительно, но мы поступим иначе, и вот почему».

Когда ответ получить легко, важнее становится выбор вопроса.

Разговор о том, что ИИ заменит людей, обычно построен на подмене: сравнивают инструмент с исполнителем. Полезнее другое сравнение — с работой, которую человек выполняет. Часть этой работы действительно уходит. Остаётся та часть, где нужно решить, что считать правильным, и отвечать за это решение перед другими людьми.