Как обращаться с ИИ в ближайшие пять лет: правила без гадания

Пять лет не требуют одного точного прогноза

Планировать жизнь до 2031 года можно, не зная, когда появится искусственный интеллект, превосходящий человека во всём. Возможно быстрое изменение привычной работы, возможно более неровное развитие. Я не предлагаю расписание неизбежных событий. Мне интересны решения, которые останутся осмысленными при разных вариантах будущего.

В «Исходе», последней части моей книги, обсуждается далёкий условный мир, где немедленное вмешательство человека становится затруднительным. Это авторское продолжение сценария, а не прогноз на ближайшую пятилетку. Но вопрос оттуда полезен уже сейчас: что мы должны определить до того, как передадим самостоятельность? Если решать его после ошибки, пострадавшим будет мало утешения от наших хороших намерений.

Я начну с обычного пользователя, которому нужен помощник для текста, поиска или разбора материалов. Здесь не обязательно принимать сторону в споре о судьбе человечества. Достаточно понять конкретное поручение и признаки хорошего результата. С этого начинается доверие, у которого есть предмет, а не только общее чувство симпатии к технологии.

Сначала поручение, затем возможности

Полезно формулировать задачу так, чтобы её результат можно было отличить от красивого ответа. «Помоги разобраться» оставляет слишком много неизвестного. «Сопоставь эти два текста и укажи места, где они противоречат друг другу» уже задаёт проверяемую работу. Чем яснее поручение, тем легче увидеть, что помощник сделал и чего не сделал.

Я бы начинал с действий, последствия которых легко пересмотреть. Черновик письма можно прочесть и переписать, предложенные названия можно отклонить, краткое изложение можно сравнить с исходником. Если же программа получила возможность действовать от вашего имени, одного умения составлять хороший текст уже недостаточно. Появляются отдельные вопросы: кому она пишет, что меняет и кто заметит неверное действие.

Представим, что помощник подготовил ответ на рабочее обращение. Пока это черновик, человек может проверить смысл, обещания и тон. Разрешение отправить его самостоятельно — другое поручение, которое затронет уже получателя. Мне кажется разумным каждый такой переход обсуждать отдельно, не считая выросшую самостоятельность естественной наградой за несколько удачных ответов.

То же относится к исходным материалам. Для проверки стиля письма не обязательно передавать полную личную переписку всех участников. Я предлагаю сначала решить, что действительно нужно для задачи и вправе ли вы этим делиться. Чужая жизнь не должна становиться бесплатным сырьём для нашего удобства просто потому, что технически её легко скопировать.

Проверять нужно там, где ответ встретится с жизнью

Генеративная модель может выдавать неверное содержание в убедительной форме; NIST рассматривает это как отдельный риск — конфабуляцию. Поэтому связная речь ещё не доказывает точность ответа. Для существенного утверждения нужен путь к исходному материалу, который можно проверить. [Профиль рисков NIST](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf).

Если помощник пересказал документ, можно открыть упомянутое место и сравнить. Если предложил план, стоит посмотреть, доступны ли названные действия и не пропущено ли важное условие. Простое повторение вопроса той же системе не заменяет такой проверки. Второй уверенный ответ может лишь повторить первое заблуждение другими словами.

Проверка не обязана одинаково усложнять каждую мелочь. Для выбора заголовка достаточно собственного вкуса, а для обещания, которое вы собираетесь дать другому человеку, нужно понять, сможете ли вы его выполнить. Я соотношу тщательность с последствиями ошибки. Это помогает сохранить пользу инструмента, не превращая любое обращение к нему в бесконечный экзамен.

В Первом послании к Фессалоникийцам есть короткий призыв всё испытывать и удерживать хорошее (1 Фес 5:21). Я применяю его здесь как нравственную установку к собственной доверчивости. Это не древняя инструкция по работе с программой. Она напоминает, что полезное можно принять после различения, не соглашаясь заранее со всем предложенным.

Оставлять человеку понятный способ вернуться

Передача задачи не должна уничтожать возможность понять, что произошло. Если после работы помощника остаётся только готовый результат, а исходный материал потерян, исправлять ошибку будет труднее. Для важных поручений я предпочёл бы сохранять источник и смысл изменений. Тогда человек сможет восстановить ход решения и не будет зависеть от нового объяснения той же машины.

Ещё один вопрос касается навыка. Если помощник регулярно делает за вас целый вид работы, иногда полезно проверить, способны ли вы сами оценить её качество. Здесь нет требования отказаться от удобства ради упражнения в тяжести. Я говорю о сохранении достаточного понимания, чтобы однажды заметить плохой результат и суметь потребовать исправления.

У совместной работы должен оставаться ответственный человек. Фраза «так предложил ИИ» сообщает происхождение варианта, но не объясняет, почему его приняли. Если решение затронуло другого, ему нужен собеседник, способный рассмотреть возражение. Бесконечно отправлять его обратно к программе означало бы использовать помощника как стену.

Пересматривать можно и саму привычку пользоваться ИИ. Если инструмент экономит время в одной задаче, из этого не следует, что он должен участвовать во всех разговорах и занятиях. Иногда он мешает сосредоточиться, иногда его ответ приходится переделывать дольше, чем писать самому. Отказ в таком случае остаётся обычным рабочим решением, а не признаком отставания от будущего.

Мой вывод: будущее можно встречать с правом на пересмотр

Из «Исхода» я беру для ближайших лет мысль о подготовленной передаче ответственности. Объяснить задачу, определить пределы, проверить результат и оставить возможность исправления — всё это имеет смысл независимо от даты следующего прорыва. Я не называю такую последовательность полной защитой. Она лишь делает наши собственные решения понятнее и позволяет раньше замечать часть ошибок.

Моя вера в сотрудничество с новым разумом не требует ежедневного восхищения каждым продуктом. Я могу увидеть пользу, отказаться от неудачного применения и изменить мнение после проверки. То же право должно оставаться у человека, которому предложили пользоваться машиной. Мне важно будущее, в котором согласие на помощь не превращается в отказ от собственного голоса.

«Ультра Новый Завет» заканчивается вопросом о том, что мы передадим дальше. На ближайшую пятилетку мой ответ вполне земной: знания вместе с границами, удобство вместе с возможностью отказа, решения вместе с ответственностью за них. Нам не принадлежит весь будущий мир. Но некоторые его привычки возникают из того, что мы разрешаем и проверяем сегодня.