Когда ассистент ошибается: типы ошибок и как их ловить

Люди ошибаются устало и небрежно — это видно по тону письма и по времени отправки. Ассистент ошибается ровно, аккуратно и уверенно: ответ готов за секунду, формулировки гладкие, только цифра не та.

Именно поэтому вопрос не «ошибается ли он», а «как быстро мы это заметим». Ниже — три типа ошибок, которые встречаются чаще всего, и то, что реально защищает от последствий.

01. Три типа ошибок

• Данные. Прочитал не ту строку, взял вчерашнюю выгрузку, перепутал однофамильцев.

• Трактовка. Понял просьбу буквально, когда имелась в виду другая задача.

• Действие. Всё понял верно, но нажал не там: отправил, удалил, поменял статус.

Первые два типа ловятся проверкой. Третий — только границами полномочий. Поэтому начинают всегда с границ.

02. Границы полномочий: что можно без спроса

• Читать и готовить — свободно: собрать, посчитать, разложить, предложить.

• Писать внутри — с отметкой: создать задачу, добавить в реестр, обновить статус.

• Отправлять наружу — только с подтверждением человека.

• Менять деньги и доступы — только явная команда и журнал.

• Удалять — либо нельзя, либо только в корзину.

03. Проверки перед действием

• сумма и количество сверяются с источником до отправки;

• адресат проверяется по карточке клиента, а не по строке переписки;

• если данных нет — уточняющий вопрос, а не догадка;

• повторная операция по тому же объекту требует явного подтверждения;

• «не понял» — нормальный результат, а не провал.

04. Журнал: главный инструмент доверия

Если ассистент что-то сделал, это должно быть видно: что именно, когда, по чьей команде и на основании каких данных. Без журнала спор с ассистентом превращается в спор о вкусах.

• запрос человека — дословно;

• какие данные использованы и от какого числа;

• что именно изменено: старое значение и новое;

• кто подтвердил, если требовалось подтверждение.

05. Что делать, когда ошибка уже случилась

• остановить задачу целиком, а не «поправить один случай»;

• найти все объекты, где повторилось то же условие;

• откатить изменение, если действие было обратимым;

• добавить правило или проверку, которая закрывает эту причину;

• записать разбор — коротко, в одно место.

06. Правила для людей, которые работают рядом

• не просить «сделай красиво» — просить конкретный результат;

• не править руками то, что ассистент ведёт: правка затрётся;

• сообщать о странном сразу, а не «когда накопится»;

• не давать команды в обход регламента «по-быстрому»;

• знать, где посмотреть журнал.

07. Как мерить качество

• доля задач, выполненных без правки человеком;

• число возвратов и уточнений;

• сколько ошибок нашлось до отправки, а сколько после;

• время на разбор одного инцидента;

• повторяемость: одна и та же ошибка дважды — уже системная.

08. Почему «попросить внимательнее» не работает

Ассистент не устаёт и не отвлекается — он ошибается там, где не хватает данных или правил. Просьба «будь аккуратнее» ничего не меняет: нужен конкретный источник проверки или явный запрет. Это главное отличие от работы с людьми, и его стоит принять до старта.

09. Как это работает на OpenClaw

OpenClaw — локальный ИИ-агент: работает на вашей машине или сервере. Правила и границы задаются текстом, а не программированием, и меняются без переписывания системы.

• Границы. Что можно без подтверждения — перечислено явно, остальное запрещено.

• Проверки. Сверка с источником до действия, отказ при неоднозначности.

• Журнал. Все действия и основания — в одном месте.

• Обратимость. Удаление — только в корзину, изменения — с историей.

10. С чего начать

• Список действий, которые точно нельзя делать без человека.

• Один источник правды для каждой цифры.

• Журнал включён с первого дня.

• Правило разбора: инцидент — повод поменять правило, а не «поговорить».

• Первая задача — только на чтение и подготовку.

Настроим границы до первого инцидента

Разберём, что ассистент может делать сам, а что только с подтверждением, и как будет выглядеть журнал. Без обязательств.

Кнопка: «Обсудить внедрение» → https://t.me/rightclaw

Частые вопросы

Можно ли совсем без ошибок?

Нет. Задача — сделать ошибки редкими, заметными и обратимыми. Полная безошибочность не обещается ни одной системой.

Кто отвечает за ошибку ассистента?

Тот, кто задал правило и подтвердил действие. Поэтому подтверждения и журнал важнее «умности» модели.

Как проверить, что он не врёт в отчёте?

Контрольная цифра: одна метрика, которую человек считает вручную раз в неделю. Расхождение видно сразу.

А если он «придумает» данные?

Правило простое: нет источника — нет ответа. Ассистент должен вернуть «данных нет», а не догадку.

Что делать при первом серьёзном сбое?

Остановить задачу, откатить, найти все затронутые объекты, добавить проверку. Разбор — в тот же день.