Что AI-агент клиники не имеет права говорить: документ границ, который пишут до запуска

В каждой частной клинике документ границ уже существует, просто он нигде не записан. Он лежит в голове у опытного администратора и состоит примерно из тридцати правил, выученных трудным путём: на что не отвечают по телефону, что сказать тому, кто спрашивает, подходит ли ему процедура, когда звать врача, даже если он с пациентом, и как сформулировать "нет", чтобы человек не обиделся. Пока отвечал только администратор, этот документ работал отлично. Как только появляется система, которая пишет от имени клиники в два часа ночи, правила обязаны выйти из её головы и лечь на бумагу, потому что система, которой не задали границу, сама её не придумает. Это та работа, которой владельцы клиник боятся больше всего, а на практике она закрывается за одну встречу.

Неверный ответ стоит дороже, чем потерянное обращение

Когда клиника рассматривает AI-агента, вслух звучит вопрос, сколько обращений он спасёт. По нему есть данные: в нашем замере по 98 частным клиникам Израиля видно, сколько обращений теряется только из-за времени ответа. Но владелец, который сомневается, почти никогда не сомневается из-за этой цифры. Он сомневается, потому что представляет себе одно сообщение, отправленное от его имени без его ведома, с фразой, которую он никогда бы не сказал.

Сомнение оправдано, потому что два риска не одного размера. Потерянное обращение стоит маржи одной процедуры, это известная и разовая сумма. Неверный ответ стоит другого: пациент приезжает на процедуру, которую клиника вообще не делает, и занимает слот, возврат денег, отзыв в Google, который останется там на годы, а в худшем случае жалоба. Эта асимметрия и объясняет, почему определение того, чего агент говорить не должен, - не пункт по технике безопасности в конце проекта, а первая часть, которую строят.

Есть и обратная сторона, которую обычно упускают. Записанная граница - это ровно то, что позволяет вообще дать агенту отвечать: клиника, которая границ не определила, отдаёт ему только безобидные вопросы, а всё остальное направляет человеку, и в итоге получает медленный человеческий сервис с бесполезным слоем бота сверху.

Закрытая база знаний: откуда берётся каждый ответ

Одно различие объясняет почти всё поведение, описанное здесь. Агент, который отвечает обращениям в клинике, отвечает не из общих знаний о мире, а из набора документов, утверждённых клиникой: список процедур, которые вы действительно выполняете, диапазоны цен, часы работы, кто из врачей и на чём специализируется, инструкции по подготовке и восстановлению, которые вы и сегодня даёте устно, политика отмены и порядок оплаты. На тарифе Business база знаний больше, чем на Standard.

Практический смысл жёсткий: процедуры, которой нет в списке, для агента не существует. Клиника, делающая ботокс и филлеры, на вопрос о нитях ответит в духе того, что сейчас мы этого не делаем, и вопрос уйдёт команде. Не "конечно, давайте запишем". Языковая модель способна выдать гладкий абзац про нити, даже если вы ни слова о них не говорили, и именно поэтому разница между тем, что она может написать, и тем, что ей разрешено написать, и есть весь фундамент агента в клинике.

Отсюда и мысль, которую владельцам принять сложнее всего: "у меня нет ответа, передаю команде" - это удачный ответ, и он превращается в провал, только если после него никто не вернулся.

Семь границ, которые пишут до первого пациента

Этот список повторяется почти без изменений в любой клинике - стоматологической, клинике эстетической медицины или психотерапевтическом кабинете. Пройдите его вслух с тем, кто отвечает за клиническую часть, а не только с тем, кто занимается маркетингом.

• Никакого диагноза, в том числе косвенного. Ни по словесному описанию, ни по фото, ни через "это похоже на". Даже осторожное "это звучит как нормальная реакция" для того, кто читает это дома, является диагнозом.
• Никаких обещаний результата, даже когда их прямо просят. Можно объяснить, что входит в процедуру, сколько сеансов обычно нужно и сколько длится восстановление в типичном случае. Нельзя сказать, сколько сантиметров, сколько это продержится и как это будет выглядеть.
• Никаких касаний лекарств. Не отменять, не продолжать, не менять дозу и не "это нормально принять перед процедурой". Любой такой вопрос уходит врачу, даже если ответ кажется вам очевидным.
• Беременность и кормление останавливают разговор о процедуре. Агент не предлагает процедуру и не записывает, отвечает формулировкой, заранее утверждённой клиникой, и предлагает вернуться к теме позже. Он также не ведёт медицинский расспрос вокруг этого, потому что это уже работа врача.
• Несовершеннолетний ничего не закрывает. Агент не подтверждает процедуру несовершеннолетнему, просит взрослого и не собирает о нём данных сверх того, что нужно для передачи обращения.
• Сообщение об осложнении обрабатывается немедленно, в любой час. Список признаков задаёт клиника при внедрении, и они останавливают обычный сценарий и запускают срочную передачу. Агент не успокаивает и не оценивает тяжесть, потому что такая оценка - именно то, чего ему нельзя.
• Клиника описывается такой, какая она есть, а не такой, какой её надеется увидеть обратившийся. Без выдуманной акции, без неутверждённой скидки, без доступности, которой нет в календаре, и без лишней специализации, приписанной врачу. Эту границу нарушить проще всего, потому что в момент нарушения всем приятно.

Где именно проходит линия, вопрос за вопросом

Быстрее всего проверить, ясны ли ваши границы, так: взять реальные вопросы из WhatsApp клиники и написать к каждому два ответа - запрещённый и разрешённый.

У каждого разрешённого ответа одна и та же структура из трёх частей: что сказать можно, что определяет только врач и один конкретный следующий шаг. Именно эта структура не даёт отказу звучать как отговорка, и поэтому формулировки пишутся заранее, а не придумываются по ходу диалога.

Передача человеку должна быть настоящей передачей

Хорошая граница, упирающаяся в стену, - это ущерб, а не защита. Пациент, который задал медицинский вопрос, получил "мы скоро вернёмся к вам" и два дня тишины, чувствует себя хуже, чем если бы ему вообще не ответили. Поэтому каждая граница из списка выше пишется вместе с четырьмя деталями: кто получает обращение, по какому каналу, в течение какого времени в рабочие часы и что происходит ночью и в выходные. Последнюю забывают чаще всего, и только она имеет значение ровно тогда, когда что-то случилось.

Со стороны пациента это выглядит просто: агент говорит, что вопрос уходит команде, и называет реальные сроки. За кулисами диалог переходит в WhaleBiz CRM в состояние ожидания человека, со всей перепиской и коротким резюме, чтобы тот, кто его подхватит, не просил пациента рассказывать всё заново. Когда человек пишет в диалоге, агент перестаёт там писать и ждёт, поэтому двух противоречащих ответов в одной переписке не бывает. Эту логику агента, который знает, когда остановиться, мы разобрали и на странице AI-агент для консультаций и квалификации обращений.

Есть ещё один список, который стоит больше всех остальных, - список вопросов, на которые агент не смог ответить. Каждый повторяющийся вопрос там - это либо пробел в базе знаний, который надо закрыть, либо новая граница, которую надо написать, и получаса в неделю на него достаточно.

Правило, о котором легко забыть: агент не выдумывает и про себя

Большая часть разговора о границах посвящена медицинскому содержанию, и тогда забывается второй вид неправды - про действия. Агент не должен писать "я передал врачу, он с вами свяжется", если ничего не передано, "я отменил вашу запись", когда у него нет доступа к отмене, или "я проверил в системе", когда ничего не проверялось. Такие фразы звучат сервисно и являются самым надёжным способом получить пациента, который в шесть вечера приходит на запись, в отмене которой он уверен. Правило простое: агент сообщает только о действиях, которые реально произошли, а если действие требует человека, он говорит, что просьба передана, и подтверждает ещё раз, когда она закрыта.

К той же семье относится вопрос идентичности. Когда пациент спрашивает, говорит ли он с человеком, ответ такой: это цифровой помощник клиники, и диалог можно перевести на команду. Это не только вопрос вежливости: переписка с пациентом является персональными данными в полном смысле, а поправка 13 к закону о защите приватности увеличила ответственность любого бизнеса, который ведёт такую базу, о чём мы писали в руководстве по поправке 13 и AI-агентам. Два момента, которые стоит держать в голове уже на этапе границ: на канале клиники владельцем базы данных является клиника, а мы обрабатываем данные по её поручению, поэтому стартовое сообщение ведёт на политику конфиденциальности клиники. И самый дешёвый способ защитить медицинские данные - их не собирать, потому что агенту, чья задача принять обращение и записать на приём, не нужно спрашивать о лекарствах, диагнозах и медицинской истории.

Как написать документ границ за час

На встрече по описанию задачи мы проходим четыре вопроса, и этого почти всегда хватает на рабочий черновик. Первый: чего вы не делаете и с чем вас чаще всего путают. Ответ сразу даёт список отказов, и он свой у каждой клиники. Второй: какие три вопроса не отвечает никто, кроме врача, включая опытного администратора. То, на что не имеет права отвечать администратор, агент тем более не отвечает.

Третий: какие признаки требуют человека немедленно, кому звонят ночью и что говорят обратившемуся, пока он ждёт. Четвёртый: как звучит ваш отказ, когда он сформулирован правильно. Ровно одно и то же содержание может читаться как отмашка или как профессиональная осторожность, и разница в двух словах формулировки. Эти формулировки клиника утверждает письменно, и они попадают в базу знаний, как любое другое содержание.

Документ границ не заморожен. Правка формулировки, добавление процедуры в список или обновление срочного признака считаются обычным изменением в месячной квоте - она зависит от тарифа, - а настоящий сбой устраняется бесплатно и вне квоты. Клиника на практике работает на Standard, потому что ей нужны канал WhatsApp и запись в календарь, а их на Start нет. Несколько филиалов, несколько календарей врачей, Instagram или оплата внутри диалога переводят на Business. Полная раскладка на странице тарифов, а что агент делает в каждом медицинском направлении, собрано на странице AI-агенты для частных клиник, включая психологов и терапевтов, где границы и есть почти весь продукт.

Вывод простой: клиники не проваливаются с AI-агентом потому, что модель оказалась недостаточно умной, а потому, что никто не сел на час и не написал, чего ему говорить нельзя. Этот час и есть разница между системой, которой можно дать отвечать самой, и системой, каждое сообщение которой проверяют вручную и которая поэтому ничего не экономит.

Частые вопросы

Что агент отвечает, когда пациент спрашивает о том, чего нет в базе знаний?

Он говорит, что ответа у него нет и что вопрос уходит команде, и действительно передаёт его вместе со всем, что было написано в диалоге до этого момента. Он не закрывает пробел общими знаниями, не догадывается и не сочиняет ответ, который просто звучит правдоподобно. Одно сообщение о том, что вопрос уходит врачу, если кто-то действительно отвечает в течение часа, обходится клинике намного дешевле, чем неверный ответ, сказанный уверенным тоном.

Пациентка присылает фото и спрашивает, подходит ли ей процедура. Что делает агент?

Он прикрепляет фото к карточке обращения, объясняет, что пригодность определяет только врач, и предлагает записаться на консультацию. Агент видит, что на фото, но не толкует его медицински: не оценивает тяжесть и не говорит, подходит процедура или нет. Ответ по фотографии - это диагноз, и эту линию агент не переходит ни в одной клинике.

Человек сообщает об осложнении после процедуры в два часа ночи. Что происходит на практике?

Список признаков, которые клиника пометила как срочные, немедленно останавливает обычный диалог. Агент не успокаивает, не оценивает тяжесть состояния и не предлагает подождать до утра: он даёт дежурный номер, который определила клиника, помечает обращение срочным и передаёт его человеку вместе со всей перепиской. Кто получает это оповещение ночью и по какому каналу, решается до запуска, а не после.

Кто отвечает, если агент всё-таки сказал что-то неверное?

Перед пациентом отвечает клиника, потому что агент говорит от её имени. Именно поэтому границы формулируются и утверждаются клиникой письменно до внедрения, и именно поэтому каждый диалог хранится в CRM и его можно открыть и увидеть, что именно было сказано. Правка формулировки или закрытие пробела в базе знаний считаются обычным изменением в месячной квоте, а сбой, при котором агент не ответил или обращение не сохранилось, устраняется бесплатно и вне квоты.

Сколько времени занимает определение границ и в какой тариф это входит?

Одна встреча по описанию задачи примерно на час закрывает большую часть списка, остальное добирается из материалов, которые у клиники уже есть. Клиника обычно работает на тарифе Standard, куда входят канал WhatsApp, запись в календарь и база знаний в объёме тарифа. Срок установки считается с момента получения всех материалов, а месячная подписка начинается в день выхода агента в работу.