В феврале 2024 г. Трибунал по гражданским спорам Британской Колумбии (Civil Resolution Tribunal) признал, что компания несёт ответственность за некорректную информацию, выданную её веб‑чат‑ботом. Решение стало ориентиром для практик, где ИИ взаимодействует с потребителями.
Польза для читателя. Кейс показывает, как трактуется «ответственность человека» (مَسْؤُولِيَّةٌ بَشَرِيَّةٌ — человеческая ответственность) и «прозрачность» (شَفَافِيَّةٌ) в потребительских сервисах. Материал переводит выводы в чек‑листы и требования к процессам.
Коротко
- Информация от чат‑бота приравнивается к информации сайта компании.
- Ответственность не переносится на «алгоритм»; должна быть назначена ответственная роль.
- Должны быть опубликованы ограничения и единая версия политики для всех каналов.
- Должны вестись логи диалогов, маршруты эскалации и процедуры исправления ошибок.
Фон: кто, что, где, когда
Организация/домен. Air Canada; потребительские онлайн‑сервисы авиаперевозчика (веб‑сайт, чат‑бот).
Таймлайн.
- 11.11.2022. Пользователь изучает тариф «bereavement» (скорбный тариф) и получает ориентиры цены у сотрудника кол‑центра.
- 17.11.2022. Пользователь опирается на ответ веб‑чат‑бота: скидку якобы можно оформить ретроспективно в пределах 90 дней. Покупает билет и подает заявление на частичный возврат.
- 12.2022–02.2023. Переписка с поддержкой; признано, что ответ бота был «вводящим в заблуждение», но в возврате отказано.
- 14.02.2024. Решение Трибунала: установлена небрежная недостоверность (negligent misrepresentation); назначена компенсация (сумма — ниже в разделе «Результаты»).
Источник данных. Решение Трибунала и обзоры юрфирм/СМИ; детали политики тарифа на сайте авиакомпании.
Задача и критерии успеха
Задача компании. Предоставление достоверной, согласованной информации о тарифе и понятной процедуры возврата, единообразной во всех каналах (сайт, чат‑бот, операторы).
Критерии успеха.
- В каналах отсутствуют противоречия.
- Пользователь получает одинаковый ответ и предсказуемый результат.
- Есть публичные ограничения и понятные сроки/условия.
- Наличие ответственного лица и работающих механизмов апелляции.
Оценка по Кодексу: соответствия, расхождения, меры
| Положение/норма Кодекса | Наблюдение в кейсе | Статус | Корректирующая мера |
|---|---|---|---|
| Прозрачность; запрет غَرَر (неопределённости); должны вестись логи | Чат‑бот сообщил иначе, чем веб‑страница; логики согласования нет | Расхождение | Должны вестись логи всех диалогов; должна быть единая витрина политики и версия‑истина (single source of truth) для бота, сайта и операторов |
| Человеческая ответственность (مَسْؤُولِيَّةٌ بَشَرِيَّةٌ) | Попытка переложить вину на «отдельный» чат‑бот | Расхождение | Должен быть назначен ответственный за контент бота и за потребительские коммуникации; принятие решений должно быть оставлено за человеком |
| Право пользователя на апелляцию | Заявителю отказано, несмотря на логичное полагание на официальный канал | Расхождение | Должна быть определена точка контакта для апелляций; должны фиксироваться сроки и порядок рассмотрения |
| Предотвращение вреда и защита имущества | Покупка по полной цене при ожидании скидки | Расхождение | Должны быть опубликованы ограничения и «границы ответственности»; должна работать добросовестная компенсация при ошибках системы |
| Учёт нормативных требований | Обработка обращения в рамках потребительского права | Частичное соответствие | Должны вестись логи и храниться доказательства добросовестных усилий; должны обновляться процедуры в соответствии с локальным правом |
Решение: процессы, архитектура, контроль, аудит
Процессы.
- Владение политиками: должна быть единая модель политик и правил тарифа; «истина» хранится в базе знаний, откуда её читают сайт, бот и операторы.
- Управление изменениями: необходимо, чтобы обновления правил проходили сквозной выпуск с чек‑листом, тестами и уведомлениями.
- Ошибки/апелляции: должны вестись логи и тикеты; SLA на ответ и компенсации.
Архитектура.
- Разделение обязанностей: контент и процедуры — в управляемом репозитории; ИИ‑часть — в изолированном слое, который не генерирует «новые правила», а только извлекает утверждённые тексты.
- Защита от галлюцинаций: retrieval‑подход с принудительной цитатой из «версии‑истины»; фильтры ответов.
- Баннер‑ограничения: визуальный блок с «Что бот делает/не делает» и ссылками на политику.
Контроль и аудит.
- Роли: назначается владелец продукта и владелец контента.
- Аудит: периодические проверки соответствия, A/B‑пробы ответов, внешний аудит критичных сценариев.
- Метрики: противоречия между каналами, доля апелляций, скорость исправлений («time‑to‑fix»), компенсации.
Результаты: метрики, уроки, улучшения
Итог по делу. Трибунал присудил частичную компенсацию: $650,88; также начислены проценты до решения и оплачен сбор трибунала.
Уроки.
- Нельзя считать чат‑бот «отдельным лицом»; все каналы — часть одной системы.
- В потребительских сценариях необходима «версия‑истины» и видимые ограничения.
- Право пользователя на разумную доверчивость к официальному каналу должно уважаться.
Что улучшить.
- Сократить цикл исправления ошибок (отклики, хотфиксы, обновления базы знаний).
- Расширить мониторинг: триггеры на потенциально «дорогостоящие» обещания и несоответствия.
- Раздельные «режимы честности»: для продаж — строгая цитата, для справки — аккуратная генерация с ссылками.
Проверка «вне Кодекса»
- Потребительское право/недобросовестная практика: запрет вводить в заблуждение; ответственность владельца канала.
- Конфликты каналов: приоритет имеет официальная политика, но пользователь вправе полагаться на официальный бот как часть сайта.
- Защита данных: логи и обращения должны храниться с учётом локального права.
Чек‑лист «Повторить у себя»
- Должен быть назначен ответственный за контент и за ИИ‑каналы.
- Должна быть определена точка контакта для апелляций.
- Должны вестись логи диалогов бота, версий политик и публикаций.
- Должны быть опубликованы ограничения бота и границы его компетенции.
- Принятие решений должно быть оставлено за человеком (финальные компенсации/исключения).
- Необходимо, чтобы у бота был доступ только к утверждённой базе знаний.
- Следует внедрить сквозной процесс изменения правил с тестами и уведомлениями.
- Следует отслеживать метрики: противоречия, апелляции, time‑to‑fix, компенсации.
- Следует проводить регулярный внешний аудит критичных сценариев.
- Следует обучать сотрудников работать с апелляциями и «исправлением обещаний» бота.
Предложения к обновлению (продукт/процесс)
- В интерфейсе бота — модуль «Проверить меня на сайте»: каждая справка сопровождается ссылкой на соответствующий раздел политики.
- «Флажки риска» в модерации ответов: обещания денег/скидок, срочных сроков и т.п. требуют обязательной человеческой проверки.
- Автоматический «recall»: при исправлении политики бот повторно уведомляет заявителей, затронутых прежними ответами.
Дисклеймер. Материал предназначен для обучения и повышения качества практик; не является фатвой (فَتْوَى), аудитом или юридической консультацией.