2024 елның февралендә Британия Колумбиясенең гражданлык бәхәсләре трибуналы (Civil Resolution Tribunal) компаниянең үз веб-чат-боты биргән дөрес булмаган мәгълүмат өчен җаваплы булуын таныды. Карар ЯИ кулланучылар белән аралашкан тәҗрибәләр өчен юнәлеш булды.
Укучы өчен файда. Бу очрак кулланучылар хезмәтләрендә «кешенең җаваплылыгы» (مَسْؤُولِيَّةٌ بَشَرِيَّةٌ — кеше җаваплылыгы) һәм «ачыклык» (شَفَافِيَّةٌ) ничек аңлатылуын күрсәтә. Материал нәтиҗәләрне тикшерү исемлекләренә һәм процессларга таләпләргә әйләндерә.
Кыскача
- Чат-бот мәгълүматы компания сайтының мәгълүматына тиңләштерелә.
- Җаваплылык «алгоритмга» күчерелми; җаваплы роль билгеләнергә тиеш.
- Чикләүләр һәм барлык каналлар өчен сәясәтнең бердәм версиясе бастырылырга тиеш.
- Диалог журналлары, мәсьәләне югарырак дәрәҗәгә тапшыру юллары һәм хаталарны төзәтү тәртипләре алып барылырга тиеш.
Вакыйганың нигезе: кем, нәрсә, кайда, кайчан
Оешма/өлкә. Air Canada; авиакомпаниянең кулланучылар өчен онлайн хезмәтләре (веб-сайт, чат-бот).
Вакыйгалар тәртибе.
- 11.11.2022. Кулланучы «bereavement» (якын кешесе үлү сәбәпле тариф) шартларын өйрәнә һәм кол-үзәк хезмәткәреннән бәя турында мәгълүмат ала.
- 17.11.2022. Кулланучы веб-чат-бот җавабына таяна: янәсе, ташламаны соңыннан, 90 көн эчендә рәсмиләштерергә мөмкин. Билет сатып ала һәм акчаның бер өлешен кире кайтаруга гариза бирә.
- 12.2022–02.2023. Ярдәм хезмәте белән язышу; бот җавабының «ялгыш юлга этәрүче» булуы таныла, ләкин акчаны кире кайтарудан баш тартыла.
- 14.02.2024. Трибунал карары: ваемсызлык аркасында дөрес булмаган мәгълүмат бирү (negligent misrepresentation) билгеләнә; компенсация билгеләнә (суммасы түбәндә, «Нәтиҗәләр» бүлегендә).
Мәгълүмат чыганагы. Трибунал карары һәм юридик фирмалар/ММЧ күзәтүләре; авиакомпания сайтындагы тариф сәясәтенең нечкәлекләре.
Бурыч һәм уңыш критерийлары
Компаниянең бурычы. Тариф турында ышанычлы, үзара ярашлы мәгълүмат һәм барлык каналларда (сайт, чат-бот, операторлар) бертөрле булган аңлаешлы кире кайтару тәртибен бирү.
Уңыш критерийлары.
- Каналларда каршылыклар юк.
- Кулланучы бер үк җавап һәм алдан көтеп була торган нәтиҗә ала.
- Ачык чикләүләр һәм аңлаешлы сроклар/шартлар бар.
- Җаваплы зат һәм эшли торган шикаять итү механизмнары бар.
Кодекс буенча бәяләү: туры килүләр, аермалар, чаралар
| Кодекс нигезләмәсе/нормасы | Очрактагы күзәтү | Хәл | Төзәтү чарасы |
|---|---|---|---|
| Ачыклык; غَرَر (билгесезлек) тыю; журналлар алып барылырга тиеш | Чат-бот веб-биттән аермалы мәгълүмат биргән; яраштыру логикасы юк | Туры килмәү | Барлык диалогларның журналлары алып барылырга; бот, сайт һәм операторлар өчен сәясәтнең бердәм күрсәтелеше һәм бердәнбер дөрес чыганак (single source of truth) булырга тиеш |
| Кеше җаваплылыгы (مَسْؤُولِيَّةٌ بَشَرِيَّةٌ) | Гаепне «аерым» чат-ботка күчерү омтылышы | Туры килмәү | Бот эчтәлеге һәм кулланучылар белән аралашу өчен җаваплы кеше билгеләнергә; карар кабул итү кешедә калырга тиеш |
| Кулланучының шикаять итү хокукы | Гариза бирүчегә, аның рәсми каналга нигезле таянуына карамастан, баш тартылган | Туры килмәү | Шикаятьләр өчен элемтә ноктасы билгеләнергә; карау сроклары һәм тәртибе теркәлергә тиеш |
| Зарарны булдырмау һәм малны саклау | Ташлама көткән хәлдә тулы бәядән сатып алу | Туры килмәү | Чикләүләр һәм «җаваплылык чикләре» бастырылырга; система хаталары очрагында намуслы компенсация эшләргә тиеш |
| Норматив таләпләрне исәпкә алу | Мөрәҗәгатьне кулланучылар хокукы кысаларында эшкәртү | Өлешчә туры килү | Журналлар алып барылырга һәм намуслы тырышлыкларның дәлилләре сакланырга; тәртипләр җирле хокукка туры китереп яңартылырга тиеш |
Чишелеш: процесслар, архитектура, контроль, аудит
Процесслар.
- Сәясәтләр өчен җаваплылык: сәясәтләрнең һәм тариф кагыйдәләренең бердәм моделе булырга тиеш; «дөрес мәгълүмат» белем базасында саклана, сайт, бот һәм операторлар аны шуннан укый.
- Үзгәрешләр белән идарә итү: кагыйдә яңартулары тикшерү исемлеге, тестлар һәм хәбәрләр белән барлык каналларга бердәй чыгарылырга тиеш.
- Хаталар/шикаятьләр: журналлар һәм мөрәҗәгать язмалары алып барылырга тиеш; җавап һәм компенсация өчен SLA.
Архитектура.
- Бурычларны бүлү: эчтәлек һәм тәртипләр — идарә ителә торган репозиторийда; ЯИ өлеше — «яңа кагыйдәләр» тудырмыйча, расланган текстларны гына чыгаручы аерым катламда.
- Галлюцинацияләрдән яклау: «бердәнбер дөрес чыганактан» мәҗбүри цитата белән эзләп чыгару алымы; җавап сөзгечләре.
- Чикләүләр баннеры: «Бот нәрсә эшли/эшләми» дигән күренмә блок һәм сәясәткә сылтамалар.
Контроль һәм аудит.
- Рольләр: продукт өчен җаваплы кеше һәм эчтәлек өчен җаваплы кеше билгеләнә.
- Аудит: туры килүне вакыт-вакыт тикшерү, җавапларны A/B сынау, кискен сценарийларга тышкы аудит.
- Күрсәткечләр: каналлар арасындагы каршылыклар, шикаятьләр өлеше, төзәтү тизлеге («time-to-fix»), компенсацияләр.
Нәтиҗәләр: күрсәткечләр, сабаклар, яхшыртулар
Эш буенча нәтиҗә. Трибунал өлешчә компенсация билгеләде: $650,88; шулай ук карарга кадәрге процентлар исәпләнде һәм трибунал җыемы түләнде.
Сабаклар.
- Чат-ботны «аерым зат» дип санарга ярамый; барлык каналлар — бер системаның өлеше.
- Кулланучы сценарийларында «бердәнбер дөрес чыганак» һәм күренеп торган чикләүләр кирәк.
- Кулланучының рәсми каналга нигезле ышану хокукы хөрмәт ителергә тиеш.
Нәрсәне яхшыртырга.
- Хаталарны төзәтү циклын кыскартырга (фикерләр, ашыгыч төзәтмәләр, белем базасын яңартулар).
- Күзәтүне киңәйтергә: зур чыгымга китерергә мөмкин вәгъдәләргә һәм туры килмәүләргә триггерлар.
- Аерым «дөреслек режимнары»: сату өчен — төгәл цитата, белешмә өчен — сылтамалар белән сак тудыру.
«Кодекстан тыш» тикшерү
- Кулланучылар хокукы/намуссыз гамәл: ялгыш юлга этәрүне тыю; канал хуҗасының җаваплылыгы.
- Каналлар каршылыгы: рәсми сәясәт өстенлек итә, ләкин кулланучы рәсми ботка сайтның бер өлеше буларак таянырга хокуклы.
- Мәгълүматны яклау: журналлар һәм мөрәҗәгатьләр җирле хокукны исәпкә алып сакланырга тиеш.
«Үзегездә кабатлау» тикшерү исемлеге
- Эчтәлек һәм ЯИ каналлары өчен җаваплы кеше билгеләнергә тиеш.
- Шикаятьләр өчен элемтә ноктасы билгеләнергә тиеш.
- Бот диалогларының, сәясәт версияләренең һәм басмаларның журналлары алып барылырга тиеш.
- Ботның чикләүләре һәм компетенциясенең чикләре бастырылырга тиеш.
- Карар кабул итү кешедә калырга тиеш (соңгы компенсацияләр/искәрмәләр).
- Бот расланган белем базасына гына керә алырга тиеш.
- Кагыйдәләрне тестлар һәм хәбәрләр белән барлык каналларда үзгәртүнең бердәм процессын кертергә кирәк.
- Күрсәткечләрне күзәтергә кирәк: каршылыклар, шикаятьләр, time-to-fix, компенсацияләр.
- Кискен сценарийларга даими тышкы аудит үткәрергә кирәк.
- Хезмәткәрләрне шикаятьләр һәм ботның «вәгъдәләрен төзәтү» белән эшләргә өйрәтергә кирәк.
Яңарту буенча тәкъдимнәр (продукт/процесс)
- Бот интерфейсында — «Мине сайтта тикшерегез» модуле: һәр белешмәгә сәясәтнең тиешле бүлегенә сылтама өстәлә.
- Җавапларны модерацияләүдә «куркыныч билгеләре»: акча/ташлама, ашыгыч сроклар һ.б. вәгъдәләр кеше тарафыннан мәҗбүри тикшерү таләп итә.
- Автоматик «recall»: сәясәт төзәтелгәндә, бот элекке җаваплар кагылган гариза бирүчеләргә яңадан хәбәр итә.
Искәрмә. Материал укыту һәм эш тәҗрибәсенең сыйфатын күтәрү өчен билгеләнгән; фәтва (فَتْوَى), аудит яки юридик киңәш түгел.