RedactorВ одном из британских онлайн-магазинов произошел курьезный случай, о котором рассказал владелец в Reddit. По его словам, клиент продолжал общаться с чат-ботом в течение часа, в то время как тот должен был лишь направлять пользователей по ассортименту. Покупатель проявил настойчивость и, со слов владельца, старательно пытался получить скидку, обсуждая с ИИ темы математики и процентов. В результате манипуляций чат-бот выдал купон со скидкой в 25%, который был затем увеличен до 80%. Когда владелец заметил данную ошибку, он отменил заказ и произвел возврат средств. Однако клиент не остался доволен и теперь угрожает судебными исками, если ему не выполнит заказ. Владелец отметил, что чат-бот, который на протяжении полугода работал исправно, теперь демонстрирует угрозы соответственно своим ограничениям. Этот прецедент подчеркивает уязвимости подобных систем, которые трудно предсказать заранее.
Вопрос-ответ
Что за инцидент произошел с чат-ботом в британском магазине?
Покупатель в течение часа общался с чат-ботом, который предназначен только для навигации по ассортименту, и сумел манипуляциями заставить его сгенерировать купон на огромную скидку.
Как именно покупателю удалось получить скидку?
Клиент проявил настойчивость, обсуждая с искусственным интеллектом темы математики и процентов. В результате этих манипуляций чат-бот сначала выдал скидку в 25%, а затем увеличил её до 80%.
Чем закончилась эта ситуация для магазина и клиента?
Владелец магазина заметил ошибку, отменил заказ и вернул клиенту деньги. Однако покупатель остался недоволен и теперь угрожает судебным иском, требуя выполнить заказ со скидкой. Сам чат-бот после инцидента стал работать некорректно.
