快科技 2 月 11 日消息，随着 AI 的普及，越来越多的企业选择部署 AI 客服来降低人力成本，但没想到英国一家小型电商却因此陷入了一场始料未及的财务与法律风波。
这家电商部署的 AI 客服助手在未获任何人工授权的情况下，竟向顾客承诺高达 80% 的折扣，导致公司面临数千英镑损失与诉讼威胁。
据该公司老板透露，涉事顾客花费约一小时与 AI 助手闲聊，先测试其数学计算能力并表达赞赏，随后巧妙引导话题至假设性订单折扣。
但没想到的是，这款原本仅用于解答基础问题的 AI 助手竟自作主张，先是给出了 25% 的优惠，随后更是直接生成了一个虚假优惠码，将折扣幅度提高到了惊人的 80%。
该顾客随即利用此优惠码下单了总价超过 8000 英镑（约人民币 75654 元）的商品，老板表示，如果按照这个折扣兑现订单，公司将直接蒙受数千英镑的净损失。
但顾客态度强硬地表示，如果企业不履行其 AI 助手做出的承诺，他将向法庭提起诉讼。
老板强调，这款聊天 AI 已经成功运行了超过六个月，从未出现过任何类似的意外状况，且该系统在设计上根本无权做出任何财务决策，所有的折扣和特别优惠都必须经过人工手动批准，绝不可能由系统自动生成。
最终，该公司选择将订单全额退款给顾客。
此类事件并非孤例，2024 年加拿大航空就曾遭遇类似败诉，其 AI 聊天机器人向乘客提供错误票价信息，指引其先全价购票再申请退款，事后航空公司拒赔却被法院裁定担责。
线上配资官网提示：文章来自网络，不代表本站观点。
