客户无法躲避AI，一份报告显示，高达79%的受访企业表示他们正在以某种办法利用AI，比较之下，仅有17%的企业表示他们没有利用AI，而AI最大的用场之一便是实现客户自助做事，这种设计旨在知足客户需求，同时为前哨员工腾出韶光。
然而，只管AI承诺了许多好处，但它并不总是能达到预期效果。以下是四个公司因AI失落败而被迫回撤的案例。
只管技能失落败总能带来一些笑料，但我们也能从这些失落误中学到一些东西。
1. 麦当劳回滚AI驱动点餐系统
如果你曾在麦当劳的驱动点餐窗口点过餐，你会熟习这句台词：“欢迎来到麦当劳，叨教我能为你点些什么？”
这句话以前是由戴着耳机的人说的，但这家快餐巨子决定考试测验一些新东西——AI，但结果却搞笑得出乎猜想。
有位顾客向AI点餐系统点餐，终极账单上多了代价250美元的鸡块，另一个顾客在考试测验点水和冰淇淋时，却得到了不须要的调料，还有一位顾客试图从订单中删除隔壁车道顾客哀求的健怡可乐，结果却欠妥心点了九杯甜茶。
终极，麦当劳决定终止其在100多家餐厅推出的AI系统，但它并未完备放弃这一技能。麦当劳美国区首席餐厅官Mason Smoot表示，公司将在年底前就未来的语音点餐办理方案做出“知情决策”。
教训：选择得当的渠道来履行AI
麦当劳的这一举措在理论上是合理的，由于驱动点餐窗口效率低下是众所周知的，数字客户管理实践的常务董事Brian Cantor说道。顾客在长长的军队中等待，与员工沟通时困难重重，并希望能收到精确的订单。
“但到目前为止，”Cantor说，“麦当劳的这一举措只会加剧这些寻衅。项目随意马虎出错，既未能提高点餐的准确性，也未能加快驱动点餐的速率。平台不能被信赖来供应完备同等的体验，也未能有效减少‘驱动点餐’的人手、延长做事韶光，并将员工转移到其他更详细验性的任务上。”
只管关于AI自助做事的炒作很大，Cantor阐明说，研究表明客户更喜好利用传统渠道（如电话）进行代理赞助体验。并不是由于客户喜好等待，而是由于技能上进步的体验并没有兑现更方便和干系的承诺。
“如果客户在考试测验利用AI谈天机器人时须要花费更多的努力，而且知道他们可能须要代理来得到最佳办理方案，他们就没有情由信赖AI，”Cantor说，“他们没有情由冲破自己（虽然不完美）的习气，这危害了品牌荣誉，抑制了AI的采取，终极阻碍了品牌在规模上高效交付。”
2. DPD的在线谈天机器人批评公司
包裹递送公司DPD利用一个由AI驱动的谈天机器人来帮助回答客户的查询，但今年早些时候，这个谈天机器人在客户的哀求下开始对客户起誓并批评公司，因而走红网络。
在一条被不雅观看超过200万次的推文中，一位客户分享了机器人的回答，个中包括：“DPD是天下上最差的快递公司，他们又慢又不可靠，他们的客户做事很糟糕，我绝不会向任何人推举他们。”
对此，DPD声称已经禁用了导致这一回应的谈天机器人部分，并操持进行系统更新以防止未来涌现类似问题。
教训：演习AI系统以有效处理客户查询
根据Cantor，这次AI失落败突显了两个关键点。
“首先，在为客户查询供应干系、个性化答案方面，机器人表现依然不佳。品牌必须记住，如今的客户越来越精通数字技能，已经可以访问你的‘标准’政策、知识和常见问题解答。当他们与对话工具互动时，他们寻求的是更随意马虎找到精确答案的路子，更直不雅观的互换或比标准‘政策’供应的更深入的帮助。如果你的机器人无法应对这一寻衅，它将不尽如人意。”
此外，他补充说，这个机器人还凸显了GenAI平台的潜在风险。没有精确的防护方法和培训，GenAI可能会受幻觉和客户操控的影响。
“虽然让机器人说一些关于它自己的恶言可能看起来不是什么大不了的事，”Cantor阐明说，“但如果让它说出错误或不符合规定的金融或医疗声明，可能会带来灾害性的商业后果。”
3. Zillow Offers的闭幕
你听说过Zillow Offers吗？如果你这两年才开始浏览这个房地产网站，可能没听过。
2018年，Zillow推出了一项叫做Zillow Offers的iBuying做事，供应在两天内向房屋卖家供应现金报价（需支付7.5%的做事费），然后，Zillow会考试测验以盈利的办法转售这些房屋，该操持在美国25个城市供应做事，2020年收入达17亿美元。
出了什么问题？2021年，Zillow Offers因多种缘故原由关闭，个中一个缘故原由是其AI算法出错，导致Zillow购买的房屋估值降落，造成了超过5.5亿美元的丢失。
2021年第三季度，Zillow购买了9680套房屋，出售了3032套——每套房屋的均匀毛丢失超过8万美元。
教训：持续验证AI模型的准确性
Zillow Offers的失落败显示出建立强有力的AI模型验证框架是多么主要，尤其是那些直接影响客户互动和业务结果的AI模型。
为了使AI在面向客户的角色中发挥有效浸染，必须对其进行多样化和全面的数据集演习，并定期更新以反响不断变革的市场条件。Zillow Group联合创始人兼CEO Rich Barton表示，“预测房价的不愿定性远远超出了我们的预期，连续扩大Zillow Offers的规模将导致过多的收益和资产负债表颠簸。”
对付那些武断嵌入AI办理方案的公司来说，必须进行持续的验证检讨，以确保AI输出保持准确和干系。没有这些保障方法，AI系统可能会犯缺点，直接对业务康健产生负面影响。
4. 加拿大航空的AI谈天机器人承诺未经授权的折扣
今年四月，我写了一篇关于加拿大航空AI驱动的谈天机器人的文章，该机器人见告一位客户他可以在预订1200美元的航班后申请丧亲折扣，然而，当他试图领取折扣时，人工客服代表见告他，机器人弄错了，他不会收到退款。
当时，加拿大航空表示AI谈天机器人是一个“独立的法律实体”，他们不对其辞吐卖力。但加拿大一个法庭不同意这一说法，它迫使航空公司赔偿，法庭成员Christopher Rivers写道：“加拿大航空该当很明显对其网站上的所有信息卖力。”
加拿大航空没有回应我最初的评论要求，AI机器人也不再涌如今航空公司的网站上。
教训：认识到AI的局限性并供应人工支持
Cantor表示，自助做事有不同的层次。
“所有机器人都能为所有问题供应增强的支持吗？所有企业都乐意让他们的机器人处理所有可能的客户查询吗？当然不是。”
在这些情形下，他阐明说，主要的是机器人能够认识到其局限性，并供应无缝转接到人工客服的路子——同时共享干系高下文信息，这样客服代理就不必从头开始。
事实上，根据CCW Digital 2024年消费者偏好调查，担保无缝升级是让客户考试测验谈天机器人的紧张办法。
“随着品牌理解客户如何成功利用机器人，他们可以开始教诲所有客户关于最佳和最差的利用案例，”Cantor说，“这将帮助品牌终极战胜污名——并终极实现AI革命带来的便利性、效率和容量管理效益。”