采纳了豆包关于机票退票的错误建议，结果损失了600元。在后续交涉中，豆包不仅“认错”，还承诺全额赔偿，可最后并未履行。找豆包订餐厅位，到店却发现“查无此人”……现如今，过度依赖AI而闹出的乌龙，屡见不鲜。

让人工智能当客服，就像是雇了一个“信口开河”的管家。目前来看，无论是生成赔付承诺书，假装“理赔专员”，还是声称“豆包预留的位子”，扮演订餐“管家”，豆包的行为，直接越过了自身能力的边界，对现实服务进行了无效介入。要知道，即便是具备订餐、订票等基础功能的AI，其服务也须依托外部应用并经过多次授权确认，远非一句“已预订”便可生效。这类由产品设计缺陷导致的角色越界，是当前一些AI技术应用的硬伤。

AI出错，包括之前被广泛讨论的AI“幻觉”，其实真不能怪用户“很傻很天真”。有人认为，会跟豆包“较真”的不过是少数人，不足以说明普遍问题。可就在不久前，有网友用豆包搜索历史人物黎元洪，出来的竟是演员范伟的照片，令人啼笑皆非。不难发现，当AI用斩钉截铁的语气给出错误答案时，即便是熟悉网络的用户，也难免被AI“知识权威”的面目所迷惑。从钱财损失到知识误导，再到对现实服务的无效介入，AI带来的潜在影响可能是全方位的，绝非小事一桩。

当前，AI不具备民事主体资格，其承诺在法律上无效，这让平台可以轻松为AI的“胡言乱语”免责。然而，当平台借用户对AI的信任来扩大用户规模、增强使用黏性，甚至开始探索付费模式时，平台自身就成了直接的商业获利者。既想享受“拟人化”带来的商业红利，又想撇清应承担的责任，这样的道理，在哪里都讲不通。

AI融入日常生活是不争的事实，其带来的便利无可替代。就像豆包，虽偶有“胡言乱语”，但在识物、情感陪伴、高效处理信息等方面优势显著。问题在于，不能只让用户独自承担技术不成熟的风险，而平台却坐享其成。让AI的便利与责任同步进化，这才是行业该走的健康长久的路。