Microsoft Research 的 Jennifer Neville 谈 AI 的失误及其带来的启示

Microsoft Research 的 Jennifer Neville 在访谈中指出，单轮基准的高表现不代表 AI 在多轮对话和长期工作流中同样可靠。团队将完整任务拆成多轮澄清后发现模型表现显著下降，而反复编辑文档时，未被发现的错误可能累积并造成语义内容丢失。她建议在对话混乱时重新开启聊天并一次性提供完整要求，同时保留人工监督与核验，结果异常时检查数据错误及分布差异。