亚马逊推出「自动推理检查」工具,对抗 AI 幻觉
2024 年 12 月 4 日

亚马逊云科技(AWS)推出了「自动推理检查」工具,旨在解决 AI 模型产生的幻觉问题。该工具通过验证模型的响应准确性来防止幻觉产生。尽管 AWS 宣称这是首个也是唯一的针对幻觉的防护措施,但微软谷歌也推出了类似的功能。自动推理检查通过 AWS 的 Bedrock 模型托管服务提供,可以创建规则验证模型生成的回答,并将正确答案与可能的错误答案一起呈现。普华永道已经开始使用该工具为其客户设计 AI 助手。然而,专家指出,消除生成式 AI 的幻觉就像试图从水中消除氢一样困难,因为 AI 模型是基于统计模式预测答案,而非提供确切答案。AWS 尚未提供数据证明该工具的可靠性。

专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟