微软在 Azure AI Content Safety 中推出预览版 Groundedness Detection,旨在纠正 AI 幻觉,通过对比 AI 输出内容和源文件,识别并修正没有证据或幻觉内容。虽然该工具能提高人工智能输出的可靠性,但不能保证完全准确,主要目的是提高生成内容与源材料之间的一致性。当系统检测到支持不足的句子时,会触发新请求,要求小型人工智能模型进行修正。
行业标签
更多体验
前往小程序
24 小时
资讯推送
进群体验