亚马逊网络服务 (AWS) 宣布推出自动化推理检查（预览版），这是 Amazon Bedrock Guardrails 中的一项新安全措施，可通过以数学方式验证大型语言模型 (LLM) 响应的准确性来帮助减少幻觉。它利用了自动化推理，这是计算机科学领域的一个分支，使用数学证明和逻辑推导来验证系统和程序的行为。与进行预测的机器学习 (ML) 不同，自动化推理提供了关于系统行为的数学保证。AWS 已经在关键服务领域（如存储、网络、虚拟化、身份和密码学）中使用了自动化推理。例如，自动化推理用于正式验证密码实现的正确性，从而提高性能和开发速度。现在，AWS 正在将类似的方法应用于生成式 AI。Amazon Bedrock Guardrails 中新的自动化推理检查（预览版）是第一个生成式 AI 安全措施，它使用逻辑上准确且可验证的推理来帮助防止由于幻觉而导致的 фактические ошибки，并解释了为什么生成式 AI 响应是正确的。自动化推理检查对于 фактическая 准确性和可解释性很重要的用例特别有用。例如，您可以使用自动化推理检查来验证 LLM 生成的关于人力资源 (HR) 政策、公司产品信息或运营工作流程的响应。与其他技术（如提示工程、检索增强生成 (RAG) 和上下文基础检查）一起使用时，自动化推理检查为确保 LLM 生成的输出 фактически 准确，增加了一种更严格且可验证的方法。通过将您的领域知识编码到结构化策略中，您可以确保您的对话式 AI 应用程序向用户提供可靠且值得信赖的信息。