Amazon Web Services (AWS) 宣布对 Guardrails for Amazon Bedrock 进行新的更新，旨在增强生成式 AI 应用程序的安全性和可靠性。这些更新包括幻觉检测和独立 API，用于通过任何模型的自定义护栏来强化应用程序，确保负责任且值得信赖的输出。
幻觉检测功能是一项宝贵的补充，它允许客户根据参考源和用户查询来验证模型响应的准确性。这有助于确保模型不会生成不正确或不基于事实数据的新信息。
ApplyGuardrail API 使客户能够根据配置的防护措施评估用户输入和模型响应。此功能对于使用自托管或第三方 LLM 的组织特别有用，因为它允许他们在所有应用程序中应用标准化的安全措施。
通过这些更新，AWS 重申了其致力于提供工具和解决方案的承诺，这些工具和解决方案使客户能够构建安全可靠的生成式 AI 应用程序。Guardrails for Amazon Bedrock 是朝着这个方向迈出的重要一步，它为客户提供了对其使用的 LLM 行为的更大控制权。
有兴趣了解有关这些新功能的更多信息的客户可以访问 AWS 网站上的 Guardrails for Amazon Bedrock 产品页面。
