近日科技巨头英伟达（NVIDIA）发布开源大语言模型（LLM）安全测试框架Garak，可支持用户快速搭建完整的防御型LLM红队测试工作流，支持自定义探针、检测器插件，可自动分析攻击成功率并将测试结果导出至AVID标准格式，目前已面向全球开发者开放使用，为LLM落地的安全合规场景提供了轻量化自动化测试方案。
在今年的英伟达开发者大会上，安全类工具的占比同比提升了47%，其中刚亮相不久的开源框架Garak就因为对LLM安全测试的轻量化支持，成为了开发者社区讨论的焦点。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号