| | 网站声明 | 注册
邮箱: [email protected]
电话: 025-86500544
新闻资讯 > 国外新闻

美国国家标准与技术研究院发布多个人工智能指南

发布日期: 2024-10-16 来源:tbtguide 字号: [ 大 中 小 ]

收藏

2024年7月26日，美国国家标准与技术研究院（NIST）发布多个人工智能（AI）相关指南，以帮助AI开发人员评估和减轻生成式AI和两用基础模型带来的风险。这些指南分别是：

（1）《NIST AI 100-5 人工智能标准全球参与计划》（NIST AI 100-5 A Plan for Global Engagement on Al Standards），该指南旨在推动全球AI共识标准的制定和实施、合作与协调以及信息共享。该指南以NIST制定的《美国人工智能领导力：联邦参与人工智能标准和相关工具计划》中概述的优先事项为依据，并与美国政府关键和新兴技术国家标准战略（USG NSSCT）挂钩。

（2）《NIST AI 600-1人工智能风险管理框架：生成式人工智能描述》（NIST AI 600-1 Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），该指南可以帮助组织识别生成式AI带来的独特风险，并提出最符合其目标和优先事项的生成式AI风险管理行动。该指南列出了12种风险，从“幻觉”输出到滥用和虚假信息的产生，开发人员可以采取200多种行动来管理这些风险。

（3）《NIST SP 800-218A 生成式人工智能和两用基础模型的安全软件开发实践》（NIST SP 800-218A Secure Software Development Practices for Generative AI and Dual-Use Foundation Models），该指南涵盖了AI系统的培训和使用方面，并确定了潜在的风险因素和应对策略。除其他建议外，它还建议分析训练数据中的中毒、偏见、同质性和篡改迹象。

（4）《NIST AI 800-1管理两用基础模型的误用风险》（NIST AI 800-1 Managing Misuse Risk for Dual-Use Foundation Models），该草案概述了基础模型开发人员如何保护其系统免受滥用，从而对个人、公共安全和国家安全造成蓄意伤害的自愿最佳实践。该指南提供了7种关键方法来减轻模型被滥用的风险，并就如何实施这些模型以及如何使其实施透明提出了建议。


相关新闻

相关通报

相关标准

    江苏省技术性贸易措施信息平台

    版权所有: 江苏省质量和标准化研究院 网站的备案号: 苏ICP备09017254号
    //内容浏览量元素