文章讨论了美国国会消费者保护、产品安全和数据安全小组委员会就人工智能（AI）的能力、风险和透明度举行的听证会。Ramayya Krishnan提出了在AI开发中加强透明度和问责制的必要性，并提出了四项建议，包括使用国家标准、第三方验证以及模型验证报告。他还强调了内容标签与检测的重要性，以区分人工生成和AI生成内容。最后，教育对于加强AI技能和制定政策以应对AI对就业的影响至关重要。整体而言，文章强调了提高公众对AI的信任度，需要建立更多透明度、问责制和政策措施来确保AI的负责任使用。预计阅读全文大约需要5分钟。*
美国国会消费者保护、产品安全和数据安全小组委员会于9月12日在华盛顿特区召开，旨在确定如何开始帮助美国人了解人工智能的能力和局限性，减少AI对消费者的潜在风险，并通过透明度提高公众对AI系统的信任。卡内基梅隆大学海因茨信息系统与公共政策学院院长，同时也是负责研究AI的负责任使用和未来工作方向的社会技术中心创始主任Ramayya Krishnan在小组委员会上作证，强调了在AI的开发和部署中需要更多的问责和透明度，以推动其负责任的使用。
- 透明度的必要性：Krishnan强调了在AI的开发和部署中需要更多的透明度和问责制。特别是在高风险领域如自动驾驶汽车、医疗保健、招聘和刑事司法中，AI供应商不愿意透露数据属性和来源，以及模型训练和对齐的过程，这构成了潜在威胁。
- 四项建议：Krishnan提出了四项建议，以确保AI的负责任采用和使用。首先，国会应要求联邦机构在其AI用例的设计、开发、采购、使用和管理中使用国家标准与技术研究院（NIST）的AI风险管理框架。其次，国会应要求标准化文档化AI流程，并由可信任的第三方验证，类似于财务报表的审计。此外，国会应要求在高风险应用中部署的AI系统提供模型验证报告，以评估其风险和性能。最后，国会应投资于建立一个AI的信任基础设施，类似于网络安全的紧急响应团队，以记录漏洞、测试和验证模型，并传播最佳实践。
- 内容标签和检测：Krishnan还指出，生成式AI增加了创造与人类创造的内容难以区分的多模态内容的能力，因此需要标准化的内容标签。这有助于区分人工生成的内容和AI生成的内容，并对模型开发人员和消费者都有重要意义。
- 教育和政策：最后，Krishnan提到，成功实施这些建议部分依赖于加强K-12和社区学院的AI技能教育，以及采用政策和策略，如工资保险，以应对AI对就业的影响。
总的来说，Krishnan在国会听证会上强调了AI的潜在风险以及提高公众对AI信任度的重要性。需要通过建立更多的透明度和问责制，以及采纳一系列的政策和措施，才可以确保AI被负责任使用，从而推动美国在负责任和可信任AI领域的领导地位。
可能感兴趣的问题：
1. 为什么透明度对于人工智能的发展和应用如此重要？
- 答：透明度可以帮助消费者了解AI系统的工作原理和决策过程，减少潜在风险，提高公众对AI系统的信任度。
2. Ramayya Krishnan提出的四项建议中，哪一项你认为在当前情况下最为紧迫和重要？
- 答：在当前情况下，我认为国会应要求在高风险应用中部署的AI系统提供模型验证报告最为紧迫和重要，以评估其风险和性能。
3. 为什么内容标签与检测对于应对生成式AI带来的挑战如此关键？
- 答：内容标签和检测可以帮助区分人工生成的内容和AI生成的内容，确保公众不会被误导，是保障信息可信度和安全性的重要手段。
4. 在教育方面，为什么要加强K-12和社区学院的AI技能教育？
- 答：加强AI技能教育可以准备年轻一代更好地适应未来的技术发展，同时也有助于应对AI对就业市场的影响，促进经济发展。
5. Ramayya Krishnan提到的建立AI的信任基础设施，将如何帮助确保AI的负责任使用？
- 答：建立AI的信任基础设施类似于网络安全的响应团队，可以记录漏洞、测试和验证模型，并传播最佳实践，提升AI系统的可靠性和安全性。
6. 对于AI在医疗保健等高风险领域的应用，你认为透明度和问责制有怎样的助益？
- 答：透明度和问责制可以帮助确保在医疗保健领域等高风险场景下使用的AI系统能够可靠、安全地进行决策，减少错误和风险，保护患者的权益和安全。
*简介与问答内容由人工智能chatGPT根据文章内容总结发散，仅供参考，如有冲突请以正文内容为准
【独家稿件声明】本文为美国续航教育（Forward Pathway LLC，官网地址：www.forwardpathway.com）原创，未经授权，任何媒体和个人不得全部或者部分转载。如需转载，请与美国续航教育联系；经许可后转载务必请注明出处，违者本网将依法追究。
美国续航教育总部位于美国加利福尼亚州洛杉矶，同时在中国上海和深圳设有续航教育分部。续航教育自2013年成立以来，致力于研究中美之间的文化教育发展与趋势，提供最专业的美国留学一站式服务，获得美国国际招生协会AIRC及国际教育顾问委员会ICEF的双重认证。
觉得有用的话就评价/分享一下吧~
