.png){kind=icon}
返回
Toward a Secure Framework for Regulating Artificial Intelligence Systems
.png){kind=icon}
PRE
AI
DOI：10.1109/TDSC.2025.3616288.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
对高风险人工智能（AI）系统的监管是一个紧迫问题，但有效的技术基础设施仍然匮乏。本文通过识别开发AI系统监管技术框架的关键挑战，并针对这些挑战提出概念性、方法论和实践性的解决方案，以填补这一空白。在此方面，我们引入了AI的运行资格（operational qualification）概念，并提出了一种类似人类操作员认证测试的“时序自替换测试”（temporal self-replacement test），用于检验AI的运行资格。我们建议通过测量AI运行资格的关键运行属性来评估其监管适用性，并引入“运行资格评分”（operational qualification score）作为衡量AI监管适用性的实用指标。此外，我们设计和开发了一个用于AI监管的安全框架（Secure Framework for AI Regulation, SFAIR），该工具可利用所提出的测试和度量方法，自动、定期、安全地检验AI的运行资格并确认其监管适用性。SFAIR的关键优势包括其监管导向性、适应不断变化的监管要求的灵活性，以及符合“安全设计”原则。为实现此目标，除上述内容外，我们还引入了一种用于AI监管框架的新型威胁模型。考虑到已识别的威胁，我们利用随机化、掩码、加密方案和实时监控来保障SFAIR的操作安全。我们还利用AMD的“安全加密虚拟化-加密状态”（Secure Encrypted Virtualization-Encrypted State, SEV-ES）来增强系统安全性。我们通过展示SFAIR能够支持监管机构对开源高风险AI系统进行自动化、定期、安全的AI资格检验和监管适用性确认，验证了时序自替换测试的有效性和SFAIR的实用性。最后，我们将SFAIR的源代码公开发布。
Keyword:
High-risk AI
AI regulation
AI testing
qualification testing
secure-by-design
trustworthy AI
期刊
IF:
7.5
论文数:
2.4K
被引数:
9.6K
机构
引用论文
.png){kind=icon}
A Survey on Security and Privacy Issues in Edge-Computing-Assisted Internet of Things边缘计算辅助的物联网安全与隐私问题综述
OAAI
OAAI分享收藏分享收藏
查看更多内容