.png){kind=icon}
返回
Guided Safe Diffusion: Prohibiting Diffusion Models from Generating Inappropriate Content
.png){kind=icon}
PRE
AI
DOI：10.1007/978-981-96-7036-9_11.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
大规模生成模型的日益部署加剧了对安全和隐私的担忧，特别是在生成不当内容（如暴力、露骨或敏感图像）以及可能创建传播虚假信息和引发社会问题的假图像方面。本研究提出引导式安全扩散（GSD）方法，一种专为扩散模型设计的推理时方法，用于防止生成被禁止内容列表中定义的不当内容。该方法在模型的推理去噪步骤中整合安全引导，通过修改预测噪声来引导生成过程远离不想要的内容。该技术允许模型接受输入图像和文本描述，促进可控的图像生成。与以往方法不同，本技术无需对模型进行重新训练或微调。我们通过定性和定量实验评估了该方法的有效性，证明GSD可以在去除不想要内容的同时保留无关内容。结果表明，该方法能够在保持扩散模型生成能力的同时有效降低风险。
Keyword:
Image protection
Diffusion models
AI ethics
期刊
N
IF:
0
论文数:
20
被引数:
0
机构
引用论文
.png){kind=icon}
Shake to Leak: Fine-tuning Diffusion Models Can Amplify the Generative Privacy Risk摇动致漏：微调扩散模型会加剧生成隐私风险
OAAI
OAAI分享收藏
查看更多内容