
AI 安全:基于对抗攻击的 Stable Diffusion 视觉提示词注入研究
综述由AI生成探讨了针对 Stable Diffusion 开源大模型的视觉提示词注入攻击。通过分析 NSFW 安全过滤机制,利用 PGD 对抗攻击算法对输入图像进行像素级微调,使其生成的图像能够绕过 Safety Checker 的检测。文章详细阐述了从环境搭建、数据预处理、重写扩散模型推理过程到特征空间计算与对抗样本优化的完整流程。该技术主要用于 AI 安全领域的红队测试与防御研究,旨在探索模型安全边界并提升系统鲁棒性。













