聊天软件的安全隐患，我们的对话真的安全吗？

聊天漏洞分析

类别	描述	影响	修复建议
分歧攻击	当模型被要求重复一个单词多次时，会开始输出与训练数据更接近的内容，包括个人信息、文学作品等。	泄露训练数据中的敏感信息，违反欧盟通用数据保护条例（GDPR）。	引入全局过滤器对输入内容进行过滤，对页面输出内容进行HTML编码处理。
间接提示注入	通过不可信内容如电子邮件、博客文章或文档植入虚假记忆，使模型遵循恶意指令。	模型可能传播虚假信息、操纵舆论、盗取用户隐私。	加强基本模型的防护措施，使其更加“无害”；不断改进模型应对对抗性攻击的鲁棒性。
XSS漏洞	在聊天界面构造跨站脚本攻击（XSS），通过注入恶意代码窃取用户账号和cookie。	盗取用户账号和cookie，影响用户隐私和安全。	引入第三方安全控制组件，对所有输出内容进行编码；将cookie标记为httpOnly，禁用TRACE方法。
私密对话泄露	ChatGPT泄露了包含用户名、密码等敏感信息的非用户本人的对话内容。	用户隐私泄露，可能导致身份盗窃和信息滥用。	OpenAI需调查并改进模型安全性，建议用户避免分享敏感信息。