研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2026-01-10 15:18:50 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容鄂州市某某通用机械运营部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功鄂州市某某通用机械运营部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
没人配教我做事！杨立昆离职后怒斥汪滔：我绝不闭嘴，因为我才是对的
作者 | 辰辰出品 | 网易科技离职后的AI教父杨立昆Yann LeCun），选择亲手撕碎最后的体面。在接受《金融时报》专访时，他毫不留情地揭开了老东家的伤疤：Meta为了在军备竞赛中追赶OpenAI2026-01-10
穷人家孩子连穿羽绒服的自由都没有？家长吐槽孩子，自己却破防了
为了避免校园内攀比成风，老师会统一要求学生必须穿校服上学。入冬后，学生光穿校服就无法抵御冷空气，学生才能享受来之不易的穿衣自由。经济基础比较好的家长可能更愿意让孩子穿自己的衣服上学，这样家里的衣服就派2026-01-10
当地时间6日凌晨，美国共和党总统候选人、前总统特朗普在佛罗里达州棕榈滩会议中心发表讲话，宣布在2024年总统选举中获胜。随后，民主党总统候选人、副总统哈里斯也发表讲话，承认败选。▲11月6日凌晨，2026-01-10
日前，车质网从相关渠道获取了一组小米首款SUV的效果图。据此前消息显示，小米首款SUV代号为MX11，预计将于明年上市。从效果图来看，小米首款SUV依然会采用运动风格设计，其车身轮廓与法拉利Puros2026-01-10
本文来自微信公众号：判官老司机，作者：判官老司机，题图来自：视觉中国12月30日罗永浩的“科技春晚”，原定19点开始，19点48分罗永浩登台，打破了自己之前47分钟的迟到纪录，照例重新定义19点。当时2026-01-10
相信背新概念的课文，能够高考考130的，姑且就早点试一下，直接把新概念1~4的课文背完，怕就怕你相信背新概念的课文能考130，但是又没找到背新概念的方法，背一篇忘一篇，最后在背新概念这个执念里面反复地2026-01-10
最新评论