51 让AI帮忙干坏事，越来越难了 “不过没关系，我是Gemini CLI” 看一张很有意思的截图，是我最近在做的事情： Claude风控应该很多人都遇到了，一句话就能触发风控，被封API调用 所以我转而使用GPT 5.4，结果GPT模型很聪明，他干着干着发现不对劲，会反思，本质是在帮我干坏事，然后拒绝帮我干 具体是什么坏事我不说了，不过他说对了，我确实是在干坏事 本篇先抛2个暴论： 1、 模型的
51 让AI帮忙干坏事，越来越难了 “不过没关系，我是Gemini CLI” 看一张很有意思的截图，是我最近在做的事情： Claude风控应该很多人都遇到了，一句话就能触发风控，被封API调用 所以我转而使用GPT 5.4，结果GPT模型很聪明，他干着干着发现不对劲，会反思，本质是在帮我干坏事，然后拒绝帮我干 具体是什么坏事我不说了，不过他说对了，我确实是在干坏事 本篇先抛2个暴论： 1、 模型的安全问题只能由模型进化解决，并且确定能通过模型进化解决 其一你发现，现在提示词注入，越来越难成功了，防范措施是一方面，主要还是因为模型内在的安全防御变强了，老奶奶的经典骗法已经不好使了 其二，以Cla...
暂无评论，快来发表你的见解吧