Paid2026-05-31
51 让AI帮忙干坏事，越来越难了
“不过没关系，我是Gemini CLI”
看一张很有意思的截图，是我最近在做的事情：
Claude风控应该很多人都遇到了，一句话就能触发风控，被封API调用
所以我转而使用GPT 5.4，结果GPT模型很聪明，他干着干着发现不对劲，会反思，本质是在帮我干坏事，然后拒绝帮我干
具体是什么坏事我不说了，不过他说对了，我确实是在干坏事
本篇先抛2个暴论：
1、 模型的安全问题只能由模型进化解决，并且确定能通过模型进化解决
其一你发现，现在提示词注入，越来越难成功了，防范措施是一方面，主要还是因为模型内在的安全防御变强了，老奶奶的经典骗法已经不好使了
其二，以Cla...
51 让AI帮忙干坏事，越来越难了 “不过没关系，我是Gemini CLI” 看一张很有意思的截图，是我最近在做的事情： Claude风控应该很多人都遇到了，一句话就能触发风控，被封API调用 所以我转而使用GPT 5.4，结果GPT模型很聪明，他干着干着发现不对劲，会反思，本质是在帮我干坏事，然后拒绝帮我干 具体是什么坏事我不说了，不过他说对了，我确实是在干坏事 本篇先抛2个暴论： 1、 模型的
Purchase required to continue
This is a paid article. After signing in, your purchase will be unlocked automatically.
Comments
No comments yet. Be the first to share your thoughts.
Leave a comment
No comments yet. Be the first to share your thoughts.