北大团队

北大团队发现一段提示词可以让大模型陷入无限思考，并且这种现象可以传递和复制。研究显示乱码问题更容易引发模型的“stuck”机制，说明模型有一定程度的防御措施，但面对具有含义的正常文本时仍需加强。