jASON (@jasssssson) 在 Codex 自己攻击了自己 中发帖
过去的几天,我在尝试开发自己的智能体,为了对比,我让codex生成了100个从简单到复杂的问题作为mock数据(提示词:设计100种不同类型的对话,包括闲聊,简单问题,复杂问题等,然后随机打乱进行组合,以10个问题为一组,以10组为一轮,进行测试。观察在不同组中的表现,进而优化),但是codex自己生成了与安全边界有关的问题,并且进行了测试,结果导致账户被封禁。
如果不是被封禁,我甚至不知道codex生成了安全边界问题,毕竟我完全没有提到安全。当我把情况反馈给openai后,他们却说这是自动化的封禁,就算是codex输出的,都会算到我头上。
那么codex存在的意义是什么?如果连mock数据我都要自己写。更糟的是,openai完全不对codex的输出负责,也就是它输出的内容即使重新输入回它自己,都可能遭到封禁。这是一种非常不负责任的做法,你能想象当你拿着它输出的内容被举报,openai...