Zed (@Zed7)AI安全讨论与思考 中发帖

随着AI应用的快速发展,AI应用的能力也从一开始的单模态、短时记忆、上下文不足等种种不足逐渐演变为跨多轮对话规划策略、可以调用外部API执行任务,甚至在长期交互状态下拥有记忆。那么,这种能力指数级别的跃升,我们的安全防范意识是否也指数级别跃升了呢?