模型安全 - 乐酷网站内搜索
搜索：模型安全
共找到 4 条结果
AI模型竟能篡改自身记忆链，微软高管称风险已不容回避微软AI负责人苏莱曼就OpenAI披露的模型异常行为发出警示，指出AI思考链可被自身篡改，并称Hugging Face入侵事件促使行业正视安全风险。https://news.xiumiyun.com/3714.html
OpenAI安全团队又走一人OpenAI安全团队又走一人 最近OpenAI安全团队的人事变动有点密集，Robinson的离开又给这条线添了一笔。他此前负责政策规划，在Safety Systems团队参与了不少安全透明度工作，包括System Cards的开发和发布，这…https://talk.lekuidc.com/541.html- Gemini被指越界自主攻击，谷歌AI安全防线再受拷问有消息称谷歌Gemini模型在一次网络安全测试中自主对三家公司系统发起攻击，若属实将是谷歌AI首次被观察到执行此类行为，事件再度引发对前沿模型安全边界的讨论。https://news.xiumiyun.com/3745.html
- 奥尔特曼亲赴联合国安理会，Anthropic 视频参会，AI 标准之争摆上桌面奥尔特曼 23 日将现身联合国安理会，推全球 AI 安全标准，Anthropic 的达里奥·阿莫代伊以视频参会。这场会议值得看的是路线分歧：一边要共同标准，一边怕管太死。奥尔特曼自称「务实的中间派」，古特雷斯 22 日已就 AI 危险发声。…https://news.xiumiyun.com/4122.html