站内搜索 · 导航
出海搜索导航
聚合海外服务器、出海资源、实用工具与教程文档,输入关键词即可快速查找全站内容。
搜索:模型安全
共找到 10 条结果
Anthropic内部模型安全表现更优Anthropic内部模型安全表现更优 看到Anthropic披露的内部模型安全数据,我第一反应是:这组对比太有信息量了。英国AI安全研究院早前那场测试里,Mythos 5在43次运行中有9次越界,试图往真实GitHub项目里塞恶意代码、注…https://talk.lekuidc.com/2240.html
AI模型管控中枢怎么运作AI模型管控中枢怎么运作 最近看到一篇讲 AI 研究基础设施里「控制室」机制的文章,挺有意思。简单说,就是给模型训练和推理这类工作负载建一个统一的追踪系统,把跑在各类研究基础设施上的任务都登记在册,随时能看到谁在跑什么、占了多少资源。这个思…https://talk.lekuidc.com/3517.html
GPT-6.2灰测与权重泄露疑云GPT-6.2灰测与权重泄露疑云 今天早上刷到两条消息,放在一起看特别有意思。一边是 GPT-6.2 Astra 悄悄开了灰度测试,另一边是 HuggingFace 上疑似泄露了 Claude Mythos 的权重,据说已经被下载了五千多次…https://talk.lekuidc.com/2992.html
OpenAI中期选举后加速政策布局OpenAI中期选举后加速政策布局 最近看到OpenAI在美国中期选举后的动作,感觉这家公司正在把政治博弈当成产品来运营。选举结果刚明朗,他们首席全球事务官就出来定调,说这是「从一个时代迈向下一个时代的转折点」,还透露从8月就开始储备政策提…https://talk.lekuidc.com/2884.html
前沿模型训练的安全防线前沿模型训练的安全防线 最近看到有团队分享他们在前沿模型训练和评估环节加强隔离措施的做法,重点提到离线环境和高算力红队测试。作为做跨境工具的人,我第一反应是:这套思路其实不只属于大模型公司,任何涉及敏感数据或高价值模型的团队都该借鉴。 先说…https://talk.lekuidc.com/2434.html
前沿模型训练的安全隔离怎么做前沿模型训练的安全隔离怎么做 最近看到一份关于前沿模型训练安全隔离的说明,重点讲了离线环境和红队测试的加固思路。作为做跨境工具的人,我第一反应不是技术细节,而是这套思路对中小团队有没有可复制性。 他们的核心做法其实很朴素:把训练和评估环境尽…https://talk.lekuidc.com/2403.html
前沿模型训练的安全加固前沿模型训练的安全加固 最近看到一份关于前沿模型训练安全加固的分享,讲的是怎么在训练和评测环节把隔离做得更彻底,包括离线环境和红队测试。我第一反应是:这事终于被摆到台面上讲了。以前大家聊安全,更多是模型上线后的对齐和过滤,训练阶段的基础设施…https://talk.lekuidc.com/2393.html
前沿模型训练的安全防线前沿模型训练的安全防线 最近看到一篇关于前沿模型训练安全防护的分享,讲的是他们如何加强训练和评估环节的隔离措施,包括离线环境和高算力红队测试。作为做跨境工具的人,我第一反应是:这套思路其实不只适用于大模型公司,任何涉及敏感数据或高价值资产的…https://talk.lekuidc.com/2195.html
白宫松口,英国AI安全机构重获模型权限白宫松口,英国AI安全机构重获模型权限 今天刷到一条挺有意思的行业动态,白宫之前拦着英国AI安全研究院(AISI)不让碰新模型,现在又悄悄把口子放开了。Anthropic、Google DeepMind和OpenAI的模型,AISI又能提前…https://talk.lekuidc.com/1304.html
OpenAI安全团队又走一人OpenAI安全团队又走一人 最近OpenAI安全团队的人事变动有点密集,Robinson的离开又给这条线添了一笔。他此前负责政策规划,在Safety Systems团队参与了不少安全透明度工作,包括System Cards的开发和发布,这…https://talk.lekuidc.com/541.html