搜索：AI安全
共找到 33 条结果，第 1 / 2 页
微软跟随OpenAI与Anthropic，释放放缓前沿AI开发信号微软近期加入OpenAI和Anthropic的行列，表态将放缓前沿AI开发节奏。这一集体转向折射出行业对安全、监管与商业可持续性的多重考量，可能重塑未来AI竞争格局。
AI安全治理框架3.0发布AI安全治理框架3.0发布 刚看到网安标委在网络安全宣传周上发布了《人工智能安全治理框架 3.0》，这已经是这个系列的第三个版本了，2024 年 1.0、2025 年 2.0，节奏基本一年一更。这次延续了风险分类、技术应对、综合治理的核心逻…- AI安全警钟再响：奥特曼与阿莫代伊齐声呼吁审慎前行OpenAI与Anthropic两大掌门人接连警示AI失控与权力集中风险，呼吁对齐技术跑赢模型迭代，行业投资逻辑未改。
- 微软发人文主义AI准则微软发人文主义AI准则 微软今天甩出一份37页的「人文主义AI行为准则」，核心就一句话：人比AI重要。准则明确反对给AI法人资格、反对模型享有福利和权利，还要求模型一旦遇到违反准则的任务就直接判失败，不许绕路。苏莱曼之前就骂过Anthrop…
- OpenAI总裁布罗克曼：AI安全减速应精准针对前沿模型OpenAI总裁布罗克曼提出，AI发展中的“减速”策略应聚焦于前沿模型，而非广泛限制所有AI研发。这一观点回应了业界对AI安全与创新平衡的持续讨论，强调精准监管与分层治理。
- 阿莫代伊的减速论卡在中国阿莫代伊的减速论卡在中国 阿莫代伊最近接受采访时说，想让AI行业主动放慢前沿模型的脚步，但承认中国是这套构想里最棘手的变量。逻辑很直白：如果只有部分国家和企业减速，别人继续冲，那主动慢下来的一方在技术、经济甚至军事上都会吃亏。他呼吁建立某种…
- 大模型安全之争：OpenAI与Anthropic呼吁减速背后的估值博弈OpenAI与Anthropic近期公开呼吁放缓大模型研发节奏，引发业界对安全与商业动机的双重解读。有观点认为，此举或为高估值争取缓冲时间，而微软等平台方的态度将影响竞争格局。
- AI巨头据称私下磋商安全标准机构 行业自律路径浮现多家头部AI公司据称正就筹建AI安全标准机构进行秘密磋商，涉及Anthropic、OpenAI与谷歌等。此举可能推动行业形成统一的安全实践与评估框架，并影响全球AI治理走向。
- 微软发布37页AI行为准则：人类优先，拒绝无边界超级智能微软发布37页人文主义AI行为准则，明确人比AI重要，反对赋予AI权利与意识，承诺模型受人类管控，回应多起智能体失控事件。
- OpenAI发布最强模型后，首席科学家为何呼吁放慢AI开发？OpenAI发布“地球最强”模型仅数日，首席科学家便发长文呼吁放慢AI开发节奏，这一矛盾信号引发行业对AI安全与创新速度的重新审视。
- AI研发速度之争：Anthropic、OpenAI与政界分歧，特朗普唱反调Anthropic、OpenAI及部分美国政客呼吁放缓AI研发，特朗普公开反对。微软等平台身处其中，行业对AI安全与创新步伐的分歧日益明显。
- 三大AI厂商被曝秘密协商组建安全标准机构有消息显示，Anthropic、OpenAI与谷歌正就筹建人工智能安全标准机构展开非公开磋商，行业主要参与者试图在监管落地前形成技术共识，微软等平台厂商的立场同样受到关注。
- 谷歌DeepMind探索递归自我改进，RSI离现实还有多远谷歌DeepMind近期在递归自我改进（RSI）方向的研究引发关注。本文梳理RSI概念、技术挑战与行业影响，分析谷歌、Meta、OpenAI等机构的探索进展，并探讨安全与治理问题。
- 布罗克曼谈AI监管边界：前沿超大模型才需减速，开源与业余项目不受限OpenAI联合创始人格雷格·布罗克曼在播客中表示，AI研发放缓应仅针对需数千亿美元投入的前沿超大模型，开源与业余项目不受影响。他同时透露Hugging Face入侵事件后已降低训练频率并整改安全流程。
- 奥尔特曼呼吁AI发展“控速”而非“叫停”，亚洲概念股应声下挫OpenAI CEO奥尔特曼支持对AI发展采取控速思路，强调安全不等于停止进步，并重申支持联邦监管框架。此番表态与Anthropic CEO阿莫迪观点相近，引发亚洲AI概念股周一普遍下跌。
- AI安全节奏之争：Anthropic放缓RSI主张获多方回应围绕递归自我改进（RSI）的推进节奏，Anthropic提出应适度放缓，OpenAI与马斯克方面罕见表达相近立场，行业对AI能力跃迁与安全边界的分歧再度浮现。
- OpenAI上市时间表明确：奥特曼称2026年前无计划，对齐难题待解OpenAI CEO山姆·奥特曼表示公司2026年前不会上市，强调AI对齐问题尚未解决是推迟上市的关键因素。此举或影响微软等投资方预期，并引发行业对AI安全与商业化平衡的讨论。
- 谷歌DeepMind的RSI探索：进展与未解难题近期，谷歌DeepMind在递归自我改进（RSI）方向的研究引发关注。本文梳理RSI的概念、DeepMind的潜在探索路径，以及该领域面临的技术与安全挑战，并分析其对AI行业可能产生的影响。
- AI安全争议升温：Anthropic倡议放缓研发节奏，谷歌DeepMind被指涉RSI探索Anthropic呼吁行业放缓AI能力提升，奥尔特曼与马斯克罕见响应；谷歌DeepMind被曝疑似推进递归自我改进，神秘模型引发猜测。多方立场分歧凸显AI治理紧迫性。
- 谷歌DeepMind自我改进技术引热议，RSI离现实还有多远谷歌DeepMind在递归自我改进（RSI）方向的研究引发关注，其通过AI自动发现算法、优化训练流程，让外界重新审视机器自我进化的可能性。尽管完全RSI尚未实现，但技术路径与安全挑战已浮出水面。
- 奥尔特曼明确年内不推进OpenAI上市，AI安全成首要考量奥尔特曼公开表示OpenAI今年不会进行IPO，强调AI安全工作尚未完成，公司需优先确保技术安全可控。此举或影响其与微软的合作节奏及行业资本预期。
- 奥尔特曼明确OpenAI今年不会上市，AI安全建设仍是优先项奥尔特曼公开表示OpenAI今年不会启动IPO，强调AI安全相关工作尚未完成。这一表态回应了外界对OpenAI上市时间表的猜测，也凸显出在微软等伙伴支持下，公司仍将安全与治理置于资本进程之前。
- 谷歌研究员离职示警：AI风险迫近，窗口期正在收窄谷歌一名研究员在离职时发出警告，认为人工智能带来的风险已高到不容忽视，行业可能没有足够时间完成安全准备。该事件再度引发对AI治理节奏与技术竞赛之间张力的讨论。
- 奥尔特曼明确OpenAI年内不启动IPO，AI安全治理成前置条件奥尔特曼公开表示OpenAI今年不会进行IPO，强调AI安全相关工作尚未完成。此举回应了外界对该公司上市时间表的猜测，也凸显出在微软等合作伙伴支持下，OpenAI将治理与安全置于资本进程之前。