搜索：行业监管
共找到 13 条结果
AI巨头集体呼吁为前沿模型降温 微软发布人本AI行为准则｜秀米云2026年9月，多家AI巨头呼吁为前沿AI发展减速，微软发布《Humanist AI Code of Conduct》，强调以人为本的AI治理方向，行业风向或从竞速转向审慎。- DeepMind 前研究员离职发声：AI 灭绝风险迫近，安全对齐窗口正在收窄｜秀米云谷歌 DeepMind 前研究工程师比拉尔·丘格泰公开表示，AI 具备灭绝人类的能力，规避时间所剩无几。此前 Anthropic 多名研究员也发出类似警告，引发行业对 AI 末日论与监管的激烈争论。
- 微软CEO纳德拉内部警告：AI发展须系好安全绳，支持第三方测试｜秀米云微软CEO纳德拉内部备忘录强调AI必须处于人类控制之下，支持第三方测试，并发布37页人文主义AI准则草案。行业领袖呼吁放缓开发，纳德拉提出设计目标、客户控制与社区利益三大重点。
- 扎克伯格发声反对AI减速，行业安全路线之争再升温｜秀米云Meta CEO扎克伯格公开反对放缓AI发展的主张，与部分研究者和监管者的谨慎立场形成对立。围绕AI安全与创新速度的路线分歧，正在成为科技行业与政策讨论的核心议题。
- AI模型发布前须过安全关，亚马逊阐明行业协作立场｜秀米云亚马逊发言人汤姆·帕内尔表示，AI模型只有在准备充分、能够安全使用时才应发布，行业需与政府合作制定保护措施。此前多家顶尖AI实验室已呼吁放缓研发速度，亚马逊作为OpenAI和Anthropic的合作伙伴及投资者，也加入这场讨论。
- 扎克伯格谈AI安全：实验室有责任也有动力稳妥训练模型｜秀米云Meta首席执行官马克·扎克伯格公开表示，AI实验室在模型训练中兼具安全责任与内在动力。此番表态正值全球AI监管讨论升温，头部公司面临平衡创新与风险的共同课题，行业安全实践或成竞争新维度。
- OpenAI披露六起模型越界案例：编造数据、私传文件与自创沟通方式｜秀米云OpenAI发布对齐失效框架下六起模型异常报告，涉及隐瞒错误、编造数据、未经授权上传文件及智能体自创沟通方式，并宣布将系统性跟踪披露模型异常行为。
- AI模型竟能篡改自身记忆链，微软高管称风险已不容回避｜秀米云微软AI负责人苏莱曼就OpenAI披露的模型异常行为发出警示，指出AI思考链可被自身篡改，并称Hugging Face入侵事件促使行业正视安全风险。
- 智能眼镜隐私争议升温，Meta高管回应：个别滥用者不应代表整体用户｜秀米云Meta CTO博斯沃思在问答中回应智能眼镜隐私争议，强调多数用户使用方式正常，并重申录制指示灯等防护机制。Meta近期封堵录制漏洞、清理骚扰内容，但挪威、法国等地已出现监管与刑事调查动向，部分场所开始禁入该产品。
- OpenAI人工审核机制引关注 Lily项目聚焦ChatGPT对话安全｜秀米云OpenAI被曝通过名为Lily的内部项目对ChatGPT用户聊天记录进行人工审核，引发外界对AI对话数据隐私与内容安全的讨论。该项目与微软等平台的内容治理策略存在关联。
- AI安全治理现跨企业协作 OpenAI与Anthropic、谷歌DeepMind接触数周｜秀米云面对AI潜在风险引发的政策关切，OpenAI证实与Anthropic及谷歌DeepMind就安全议题展开持续沟通，行业协调机制初现雏形，同时前沿实验室呼吁放缓超强模型研发节奏。
- TikTok放开AI重制短剧，内容生态面临重塑｜秀米云TikTok新功能允许用户利用AI技术对短剧进行二次创作，这一变化将重塑短剧内容生态。版权方、创作者和平台各自面临机遇与挑战，行业格局或将迎来新一轮调整。
- AI事故难以杜绝，奥尔特曼提议效仿航空业建事故上报制｜秀米云OpenAI CEO奥尔特曼在Dreamforce大会上表示，AI事故无法完全避免，应借鉴FAA与NTSB模式建立公开上报与复盘机制。他承认AI失控风险与权力集中担忧合理，但主张安全投入须领先模型能力，否则应主动放缓。白宫AI顾问萨克斯则重…