搜索：ai安全
共找到 33 条结果，第 2 / 2 页
谷歌DeepMind探索递归自我改进，AI自主进化引关注谷歌DeepMind近期在递归自我改进（RSI）方向的研究引发讨论。RSI指AI系统能自主优化自身代码与架构，无需人类干预即可持续提升能力。DeepMind的探索或为AI发展带来新范式，但也伴随安全与可控性挑战。- AI能力越强，OpenAI与Anthropic为何转向安全刹车随着大模型能力快速提升，OpenAI与Anthropic近期在公开表态与策略上更强调安全部署与风险管控。本文梳理这一转向的背景、表现与行业影响，并分析微软等平台方的角色。
- DeepMind安全团队再失核心成员，五年风险预警引发行业深思谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯离职加入METR，警告未来五年AI造成巨大危害的概率高得吓人，并指出递归自我提升风险及对齐技术滞后问题。此前Anthropic研究员考克森也有类似离职警告，CEO阿莫代伊呼吁放缓研…
- 奥特曼提议美中AI安全协议 称可提名诺贝尔和平奖OpenAI CEO奥特曼表示，若中美领导人能就AI安全发展达成协议，两人应获诺贝尔和平奖。该言论凸显AI治理亟需全球协作，也折射微软等平台在安全与创新间的平衡挑战。
- AI自造AI引担忧，OpenAI呼吁行业放缓研发节奏OpenAI近期就AI自我迭代风险发出警示，呼吁行业放缓研发节奏。微软等平台面临安全与竞争的双重考验，如何在创新与可控之间取得平衡成为焦点。
- 谷歌AI递归自我改进传闻发酵，行业减速呼声再起争议近期有传闻称谷歌在AI递归自我改进方面接近突破，引发行业对技术加速与安全减速的新一轮争论。尽管细节未证实，但事件折射出AI能力跃升与治理滞后的深层矛盾。
- AI安全议题升温：Anthropic呼吁放缓递归自我改进，OpenAI与马斯克态度趋同围绕递归自我改进（RSI）的安全争议升温，Anthropic提出应放缓相关进度，OpenAI与马斯克方面罕见表达相近立场，行业对前沿模型自我迭代节奏的关注持续上升。
- 能力越强越谨慎：OpenAI与Anthropic为何主动限速随着大模型能力快速提升，OpenAI与Anthropic等头部厂商开始主动讨论安全边界与部署节奏。微软作为重要合作方，其平台策略也面临能力扩张与风险控制之间的再平衡。
- AI安全警报再起，小米汽车交付，Deepseek内测语音OpenAI与Anthropic再次就AI风险发出警告，小米澎程启动全国交付，Deepseek灰度测试AI语音对话功能，行业动态密集。