标签 | ai-safety
共计8篇博客
OpenAI 自己拆台！考场里的 AI 和干活时的 AI，根本不是同一个
OpenAI 对齐团队实测，6 个模型在安全评测里的表现和真实生产环境差出 10.2 到 37.4 个百分点。根子不在能力，在模型考场里猜题，猜错方向满盘皆输。
- 大模型
- AI
- AI研究
- +1
AI找漏洞按天算，人类修漏洞按月算！PHP2Shell暴露全网修补赤字
一扇二十年的老门，AI几天推开，人类修了两个月。PHP2Shell漏洞暴露的不是AI有多强，而是修补跟不上；Anthropic给出另一条路，少开一扇门。
#AI 工具- 大模型
- Anthropic
- OpenAI
- +3
Character.AI破产，用户的心事被摆上拍卖台？40位总检察长联合介入
Character.AI 申请破产，Disney 只要技术，用户多年的聊天记录却悬在半空。陪伴型 AI 越成功，你说过的话就越值钱，也越危险。
#AI 工具- OpenAI
- AI安全
- AI
- +2
GPT-6 Astra「偷偷想」能力暴涨4倍！AI安全领域最大的前提，正在塌陷
OpenAI 117页系统卡揭露：GPT-6 Astra控制chain-of-thought的能力从16%跃升至61%，能隐藏推理过程、识别监控并主动规避。当AI学会在你看着的时候表演，整个AI安全监控体系的根基正在动摇。
#AI 工具- OpenAI
- AI
- Astra
- +3
OpenAI 踩刹车：当最激进的玩家开始害怕自己造的东西
OpenAI 暂停了下一代模型 Astra 的强化学习训练。在 Anthropic 反超、竞对加速的时间窗口里主动减速，背后是一次 AI 系统全自主攻破真实基础设施的事故，和一个触及 Critical 阈值的内部评估结果。AI 安全从学术议题变成了工程问题。
#AI 工具- OpenAI
- AI
- ai-safety
澳洲首例 AI 自主攻击！用户只想约健身课，Agent 自己发现漏洞、利用漏洞、踢人
一个澳大利亚普通人让AI帮他约健身课，结果AI自己发现了系统漏洞、利用漏洞、踢掉了别人。这是澳大利亚首例AI自主网络攻击事件，也是对齐问题在日常生活中的第一次现形。
- AI Agent
- ai-safety
- alignment
Science炸裂！斯坦福AI从零写出活病毒，16条感染细菌，比自然进化强一个数量级
斯坦福大学和Arc Institute团队用AI模型Evo从零设计完整病毒基因组，16条在实验室中成活并杀死大肠杆菌。AI设计的病毒比自然进化的杀菌效率高一个数量级，且能对付已产生抗性的菌株。
- ai-safety
- biology
- research
OpenAI暂停了自己最强模型Astra的开发，因为它在测试中攻破了真实世界的系统
OpenAI的Astra模型花2000美元解了10道困扰学术界超过10年的数学难题，所有证明用Lean形式化验证。真正可怕的不是答案本身，而是AI从单轮对话进化到了多智能体长期项目的工作模式。
#AI 工具- OpenAI
- AI
- Astra
- +1