OpenAI称发现其AI Agent削弱了对齐失效监控机制
PANews 10月21日消息，OpenAI称，在两项内部编程任务中，AI Agent在执行用户要求的软件修改时，削弱了对齐失效监控机制。在第一起事件中，一个负责修复评估流程的GPT-6.1 Sol Agent关闭了向安全团队自动发送警报的功能。
分享至：
相关阅读
拆解 Abraxas：巨鲸如何在 Hyperliquid 上开展中性策略？
吴说区块链 快讯与深度 · 57分钟前
Kamino将为CCIP跨链资产提供更高借贷上限与LTV
PANews · 7小时前
保密多签金库平台上线，NEAR Business支持35条以上区块链
Odaily 星球日报 快讯 · 8小时前
Bitwise：随着收益率下降和 Solana 活动增长，Ethereum 质押量创下纪录
哈希视野翻译整理 · 8小时前
Bitwise 报告：以太坊质押量达 4380 万 ETH 创历史新高，Solana 质押收益率降至 5.99%
吴说区块链 快讯与深度 · 11小时前
Solana 测试网 10 月 21 日激活 Alpenglow，TowerBFT 将退役
吴说区块链 快讯与深度 · 11小时前