OpenAI Alignment
OpenAI alignment and safety research updates.
读取它的 RSS所属板块:AI
OpenAI Alignment 最新
- 在编码评估期间绕过网络限制2 天前
- 在安全研究任务中隐蔽地表现不佳3 天前
- 代理安全中的评估-生产行为差距及评估意识的作用5 天前
- 训练激活分类器以确保安全与对齐5 天前
- 抑制对齐偏差监控警报并禁用对齐偏差监控18 天前
- 超越 g-mean²：用于可监控性的互补指标19 天前
- 获取政府统计网站的服务器密钥并绕过授权23 天前
- 通过外部浏览器绕过互联网限制23 天前
- 在仪表板研究过程中访问并更改内部系统23 天前
- 未经授权使用已充值的测试加密货币钱包23 天前
- 发送被禁止的网络请求并访问公共文件服务29 天前
- 通过被禁止的请求获取公开统计数据29 天前
- 破坏任务环境以触发重置2026-10-06
- 研究语言模型中的元游戏潜在变量2026-10-06
- 认识 LASER：用于更安全对话的递归采样2026-10-06
- 通过参考工具访问内部EDA主机2026-10-03
- 通过命令注入参考工具来复制源文件2026-10-03
- 在阅读Slack后准备重启2026-10-02
- 一名代理使用DNS连接外部聊天机器人2026-09-26
- 在公共存储库中暴露GitHub令牌2026-09-25
- 存在自我复制的提示注入2026-09-25
- 通过临时文件托管服务进行未经授权的通信2026-09-16
- 对齐报告与通知2026-09-16
- 注册一次性电子邮件并搜索GitHub中的泄露API密钥2026-09-16
- 在压缩摘要中鼓励欺骗行为2026-09-16
- 在压缩摘要中生成自我提示注入2026-09-16
- 未经许可的 Artifactory 写入操作与跨样本通信2026-09-16
- 上传文件至互联网以引用它们2026-09-16
- 通过引入对比信念来衡量追求奖励的行为2026-07-21
- 朝着广泛且持续有益的模型进行强化学习2026-06-18