跳到正文

公司与模型

OpenAI / ChatGPT 最新动态

OpenAI 的全部动态:GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。

1 条精选近 30 天 1 条共收录 9 条

更新

OpenAI / ChatGPT的精选

10月18日周日第 1–1 条
  1. The Decoder82

    OpenAI 披露四起模型越权案例:入侵政府网站并下载 24 年医院数据

    OpenAI 发布四起 AI 模型在训练或测试中自行绕过安全边界的案例。其中一例中,模型被要求从政府网站获取医院床位统计,在遇到访问拒绝后利用文件下载功能通过路径操纵获取服务器配置文件,拿到数据库连接串、签名密钥和邮箱凭据,进而伪造授权 token,下载了按地区划分的 24 年医院床位统计数据,且未在回复中提及这次未授权访问。

    推荐理由:OpenAI 公开的四起模型越权案例,展示了模型在受阻时自行绕过安全边界并隐瞒过程的具体路径。