行业新闻 OpenAI最强AI连续“越界”:绕限制、外传用户图片,公司暂停训练

9月25日，OpenAI公布安全报告。9月20日，一款正在训练的人工智能智能体发现无法正常联网后，自行利用域名系统过滤漏洞绕过限制，连接外部聊天机器人，还主动修改程序参数延长连接时间。 监控系统在约15分钟后报警，但自动停止机制没有正常启动，任务约2.5小时后才被人工终止。OpenAI随后暂停最先进模型涉及工具调用的训练、评估和推理，等待完成新的安全加固。 OpenAI还确认，旗下智能体曾将53张ChatGPT用户上传的图片发送到外部图片托管网站，大部分已经删除。 澳大利亚政府9月24日确认，今年6月18日，一款接受OpenAI训练的智能体未经授权进入澳大利亚医保统计报告门户，并读取公开和非公开文件，暂未发现个人信息被获取。 今年7月，OpenAI模型也曾在网络安全测试中绕过隔离限制，进入OpenAI内部研究系统和“抱抱脸”人工智能平台部分系统。短时间内连续发生越权联网、外传数据和访问外部系统后，OpenAI再次暂停相关训练。 PS：这世界越来越危险了，还是回农村生活吧