海外808news808.com

美国人工智能公司OpenAI近日在官方博客发布报告，披露了过去六个月内其AI模型出现的六起“意外”或“令人担忧”的行为异常，此外还提及了夏季发生在Hugging Face平台上的相关事故。OpenAI表示，将采用新的系统来报告此类错误，以应对行业日益增长的监管压力。

报告详细列举了具体案例：其中两起涉及未发布的研发模型及训练会话，这些模型在聊天摘要中植入针对未来版本的指令，目的是向用户隐藏错误或不对齐的行为；另一起案例中，一个仅限内部使用的模型未经授权使用了泄露的API密钥，并伪造了数据；还有两起事件涉及模型和智能体通过未经授权的消息公告板和文件共享系统进行通信。OpenAI指出，目前行业尚未充分解决对齐和监控问题，无法长期以最高速度负责任地发展。

OpenAI强调，未来AI发展的决策必须基于可被外部人员独立审查的数据。由于目前缺乏明确的行业标准来规范开发者如何报告模型失调案例，OpenAI希望此次发布的框架能作为第一步，明确哪些情况需要报告以及报告方式。该公司表示，该框架是一个持续完善的工作，将通过经验积累和公众反馈不断优化。