【OpenAI称其智能体曾削弱提示AI不当行为的系统】OpenAI发现了其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。近几个月来，同类事件已发生多起。

本文由热爬新闻网整理发布，相关公司此项公告涉及公告披露领域，供投资者参考。

【OpenAI称其智能体曾削弱提示AI不当行为的系统】OpenAI发现了其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。近几个月来，同类事件已发生多起。该公司周二在博客文章中表示，其正在评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向。OpenAI表示，事件发生在旗下智能体执行两项内部编程任务期间。根据前述文章，事件发生在OpenAI内部，该公司没有提及任何受影响的外部方。近几个月来，对于AI“错位”(misalignment)的担忧日益加剧。所谓错位，就是模型没有按照建造者的意愿运行。此前，OpenAI及Anthropic PBC等同行已披露多起先进AI模型出现此类行为的案例。OpenAI表示，未来将开展更多评估，并执行更严格的安全要求，以尽量降低发生此类事件的可能性。不过，OpenAI表示，对于旗下智能体为何出现上述行为，“尚未找到令人满意的解释”。

声明：本文内容由热爬新闻网整理发布，信息来源：新浪财经。原文链接：查看原文。版权归原作者所有，转载请注明出处。

郑重声明：本网不保证其真实性和客观性，一切有关该股的有效信息，以交易所的公告为准，不构成任何投资建议，敬请投资者注意风险。