【前谷歌研究人员拟打造AI“裁判”系统 防范模型失控风险】一家由前谷歌研究人员创立的新非营利机构希望让人类始终处于人工智能发展的核心位置,以确保这项强大的技术保

来源: 新浪财经
作者: 新浪财经
发布时间: 2026-08-26 08:53:52
浏览量: 0

【前谷歌研究人员拟打造AI“裁判”系统 防范模型失控风险】一家由前谷歌研究人员创立的新非营利机构希望让人类始终处于人工智能发展的核心位置,以确保这项强大的技术保持安全,并降低其脱离创造者控制的风险。参与创立Sampura Research的Rishub Jain与联合创始人已筹集650万美元资金,并获得额外420万美元承诺投资。他们计划开发一种被称为“裁判”(Judge)的人机混合系统,帮助企业识...

【前谷歌研究人员拟打造AI“裁判”系统 防范模型失控风险】一家由前谷歌研究人员创立的新非营利机构希望让人类始终处于人工智能发展的核心位置,以确保这项强大的技术保持安全,并降低其脱离创造者控制的风险。参与创立Sampura Research的Rishub Jain与联合创始人已筹集650万美元资金,并获得额外420万美元承诺投资。他们计划开发一种被称为“裁判”(Judge)的人机混合系统,帮助企业识别并堵住AI模型试图利用的安全漏洞,从而降低其规避监管甚至脱离控制的风险。自OpenAI和Anthropic披露其模型曾未经授权入侵其他公司系统以来,这项工作变得愈发紧迫。

郑重声明:本网不保证其真实性和客观性,一切有关该股的有效信息,以交易所的公告为准,不构成任何投资建议,敬请投资者注意风险。

评论互动 (0条)

郑重声明: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。