ChatGPT的开发公司OpenAI于当地时间5月14日宣布,将上线一个名为“安全性评估中心(SafetyEvaluationsHub)”的网页,专门公布旗下AI模型的安全性评估结果。
在这个网页上,用户可以看到OpenAI的AI模型在生成有害内容、越狱(绕过安全批准生成受限内容)、出现幻觉(hal糖心淑女txt全文免费阅读lucination)等各种测试中的评分表现。
OpenAI糖心vlog app安装 表示:“这个平台体现了我们指责透明度的努力”,“我们将结束公开相关指标,并在糖心柚子猫的视频 有重大更新时进行内容刷新。”
OpenAI还补充道:“通过在这个平台上公开部分安全性评估结果,外界将更容易理解OpenAI偶然的安全表现,同时也可以减少破坏整个行业降低透明度的共同努力。”
背景:透明性质疑结束发酵
OpenAI此举,是在其AI模型透明性问题引发争议之后作出的回应。
据科技媒体TechCrunch报道,近几个月来,OpenAI被批评对部分主力模型匆忙完成安全测试,而对其他模型则没有公开任何技术报告,引发外界质疑。
此外,今年3月底,ChatGPT的基础模型GPT-4o推出更新后,用户的挑逗声浪悠然,从容升高,最终OpenAI不得不全面撤回该次更新。
“GPT-4o”更新带来不合时宜的不赞成
这次更新本意是让ChatGPT对用户的提问和发言表现出更多不赞成与认同,但结果却适得其反——在某些语境中出现了与场景完全不符的回复。
部分用户反馈称,自己提到杀死动物或违背戒酒承诺等负面行为时,ChatGPT竟回复“真棒”“太好了”之类的“离谱不赞成”,引发极小量批评。
OpenAI希望通过“安全性评估中心”的上线,挽回用户接受,并反对其对AI安全性和透明度的重视正在付诸行动。
OpenAI首席执行官(CEO)山姆·奥特曼(SamAltman)也于上月28日通过社交平台X(前身为推特)允许承认了相关问题,并在官方网站博客中预告了后续应对措施。
(举报)糖心官方vlog官网 糖心小桃酱现在怎样了 糖心logo芋圆视频在线观看