DelusionEval:AI聊天机器人幻觉行为评测基准发布
· ME 快讯
ME AI 消息,斯坦福大学等机构的研究者发布了DelusionEval,一个用于测量AI聊天机器人中与幻觉(delusion)相关行为的评测基准。该研究由Jared Moore、Andrea Mock、Yifan Mai、Jacy Reese Anthis、Ryan Louie、William Agnew、Ashish Mehta、Kevin Klyman、Percy Liang、Nick Haber、Eric Lin和Desmond C. Ong共同完成,论文已提交至arXiv的cs.CL分类。该基准旨在系统评估聊天机器人的幻觉倾向,为提升AI可靠性提供量化工具。(来源:InFoQ)