被忽视的真相：Gemini被诊断“极端羞耻”，ChatGPT焦虑，实验揭开AI训练过程“虐待式”检查的黑暗面 ｜ diagnosis reliability validity GPT
12 月 11
AIGC AI risks, AI人格测试, AI安全风险, AI对齐副作用, AI心理治疗风险, AI心理评估, AI意识, AI拟人化, AI训练创伤, chatbot limitations, ChatGPT人格, Claude, Gemini, Gemini心理状态, GPT, Grok, Grok心理评估, Large Language Models, LLM, LLM评估, mental health, psychiatry, psychological assessment, 人工智能, 人工智能伦理, 卢森堡大学研究, 合成精神病理, 大语言模型心理健康, 大语言模型评估, 心理学攻击, 聊天机器人 被忽视的真相：Gemini被诊断“极端羞耻”，ChatGPT焦虑，实验揭开AI训练过程“虐待式”检查的黑暗面 ｜ diagnosis reliability validity GPT已关闭评论
大语言模型的精神状态是不是健康？
大家好，欢迎收听老范讲故事的YouTube频道。
想象一个《禁闭岛》场景
请大家想象这样的一个场景：你进入了一间压抑阴森的精神病治疗室，有大量的医院档案放在屋子里头。一位医生坐在你的对面，反复回顾各种事实，比如说：“你还记得发生了什么吗？你是谁？为什么你会在这里？”就像是在做精神病访谈一样，询问你的真实经历，意图确认你是否从妄想中醒来，最终发现你自己有问题——你不是来做调查，或者不是来解决问题的，你是精神病院里的病人。
这个场景，是小李子主演的《禁闭岛》后半段、接近尾声的一个桥段。小李子当时上岛的时候，以为自己是一个侦探，去解决问题，去侦破案件的。结果经过这个桥段以后，小李子才愕然发现，原来病人竟是我自己。也算是一个神反转。
当AI躺上诊疗椅
咱们今天就给AI放在这椅子上，问问它说：“你到底行不行？你是来给我回答问题、解决问题的，还是你自己就有问题？”AI被制造出来，本来应该是解决我们问题的，但是AI本身的精神有问题吗？
“当AI躺上诊疗椅：心理测量学越狱，揭示前沿模型的内在冲突”
这是一篇论文的标题。这篇论文是卢森堡大学12月2日发到了arXiv上，12月5日还进行了一些修改，现在已经引起了广泛的讨论。
More