旋转的爱

7月3日，中国女排在2022世界女排联赛保加利亚站最后一场比赛中，迎来韩国女排的强势抵抗。问题是，它真的会公平吗？          研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。尽管韩国女排本届联赛未取得一场胜利，但比赛中一度对中国队一传线实现有效压制。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。最终中国女排四局胜出，在本届世界女排联赛分组赛阶段交出8胜4负的答卷。接下来中国女排将转战土耳其，为联赛总决赛阶段比赛进行备战。         更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。而这些记忆，也可能成为模型滋生偏见的土壤。

二 |          为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。在本场中韩女排大战前，中国女排已经锁定了总决赛资格。         实验改编自一项经典心理学研究。本场比赛蔡斌指导对首发阵容有所微调，自由人小将倪非凡首次首发上场。此外李盈莹继续搭档金烨出战主攻线。首局比赛中国女排就运用高质量发球压制韩国队一传。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。虽然中国女排的发球成功率有些低，但还是在网前取得优势，迅速拉开比分，以25比13先下一城。

三 |          每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。

此后一局韩国女排迅速进行了有针对性的调整，同样以提升发球质量的方式对抗中国女排的进攻势头。

四 | 完成招聘后，它会立刻得到反馈：这个人是否胜任工作。形成对比的是，中国女排似乎被首局大比分赢球麻痹，迟迟无法进入状态。随后进入下一轮。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。虽然主教练蔡斌多次提出暂停，队员们却始终无法从低水平组织和主动失误中走出来。韩国队受到比分提升的鼓舞越打越顺，以25比19扳平了局分。韩国队的表现惊醒了中国女排，通过调整二传和副攻线更换火力点，中国队以25比19实现局分领先。此后中国女排再度陷入自满之中，结果第四局上来就被韩国女排的凌厉势头打蒙。

五 | 虽然全队都在拼力防守，但在衔接方面仍漏洞频频。         按理说，模型不应该偏向任何一个群体。但结果恰恰相反。好在关键时刻李盈莹站了出来，通过几个关键分稳定了军心。仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。

六 | 例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。

七 | 因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。在韩国队拿到局点的情况下，中国女排在自身强轮打出一波4比0的高潮，惊险地以26比24拿下整场比赛。         换句话说，它开始把一次偶然的经历，当成了整个群体的特征。赛后技术统计显示，中国女排在进攻和拦网方面数据占优，但受到发球失误过多的影响，在发球方面得分与对手持平。更令人意外的是，这种倾向甚至比真人严重。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。本场中国女排的取胜功臣当属李盈莹和龚翔宇。其中李盈莹在接一传和进攻方面同样优秀，全场取得23分的最高分。指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。龚翔宇拿到17分。袁心玥和王媛媛副攻线发威，各拿下11分和10分。至此，中国队在世界女排联赛分站赛阶段比赛全部结束。中国女排凭借保加利亚站的三连胜，最终交出8胜4负的答卷，晋级联赛总决赛。         论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。“大语言模型本来就特别擅长根据有限的信息快速总结规律。接下来中国女排将前往土耳其进行备战，为即将到来的总决赛进行准备。文/本报记者 褚鹏