AI建议抑制人类说“我不知道”的意愿，即使建议错误且鼓励准确

近日，一项发布在arXiv上的研究揭示了AI助手对人类决策行为的潜在影响。研究通过五项实验（共涉及3132名参与者）发现，当人们面对困难问题时，即使AI提供的建议是错误的，仅仅是有AI建议可用的存在，就几乎消除了参与者选择“我不知道”并暂停判断的意愿。

实验中，参与者可以随时选择不回答问题。研究人员特意设计了问题，使得AI的建议是错误的，从而将AI的使用与其准确性分离开来。结果显示，无论AI建议是参与者主动请求的还是被动显示的，这种效应都存在。其后果是，参与者回答了更多问题，但正确率却只有没有AI可用时的三分之一左右——然而他们的自信心却几乎翻倍。

研究还发现，当通过奖励准确性和惩罚错误来激励参与者时，他们会更少地寻求和遵循AI建议，回答的准确性更高，也更频繁地选择暂停判断，但即便如此，他们暂停判断的频率仍远低于没有AI可用的场景。

研究者指出，随着AI建议变得无处不在且常常是未经请求的，它们可能不仅仅影响答案的准确性，甚至可能改变人们决定自己是否“知道得足够多可以回答”的元认知阈值。这引发了关于AI如何微妙地重塑人类判断与自知之明的重要讨论。