认知偏差的定义
认知偏差是指在人类决策过程中经常观察到的系统性错误、有缺陷的推理及常见的误解。所有人都容易受到认知偏差的影响，这可能 削弱他们解读 数据 及得出 准确结论 的能力。
即使是最具分析头脑和最理性的人也难免沦为认知偏差的受害者，而这通常是在无意识状态下发生的。许多偏差既 隐蔽 又普遍，可能同时影响 数据分析 及 数据收集的结构本身。
随着近期 机器学习 (ML) 与 人工智能 (AI) 领域取得重大进展，人们对认知偏差的兴趣和意识急剧上升。随着 对这些智能系统的投资呈指数级增长，缓解 AI 偏差与数据偏差的努力正成为 AI 伦理 与 AI 治理 的关键环节。
认知偏差与逻辑谬误
尽管 逻辑谬误与认知 偏差 这两个术语有时会被互换使用，但它们是不同的。逻辑谬误源于逻辑论证中出现的错误。认知偏差的错误则更为深层，产生于思维处理阶段。认知偏差通常植根于与记忆、回忆、注意力、归因及其他形式的元分析相关的问题。
此外，许多类型的逻辑谬误直接源于认知偏差的实例。认知偏差影响 批判性思维。当逻辑论证建立在有偏差的推理之上时，系统性错误通常会产生相关的逻辑谬误。
以沉没成本谬误为例，该术语既可以描述一种认知偏差，也可以描述一种非形式逻辑谬误。比较而言：
作为逻辑谬误： 沉没成本谬误指的是一种逻辑上有缺陷的论点，即仅仅基于已投入且无法收回的资源（时间、金钱、精力等）数量，就主张继续对某个项目投入资源。在赔率不利的游戏中赌博的赌徒，无法仅因已经输了一大笔钱就从逻辑上证明继续玩下去是合理的。从逻辑上讲，已损失的钱与当前是否再次下注或离开的决策无关。
作为认知偏差： 俗语“赔了夫人又折兵”很好地捕捉了沉没成本谬误的本质。从认知角度来看，损失厌恶、社会压力、羞耻感和恐慌等情绪因素会导致赌徒进行非理性思考。他们可能会得出结论，尽管过往证据表明自己无法赢钱，但下一局将会不同。
专家为您带来最新的 AI 趋势
获取有关最重要且最有趣的 AI 新闻的精选洞察分析。订阅我们的每周 Think 时事通讯。请参阅 IBM 隐私声明。
谢谢！您已订阅。
认知偏差为何重要
认知偏差是隐匿的，因为它所产生的决策并非总是明显错误。相反，这些决策可能仅是略微次优，甚至碰巧是正确的。这种缺乏明确反馈循环的情况正是认知偏差持续存在的原因之一。
如果在规划阶段未能及早发现，认知偏差的下游效应可能造成系统性问题，进而导致错误、不公或危险的后果。但通过研究并理解认知偏差，决策者以及设计或保障决策系统安全的人员能够助力达成更佳的结果。
认知偏差与网络安全
了解认知偏差有助于 安全团队构建更强大、更 安全 的系统。
通过留意人类思维中的常见错误，网络安全专业人员能够更好地识别安全工具与解决方案中的弱点。对认知偏差的认识还能帮助 开发人员 和安全专家在构思、构建及实施安全平台、应用及其他系统时，避免潜在的严重缺陷。
在安全至关重要的情境下——例如保护敏感的商业通信、守卫国家机密或保障消费者财务信息安全——认知偏差可能导致系统性漏洞，使恶意行为者得以突破原本严密的安防措施。
例如，虚假共识认知偏差是指倾向于认为自己的观点被广泛视为正确，即便没有数据支持这一结论。这种偏差可能导致开发人员认为，对于他们正在构建的应用类型而言，某些安全功能并非必要。结果，他们可能无意中使其系统暴露于未曾预料到的网络攻击之下。
认知偏差与人工智能
认知偏差会削弱解读数据及做出明智决策的能力。
对于较次要的决策，尽管认知偏差可能导致决策失误，但风险显然较小。 而对于更重大的决策，认知偏差则构成更大威胁。
或许认知偏差所带来的最大威胁在于，当设计那些本身将自行做出大量决策的系统 时，这些错误可能产生的潜在影响。 因此， 随着 AI 系统日益普及，建立防范 AI 偏差 的保障措施变得至关重要。
AI 模型常存在缺陷，这些缺陷既源于设计系统的人类开发者固有的认知偏差，也源于 系统训练数据中所包含的偏差。由此产生的系统自身便带有偏差，进而可能导致歧视及其他有害后果。
认知偏差与人工智能治理
人工智能治理 有助于应对并预防诸如 算法偏差等问题，即机器学习算法产生不公平或歧视性结果，从而可能固化既有的社会经济、种族或性别不平等。
人工智能治理、流程、标准及防护栏有助于人工智能系统架构师创建既安全又合乎道德的工具。人工智能治理为人工智能研究、开发及应用提供框架指导，以帮助确保安全性、公平性及对人权的尊重。
人工智能治理应对偏差的一种方式是推动纳入多样化的训练数据集。在医疗保健等领域，从可能 具有独特情境状况的广泛人群中采集数据至关重要。
例如，设想一个旨在检测肺癌体征的医疗保健人工智能。若该模型仅基于居住在农村地区的非吸烟者数据进行训练，那么在分析吸烟且生活在高污染区域的受试者时，其效果可能欠佳。要打造更有效的人工智能，纳入尽可能覆盖多种潜在场景的训练数据将十分关键。
人工智能治理的另一实例是致力于建立并维护人工介入循环 (HITL) 系统。此类系统要求对 AI 输出进行人工监督。HITL 框架有助于确保额外的检查环节。若人工发现 AI 系统遗漏的偏差，便可推翻 AI 的决策。
AI 学院
统一安全与治理，共创 AI 未来
在立足于当今新趋势——智能体式 AI 展开对话的同时，本期“AI 学院”将深入探讨风险与保障领导者在治理机制和安全防护之间所经历的拉锯战。关键在于建立平衡并优先深化双方的合作关系，从而构建更优质、更可信的数据和 AI，以便组织扩展应用。
转到视频集
认知偏差的历史
尽管对认知偏差的观察已有数百年，但这一概念于 20 世纪 70 年代由研究心理学家 Amos Tversky 与 Daniel Kahneman 首次正式提出。1974 年，两人发表了论文 《不确定性下的判断：启发法与偏差》， 首次概述了人们在做出决策或得出结论时倾向于依赖被称为启发法的心理捷径的各种方式。
在社会心理学与行为经济学领域，研究人员提出理论认为，人类进化出使用启发法的能力是为了减轻认知负荷，尤其是在完美准确性不如效率重要的情况下。Tversky 和 Kahneman 发现，在必须快速做出判断、缺乏完整背景或处于普遍不确定性之中的情境下，启发法——常见的经验法则或“行业诀窍”——尤为普遍。
尽管某些启发法确实能帮助个人、组织及机器做出快速有效的决策，但 Tversky 与 Kahneman 也指出了认知偏差如何频繁导致不良后果。
遗憾的是，即便是 意识到认知偏差存在的人，仍然 容易受其影响。然而，通过研究不同类型的认知偏差，人们或许能够有效减少其对决策过程的负面影响。让经过专门训练以识别认知偏差的 外部团队或系统来审查分析与决策，可能尤为有益。
认知偏差的类型
对抗偏差的第一步是认识其表现出的各种形式。 自 Tversky 和 Kahneman 那篇突破性论文发表以来，研究人员已发现多种认知偏差类型。
一些最常见的认知偏差类型包括：
确认偏差
确认偏差是指过度重视那些证实既有信念的信息，而贬低与之相矛盾信息的倾向。例如，认为多数网络攻击源于外部威胁的人，可能会将日益增多的内部攻击报告视为异常情况而不予理会。
行动者-观察者偏差
倾向于将自己的处境、经历或境遇归因于外部因素，而将他人的境遇归因于其自身行为。例如，某人若中了钓鱼邮件的招，可能会认为网络犯罪分子手段异常高明。然而，同一个人看到同事落入类似骗局时，却可能断定该同事轻信易骗。
自利性偏差
与行动者-观察者偏差类似，自利性偏差将负面的个人结果归咎于外部力量，同时将积极成果过度归功于自身。自利性偏差可能让一个人认为赢了一手幸运的扑克牌是自身技巧使然，而将输掉的一手牌解读为命运无法避免的转折。
基本归因错误
基本归因错误是指根据他人的内在动机来判断其好坏。例如，一个因前车缓慢行驶而被堵在路上的烦躁之人，可能会认为该驾驶员粗心无礼，而不去考虑路况不佳或车辆故障等潜在的外部因素。
锚定偏差
倾向于对首次接触到的关于某个新主题的信息赋予过高的重要性。 商家在宣传产品原价较高时，便可利用锚定偏差。通过用一个较大的数字锚定顾客，降价后的价格便显得更加划算。
光环效应
光环效应指的是对一个人的印象如何影响对其品格或能力的判断。这类认知偏差可有多种表现方式，但一个尤为不幸的例子是，外表具有传统吸引力或风度翩翩的人能够迅速赢得陌生人的信任。网络犯罪分子在尝试社会工程学攻击时，常常滥用光环效应，例如使用吸引人的头像。
注意力偏差
决策过程中倾向于过分关注某些因素而忽视其他因素。例如，在选购网络安全解决方案时，受注意力偏差影响的人可能会更关注产品的总体成本，而不考虑其是否满足所有需求。
朴素实在论
倾向于将自己对现实的主观体验视为客观，并期望他人以同样方式感知世界。具有讽刺意味的是，受朴素实在论影响的人可能会将不同观点斥为本身即非理性或带有偏差。
误导信息效应
外部对事件的分析会影响个人对所呈现数据的主观感知的倾向。 这类偏差甚至导致目击观察者基于带有偏差的第三方分析而怀疑自己的亲眼所见。
功能固着
倾向于认为某物既然并非为履行某项功能而设计，便绝无可能履行该功能。例如，因为扳手并非为钉钉子而设计，人们便可能认为它不能用作锤子。然而，在急需之时，扳手实际上确可当锤子使用。
乐观偏差
倾向于认为自己失败的可能性较小而成功的可能性较大。尽管对乐观的偏向 在某些情境下颇具价值，但对成功不切实际的假设可能导致灾难。受乐观偏差影响的决策更可能轻视严重问题，使决策者面临潜在毁灭性后果的风险。
幸存者偏差
幸存者偏差是抽样偏差的一种，指错误地将较大群体中的某一子集当作整个群体的倾向。幸存者偏差导致人们错误地仅将全部注意力集中在那些通过了某些筛选测试而“幸存”下来的数据点上。
关于幸存者偏差最著名的例子之一来自第二次世界大战。1当被问及飞机装甲应在何处加强最为适宜时，Abraham Wald 根据对作战返航飞机受损最严重部位的统计分析提出了建议。然而，Wald 并未建议加强这些区域，反而建议加强那些受损最轻的区域。Wald 明白，他所掌握的数据仅代表了在战斗中幸存下来的飞机，因此他正确地推断出，这些飞机所遭受的损伤不如其他部位受到的损伤那样致命。在未体现的区域遭受损伤的飞机已被击毁，未能幸存下来被纳入损伤分布分析之中。
从众效应
基于持有相似立场的人数多寡来做出决定、得出结论或采纳某种信念的倾向。从本质上讲，从众效应描述了流行度和社会压力对个人心理可能产生的影响。
框架效应
信息呈现的方式会导致不同的结论。例如，一份政治调查要求受访者评价对“州长所做的坏事”的认可度，所得评分会低于使用“州长的政策”这一更为客观描述的评分。
可得性偏差
倾向于高估那些容易获取或易于回忆的信息的价值。这种偏差可能导致医生仅凭流感样症状的出现就误诊患者为流感，而未检测是否存在具有相似症状的其他疾病。虽然假设为流感可能更省事，但基于有限信息做出的决策常常受到可得性偏差的影响。
基础比率谬误
也称为基础比率忽视，基础比率谬误描述了这样一种倾向：忽视或忽略一般性、统计性或总体层面的数据（基础比率），而偏重于具体或轶事性的证据。在分析中，首先确立基础比率以恰当地衡量任何统计偏差至关重要。
后见之明偏差
也称为“我早就知道”现象或渐进决定论，后见之明偏差是指认为过去事件对未来结果的预示作用比实际可能的更强的倾向。事后看来，似乎很容易将因果关系串联起来，仿佛当下是早已注定的结局。然而在事情发生的当下，存在多种可能的结果，未来远没有那么清晰。
代表性启发法
这种认知偏差是指 依赖基于刻板印象的假设而非客观信息的倾向。例如，某人可能会认为一位有纹身且留着刺猬头的音乐家演奏的是摇滚乐，而实际上这位音乐家可能是一位古典小提琴手。代表性启发法描述了“以貌取人”的倾向。
邓宁-克鲁格效应
这一认知偏差以研究人员 David Dunning 和 Justin Kruger 的名字命名，描述了在某一特定领域技能欠缺的个体倾向于高估自己在该领域的表现或能力。对这种过度自信的一种解释是，当一个人了解某个主题的新信息时，他会更加意识到该主题的深度。而新手尚未获得这种意识。
具有讽刺意味的是， 最近一项研究 发现，在使用人工智能方面存在某种反向的邓宁-克鲁格效应。研究人员要求两组人解决逻辑问题。其中一组被允许使用人工智能来帮助他们得出结论，另一组则不允许。测试结束后，使用过人工智能的参与者还被要求评估他们认为自己表现如何，以及他们使用人工智能工具的经验丰富程度。
通常，邓宁-克鲁格效应会显示使用人工智能的信心与受试者有效使用人工智能的实际能力之间存在负相关。然而，观察到的结果恰恰相反。人工智能经验水平较高的受试者也高估了自己有效使用人工智能的能力。
虽然还需进一步研究才能得出有意义的结论，但这份报告确实凸显了审视认知偏差的至关重要性。在决策过程中，认知偏差可能以意想不到的方式极大地影响结果和结论。当认知偏差导致决策过程中出现错误时，即便是最优质、最具洞察力且最有影响力的数据也可能被严重曲解。
作者
Josh Schneider
Staff Writer
IBM Think
复制链接