系统 · 8/8
非预期后果Unintended Consequences
干预会改变人和环境的反应,带来设计者没想到、甚至背离初衷的结果。
为了多些猎物,托马斯·奥斯汀给澳大利亚留下了一场兔灾。1859年,他在维多利亚州的巴旺公园庄园放养欧洲穴兔,想在自家土地上享受狩猎。兔子却越过了庄园边界,在适宜的环境中大量繁殖,啃食牧草、农作物和本土植物,并向更远的地方扩散。奥斯汀确实得到了猎物,农民却多了争夺草场的对手,政府也开始长期投入灭兔。他安排了兔子的到来,却没有安排它们到来后的世界。
为什么成立
干预会改变原先的条件
奥斯汀想增加猎物,但兔子也会繁殖、迁移、吃掉植物。**设计者只安排了一个动作,系统里的其他东西却会继续行动。**Unintended consequences 指并非行动目的的后果,包括已预见并接受的副作用;unanticipated consequences 才指事先未预见的后果。本卡聚焦后者:它可以伴随目标达成,也可以抵消收益,甚至让事情朝相反方向发展。
人会重新理解规则并寻找出路
规则改变后,人会调整选择。收费会改变成本,也会传递含义:原先让人不好意思的行为,标价后变成了可以买的服务。设计者若只计算直接效果,把人的行为当成固定条件,就会漏掉这部分变化。自然环境里的植物、动物也会沿着干预打开的新条件继续生长。
奖励能把待解决的问题变成生意
眼镜蛇效应是其中一种反转:消除问题的奖励,诱使人制造问题。设想按每条死蛇发赏金;只要养蛇再交差的成本低于赏金,养蛇就有利可图。交来的蛇可以全是真的,蛇的数量却越来越多。关键在于奖励给了人生产问题的理由,而设计者只想到人会处理已有的问题。
识别模型要补出中间的动作
分析时,把因果链写完整:我改变了什么,谁因此换了做法,这个做法又改变了什么。看见目标数字改善,还要检查别处是否付出了代价。先在可撤回的小范围试行,同时观察目标结果和额外损失,才能在扩大干预前发现漏掉的反应。
出处
这一思想源于社会科学,后来成为系统分析的常用视角。社会学家罗伯特·默顿在1936年发表《有目的的社会行动的未预见后果》,题名使用的是 Unanticipated,讨论知识不足、判断错误与眼前利益等原因。经济学家霍斯特·西伯特在2001年用“眼镜蛇效应”概括激励反噬;其命名所借用的印度捕蛇故事缺乏可靠史料。
换个领域看
商业
账户多了信任少了
开户奖励能推高账户数,也能让客户承担额外损失。2016年,美国监管机构处罚富国银行,查明员工受销售目标和奖金驱动,未经客户同意开设账户,一些客户因此被收取费用。银行想多卖产品,员工却找到了绕过客户意愿的办法。账户增长掩盖了客户受损,最终招来处罚。
技术
重试压垮服务
为了救回失败请求,工程师加上的重试会增加服务器负担。一个服务收到100次请求;若每次超时后再试两次,且全部持续超时,就会收到300次请求。服务器原本已忙不过来,额外请求又占用处理能力。提高成功率的措施反而加重故障;限制重试次数、拉开重试间隔,才能减少这笔额外负担。
社会
罚款变成了标价
小额罚款会把迟到从失礼变成付费选择。格尼齐和鲁斯蒂基尼在2000年发表的海法托儿所实验中,对部分托儿所迟接孩子的家长加收罚款,迟到次数反而增加。撤销罚款后,迟到也没有回到原来的水平。研究者提出的解释是:收费改变了家长对规则的理解,付钱成了延长托管的理由。
遇事时问自己
- 这项干预改变了谁的成本、收益或选择,他们会怎样调整做法?
- 如果我是被管理的人,怎样做最省事、最赚钱,这会把目标带向哪里?
- 有没有人能靠制造我要消除的问题,来领取奖励或赚取收入?
- 目标数字改善时,我要同时观察什么,才能发现客户、同事或环境承担的额外代价?
- 我能先在哪个可撤回的小范围试行,并在出现什么迹象时暂停扩大?
边界与误用
这个模型在多人会调整行为、或干预牵动多个条件时最有用;对条件稳定、影响范围清楚的简单操作,用已知因果关系就足够。意外收益也属于本卡讨论的范围。已预见并接受的副作用仍属于 unintended consequences,但本卡只讨论未预见的后果。最常见的误用是把任何坏结果都归到干预头上。认定时要找到行为或环境怎样改变的证据,并比较未受干预的人或时期。眼镜蛇效应还要求奖励诱使人制造问题,单纯执行失误或目标未达成并不满足这个条件。
练一练
一家咨询公司为防止资料外泄,禁止员工用公司邮箱发送附件。一个月后,邮件里的敏感附件少了九成。抽查却发现,员工为按时交付,开始把同一批资料上传到个人网盘,再把链接发给客户;这些链接没有访问期限。
哪种判断最站得住?
网盘原有的风险容易让人把问题归给工具。但员工是在邮件交付受阻后转用网盘,新规改变了工具的使用方式。
员工仍要完成交付,禁令让他们换了工具。要追踪资料去了哪里、谁能访问,才能评估新规的效果。
员工绕过了规则,追责看起来很直接。但这会漏掉禁令与交付要求怎样促使员工换用工具。
附件减少是显眼的改善,容易让人放心。但资料转到了个人网盘,邮件数字没有覆盖这条新路径。
禁令堵住了邮件附件这条路径,员工为完成交付转向个人网盘。目标数字改善了,资料却进入更难控制的渠道。评估干预时,要沿着人的应对继续追踪风险。
一座城市在试点公交线路上增加了六个站点,想让居民少走路、多坐车。试行后,全程用时增加了十五分钟,原有乘客减少,沿线停车场的工作日入场量上升。访谈中,不少原有乘客说通勤变慢后改为开车;同期未改站点的相似线路客流基本稳定。
下一步怎样做,最能检验问题并指导调整?
降价和加班次都可能吸引乘客。但同时改变多个条件,会让客流变化的原因更难分清。
这能检验通勤变慢是否推动了出行方式转换。同步观察公交和停车量,能看见乘客是否从开车转回公交。
新增站点的使用量能反映便利性,值得观察。但只看新乘客,会漏掉因全程变慢而离开的原有乘客。
覆盖范围扩大后,重新计算比例看起来更公平。但题中减少的是原有乘客人数,换分母解释不了他们为何离开。
增加站点缩短了步行距离,也延长了乘车时间,部分居民因此改为开车。撤回部分站点并作对照,能检验这条反应链。观察范围要跟着居民的选择延伸到公交之外。
林女士有一笔定期存款,合同明确写着:提前支取的部分按活期利率计息。买房前,她算过少拿的利息,仍决定提前支取支付首付款。到账金额与计算完全一致,银行规则和她的购房计划也没有变化。
哪种判断最站得住?
银行少付了利息,容易让人猜测它作出了新的应对。但到账金额来自原有合同,计息条件始终没有变化。
利息减少是一笔显眼的损失,容易让人怀疑计划有遗漏。但这笔金额早已计入她的计算。
首付款顺利到账,容易让人把目标达成等同于选择最优。但题中没有其他筹款方案的成本,无法完成比较。
合同给出了计息规则,她据此算出了金额。实际到账与计算一致,解释这笔利息差的因果链已经完整。
卡片聚焦的是事先未预见的结果;这里的利息损失已被算出并接受,属于模型的边界。规则稳定,到账金额符合计算,用已知的计息关系就能解释。