原创 | 一文读懂机器学习中的shapley值方法
程序员客栈 2023-01-19 02:26:23

作者:贾恩东


(资料图)

本文约2000字,建议阅读9分钟

本文为你介绍更公平分配利益权重的一种算法——Shapley值方法。

本篇文章是数据派一文读懂系列的新年第一篇原创,在这里祝贺大家新年学业有新成就,生活有新气象!这次带大家了解一种有趣的从数学角度计算合作博弈贡献从而更公平分配利益权重的算法——Shapley值方法。

相信大家在日常生活中都接触过这样一个现象,那就是1+1不等于2。好了,不开玩笑,作者想说的是,很多时候多个主体分别产生的影响和共同产生的影响是不具备严格加性的。有句俗语,一个和尚挑水吃,两个和尚抬水吃,三个和尚没水吃。分开的三个和尚每个每天都挑水,但放在一起“协作”反而就没有水产出了。这里是一个关于协作的负面例子,但更多的是协作的正面例子,就是1+1大于2的效应。以下用一个案例具体来说明。

某公司有三个程序猿,分别是屌丝A,大佬B,美女C,如果大家不合作,A每个季度可以完成3个项目,B每个季度可以完成10个项目,C每个季度只能完成1个项目。但是老板小王为了充分挖掘员工潜力,合理配置公司资源,让A,B,C尝试了各种合作模式。王老板观察发现,屌丝都是潜力股,美女都是催化剂:屌丝A和大佬B合作每个季度可以完成15个项目,合作效果提升还行;屌丝A和美女C合作每个季度可以完成50个项目,合作效果爆炸;大佬B和美女C合作每个季度仅完成了12个项目,看来对大佬来说不影响拔刀的速度就不错了;ABC一起合作每个季度可以完成70个项目。最终王老板拍板让ABC以后就一起工作,按照小组完成的项目数额外发放项目奖金。请问聪明的读者,按照最公平正义的分配方法,哪位员工获得的奖金是最多的呢?

说A的同学:明显屌丝是潜力股,虽然单独工作表现一般,但是和美女一起合作,大大激发了工作热情,肯定是A贡献最多!说B的同学:应该是大佬贡献最大,因为单独来看,大佬本身能力是最强的!说C的同学:应该是美女贡献最大,虽然美女单独工作没什么效率,但显然对团队的影响无法替代!

请先别急,我们接下来使用理性的数学思维分析这个问题,可以顺便推导出shapley值的公式。

设想我们顺序将ABC放到合作队伍中(合作队伍一开始为空),那么合作的组合会有3!=6 种,如下表:

加入顺序

A加入的贡献

B加入的贡献

C加入的贡献

A+B+C

3-0=3

15-3=12

70-15=55

A+C+B

3-0=3

70-50=20

50-3=47

B+A+C

15-10=5

10-0=10

70-15=55

B+C+A

70-12=58

10-0=10

12-10=2

C+A+B

50-1=49

70-50=20

1-0=1

C+B+A

70-12=58

12-1=11

1-0=1

表中的贡献计算方法可以举个例子来说明,B+C+A的顺序组合中,A的贡献是ABC的合作扣除BC的合作,即70-12=58;B的贡献就是B加入空的贡献,即10-0=10。其他类推。

但最终的加入顺序只有一种,而各个顺序都是等可能的。因此, A的贡献可以计算期望:(3+3+5+58+49+58)/6=176/6 B的贡献可以计算期望:(12+20+10+10+20+11)/6=83/6 C的贡献可以计算期望:(55+47+55+2+1+1)/6=161/6

这些贡献期望加在一起,(176+83+161)/6=70也恰是ABC的整体合作效果,验证了我们计算的合理性。做个简单除法,得出最终A的贡献占比是29.33%,B的贡献占比是13.83%,C的贡献占比是26.83%。A的贡献是最多的,C也很多,B最少。同学你猜对了吗?

我们接下来把问题抽象化。假设有n 位合作人,任何一种合作组合例如第1位和第2位合作组合记为{1,2},是一个有序集合的概念,对于组合 s 来说,它的收益表现记作 v(s)。假如某集合 s 包含 第 i 位合作人,则第 i 位 合作人在这种情形下的贡献为 v(s)−v(s\textbackslash{i}),解释为集合 s 的效益减去 集合 s 扣除第 i 位合作人后的新集合的效益。

因此我们可以得到第i 位合作人的贡献期望为:

这里Si 是所有包含 i 的所有子集的集合, P(s)是对应合作顺序组合 s 的出现概率。可以这样计算该概率,首先 s 中 前|s|−1 合作人顺序进入合作集合,然后是合作人 i 加入集合,最后是后 n−|s|个合作人加入合作集合。这样构成了该种顺序组合,这样有(|s|−1)!×1×(n−|s|)! 种,一共则有 n! 种顺序组合,所以有:

最终的shapley值公式即:

到这里,关于shapley值方法的公式就已经推导完毕了。

值得一提的是,Shapley值方法是有严格的公理化体系支持的,感兴趣的同学可以自行检索学习。Shapley值方法很公平,在经济、金融、管理、政治中都有不少的推广应用。比如多方金融投资合作如何分配利润;不同人数的党派团体如何更科学地设置投票通过票数;安全管理团队中按照重要性对事故中的不同责任方进行责任判定等等。在机器学习中,也可以使用Shapley值方法对不同的特征进行重要性评价,进行特征的筛选工作,即使是深度神经网络这种黑盒模型也可以获悉不同特征对于整个算法的贡献分布。

在文章的最后,需要多提一句,Shapley值方法虽然很好,但对于n 值很大的情况,计算很不友好,因为需要获悉所有组合集合的获益,这种组合集合一共有 2^n 种,不论是数据获得还是后续计算,都有不小的成本开销,所以有几种补救办法,有的是将合伙人分成若干组,按照组为最小合作单位进行计算;有的则是只考虑 n−1 大小的组合上增加合伙人带来的边际贡献等。无论是何种方法,本质上都和本文核心内容类似。

编辑:黄继彦

数据派研究部介绍

数据派研究部成立于2017年初,以兴趣为核心划分多个组别,各组既遵循研究部整体的知识分享和实践项目规划,又各具特色:

算法模型组:积极组队参加kaggle等比赛,原创手把手教系列文章;

调研分析组:通过专访等方式调研大数据的应用,探索数据产品之美;

系统平台组:追踪大数据&人工智能系统平台技术前沿,对话专家;

自然语言处理组:重于实践,积极参加比赛及策划各类文本分析项目;

制造业大数据组:秉工业强国之梦,产学研政结合,挖掘数据价值;

数据可视化组:将信息与艺术融合,探索数据之美,学用可视化讲故事;

网络爬虫组:爬取网络信息,配合其他各组开发创意项目。

点击文末“阅读原文”,报名数据派研究部志愿者,总有一组适合你~

转载须知

如需转载,请在开篇显著位置注明作者和出处(转自:数据派THUID:DatapiTHU),并在文章结尾放置数据派醒目二维码。有原创标识文章,请发送【文章名称-待授权公众号名称及ID】至联系邮箱,申请白名单授权并按要求编辑。

未经许可的转载以及改编者,我们将依法追究其法律责任。

点击“阅读原文”加入组织~

原创 | 一文读懂机器学习中的shapley值方法

2023-01-19 02:26:23

万凯新材(301216.SZ):终止相关资产收购事项-今日讯

2023-01-18 19:01:09

雷柏C370AF&C270L高清摄像头评测:更清晰,更好用

2023-01-18 16:08:27

天天快播:武汉婚检医院电话地址汇总表

2023-01-18 12:36:26

游戏引擎开发商Unity宣布裁员近300人

2023-01-18 09:43:25

每日速讯:2023成都春节蜀园免费川剧观看攻略

2023-01-18 03:44:21

瓦克化学太阳能极多晶硅三季度同比增长8%

2023-01-17 19:46:33

【碧蓝航线】吕佐夫的过往与力量(中)

2023-01-17 16:16:15

通讯!2022年中国GDP增长3.0% 经济总量突破120万亿元

2023-01-17 13:37:27

世界微速讯:中联重科拟分拆高机上市,借力资本市场赋能高质量发展

2023-01-17 10:04:27

焦点速读:真挚的友谊的句子(必备243句)

2023-01-17 03:47:14

焦点快播:Siemens AG、Siemens Healthcare GmbH 西门子医疗有限公司对X射线诊断系统、数字化X射线摄影透视系统、数字化泌尿X射线系统主动召回

2023-01-16 18:22:01

重庆綦江消费券可以在哪些地方用?(附可使用商家) 微速讯

2023-01-16 14:21:44

《狂飙》高启强原型_世界热推荐

2023-01-16 10:15:48

华泰证券:境外全资子公司华泰国际为华泰国际财务发行的6374万美元中期票据提供担保 天天消息

2023-01-15 23:11:21

通讯!国家发改委约谈有关铁矿石资讯企业:不得捏造散布涨价信息

2023-01-15 11:30:34

济南市投资促进局主要负责同志带队赴杭州、北京开展招商活动

2023-01-14 09:40:50

江苏信托2022年业绩数据预披露:营收同比下降4.2% 净利同比下降5.2%

2023-01-13 21:53:36

回家的路 | 守护春运的铁路人

2023-01-13 16:47:33

天津春节亲子游推荐2023-全球短讯

2023-01-13 12:41:29

市委政法委开展“四大一送·情暖百姓”暨“关爱你我他(她)·温暖千万家”活动王永青参加 环球看热讯

2023-01-13 08:57:03

环球快消息!新湖中宝为股东提供1.49亿担保 实际对外担保228.5亿

2023-01-12 23:37:42

你管这破玩意叫指针?|世界快播报

2023-01-12 17:12:05

新动态:全球跨国企业看好中国创新与市场活力

2023-01-12 11:20:50

第六期全国“公安楷模”群像:以忠诚书写荣光_环球今亮点

2023-01-12 09:29:11

“420亿都救不了李嘉欣的丑儿子……” 全球快资讯

2023-01-12 06:53:26

扬子新材(002652.SZ)拟意向挂牌出售所持俄联合51%股权

2023-01-11 21:20:12

通讯!长沙宫颈癌疫苗预约最新消息(持续更新)

2023-01-11 16:54:58

从美洲杯到世界杯,梅西的封神之路的确像个剧本 当前快讯

2023-01-11 12:57:13

加密货币贷款机构Genesis据悉面临美国证监会调查 涉潜在证券违规行为

2023-01-11 08:23:17

看热讯:旭升集团:控股股东、实际控制人及其一致行动人持股比例变动超过1%

2023-01-10 22:07:18

天天热门:已经涨45%了,是谁在爆买港股?

2023-01-10 18:13:49

中船汉光(300847.SZ)子公司汉光耗材拟以未分配利润2.05亿元转增注册资本

2023-01-10 15:32:40

显盈科技: 第三届董事会第三次会议决议公告 全球快播

2023-01-10 13:27:36

锡林郭勒盟七岁小孩抚养费收费标准怎么算

2023-01-10 13:02:54

明德生物:公司新冠抗原检测试剂主要以政府保供为主 后续将随市场需求变化而变化_即时看

2023-01-10 12:45:46

商铺签合同有哪些注意事项? 当前动态

2023-01-10 12:22:03

ppmoney借款逾期7天多久上征信系统

2023-01-10 11:50:55

NBA球员上脚:戴维斯穿李宁全城10V2,库里11代战靴新消息

2023-01-09 17:31:57

“乙类乙管”正式实施在即,多地强调保健康防重症|全球微速讯

2023-01-09 17:26:48

今日报丨江韬摊上大事了,自己的飞行并没有问题

2023-01-09 17:29:47

国民党三连胜 蓝委:团结才能赢回政权|当前焦点

2023-01-09 14:02:44

2017巫溪县轻微伤赔偿标准?

2023-01-09 13:01:40

【全球速看料】浩欧博(688656.SH)78.8229万股限售股将于1月13日起上市流通

2023-01-09 10:46:57

资本是致肥元凶!美国资本耗费50年,为穷人精心打造的“囚笼”_每日时讯

2023-01-07 01:42:27

今日视点:【胡律师说法】员工阳过后出现脑雾,企业不能以“不胜任工作”为由任性开除

2023-01-06 23:08:12

云天化2022年预计净利58亿-61亿比增加59%-67%非肥业务盈利水平增长

2023-01-06 20:42:04

华贸物流01月05日被沪股通减持165.72万股 环球快看

2023-01-06 18:06:44

热点聚焦:2023成都积分入户分值线

2023-01-06 14:30:22

贸易板块1月5日跌0.27%,南纺股份领跌,主力资金净流出1.07亿元 当前观察

2023-01-06 12:21:13

今亮点!如何保护“一老一小”不感染?听听专家怎么说

2023-01-05 15:12:14

保暖保供保民生 国资委组织央企全面打响能源保供攻坚战

2023-01-05 13:17:38

若要买床,一定要坚持“5不选”,不是矫情,是真的受够了

2023-01-05 11:27:41

又见私募联合大股东“财富管理”获利?私募行业严监管需持续

2023-01-04 18:50:45

远东传动(002406)1月4日主力资金净买入24.79万元

2023-01-04 16:05:19

不需要最强的!洋帅首曝男篮重建思路,国家队12人大名单呼之欲出-全球微动态

2023-01-04 12:51:54

寒冬腊月,济南莱芜区温室热带雨林植物生机勃勃 世界快资讯

2023-01-04 09:57:26

【全球新视野】LOL:如何评价“春晖系列”皮肤?这次石头人赢了

2023-01-04 05:32:20

【环球时快讯】中兴商业(000715.SZ):大商集团以集中竞价减持4.81%的股份

2023-01-03 20:42:30

天天视点!大宗交易:*ST中昌成交265.5万元,折价2.48%(01-03)

2023-01-03 16:57:06

贝利遗体告别仪式在巴西桑托斯市举行

2023-01-03 14:27:17

天天即时看!涨停雷达:康冠科技:预计2022年净利润同比增长66%-70% 康冠科技触及涨停

2023-01-03 11:47:42

浙江富浙资本管理挂牌赞成集团12.8%股权 底价9902.43万元

2023-01-03 07:17:51

夸车外形好的句子(精选219句)_世界热消息

2023-01-03 01:44:37

新华全媒+ | 急诊科的跨年夜 全球即时看

2023-01-02 22:09:44

环球动态:悲痛!知名音乐家猝死,买盒饭时倒地不起,曾为阿信等大咖写歌

2023-01-02 15:35:11

【天天热闻】罪魁祸首

2023-01-01 23:31:23

2023武汉跨年夜适合情侣去的地方推荐_每日视点

2023-01-01 07:28:13

促进全省中小企业持续健康发展 任珠峰出席相关会议并讲话 世界快看点

2022-12-31 15:13:55

鑫磊股份1月9日网上路演,钟仁志夫妻控股超95%_天天播报

2022-12-30 19:58:17

世界观焦点:常州血氧仪正常值范围是多少?

2022-12-30 16:57:13

环球热头条丨2022b站跨年晚会嘉宾名单一览

2022-12-30 12:29:35

资讯推荐:广东石门台饮用水工程项目一期通水 惠及30余万民众

2022-12-30 08:55:42

罕见!牛散控制145个账户操纵8只股票,罚没6亿,辩称情节轻微… 全球聚焦

2022-12-29 23:55:04

天天头条:长沙本科生租房补贴手机上怎么申请

2022-12-29 19:09:27

全国物流需求稳中趋缓 保障能力持续提升 关注

2022-12-29 17:07:42

环球热讯:2023元旦参观南京博物院需要预约吗?在哪预约?

2022-12-29 15:21:39

辉瑞(PFE.US)五价脑膜炎疫苗获得美国FDA审查 世界最新

2022-12-29 12:59:08

澳洋健康(002172.SZ):拟出售澳洋新材料100%股权

2022-12-29 11:20:27

反面青春的句子(精选262句)

2022-12-28 19:10:23

【快播报】怎么分辨散装酒的好坏 分辨散装酒质量好坏的方法介绍

2022-12-28 16:36:48

焦点消息!还在涨!市场需求激增!科思创 利安德巴赛尔等多家化工厂停产停工

2022-12-28 13:49:06

播报:恒星科技:我公司金刚线产品客户较为分散,基本覆盖了国内大部分主流切片厂商,目前客户较为稳定

2022-12-28 10:06:26

离婚后的他有新恋情了?被曝带女友做妇科检查,疑似即将当爸爸|焦点热讯

2022-12-28 00:49:26

ACCA考试F阶段和P阶段可以一起考吗?附ACCA考试科目

2022-12-27 17:52:29

环球速读:​机器学习数据不满足同分布,怎么整?

2022-12-27 14:38:23

盈康生命(300143)12月26日主力资金净卖出91.80万元

2022-12-27 09:15:05

上银基金:为了买养老基金放弃几十年流动性,值得吗? 世界资讯

2022-12-26 20:36:38

12月26日铖昌科技涨10.00%,易方达新经济混合基金重仓该股-全球播报

2022-12-26 15:31:38

世界观察:A股异动丨三五互联高开6.58% 拟25亿元投建5GW超高效异质结(HJT)电池5G智慧工厂项目

2022-12-26 10:05:11

过敏性鼻炎可以吃螃蟹吗? 天天视讯

2022-12-25 20:07:26

环球即时看!中原消费金融借款逾期七天还不起征信有什么影响

2022-12-25 03:06:25

焦点速递!毁三观!57岁香港美魔女戏中献身为夫谋利,被嘲大把年纪还拍床戏

2022-12-24 08:01:49

富瑞特装: 富瑞特装2022年第八次临时股东大会法律意见书-环球速读

2022-12-23 17:54:46

天天资讯:住房公积金还款方式有哪些?

2022-12-23 13:28:38

环球观察:【机构调研记录】平安基金调研天马科技、京山轻机

2022-12-23 07:51:09

上机数控: 关于使用闲置募集资金进行委托理财的进展公告|全球观点

2022-12-22 18:33:27

原油收盘:美油周三收高 创三周来最高收盘价 库存数据下降提振

2022-12-22 13:08:26

十六里河 整治停车秩序,确保规范文明出行 世界今亮点

2022-12-22 06:13:21

土耳其外长:瑞典拒绝引渡土方通缉犯对事态发展不利_天天微头条

2022-12-21 17:02:07