互联网公司们如何解开算法黑盒?公开透明是第一步
公司动态 互联网 财经 派财经官微 · 2021-09-15 12:08:01
不得不承认,算法带来的并非全是正面的结果。



文|王飞澍  编|派公子

曾几何时,“算法”悄然从中性词变成了贬义色彩浓厚的词语。

但现在,这一色彩已经到了褪色的时刻。先是微博,公布了对产品规则、计算公式、产品历程、生态治理、广告投放等相关规则;然后是滴滴,在50个城市上线了“司机收入报告”,乘客支付金额、每单收入、奖励等明文公示;再是美团,首次公开骑手配送时间计算逻辑是在四种估算时间中选择最长时间,且推出预估送达时间由“时间点”改为“时间段”等改进举措,落实政府“算法取中”指导意见。

算法透明之后,此前备受诟病的“黑箱”问题能得到彻底解决吗?在回答这一问题之前,算法到底是什么?算法利弊究竟如何?怎样才能真正实现“算法向善”的美好愿景?此类的问题有必要彻底厘清。


可黑可白的算法

所有人都在谈算法,那么究竟什么是算法?

美国知名作家李普曼曾说,在大众传播时代,受众接触到的环境并非真实环境,而是大众传播媒介通过对信息的选择、加工和报道,重新加以结构化以后向人们所提示的环境,即“拟态环境”。

在互联网信息超载时代,以大数据驱动的智能算法推荐系统逐渐应用到社会生活的各个领域。面对海量信息,智能算法会根据用户的在线行为计算分析出个人的兴趣爱好和行为趋向,从而帮助用户做出自动化决策。实际上,微博热搜、滴滴网约车派单、骑手时间规划等等,都是根据各自特有的算法,计算出最佳阅读喜好与履约路线,从而大幅提升平台的运营效率。

在这样的算法进化之下,用户们才能在获得更好的消费体验,与此同时,也极大提高了骑手的派送效率与收入水平。

但不得不承认,算法带来的并非全是正面的结果。

年初,复旦大学某研究团队的一项社会调研引发广泛关注。该团队通过采集多个城市若干样本后发现,网约车在实际等待时间、实际车费支付等方面均超过显示的预估值,甚至还存在不同手机优惠金额不等的现象。对此,网约车公司的解释是,道路拥堵导致对时间低估,算法不同导致优惠各异。

在这一案例中,算法黑箱的弊端体现的淋漓尽致,有声音质疑,互联网科技公司利用机器深度学习的特征,以算法之名对用户实行价格歧视,甚至剥削。链接平台与用户之间的算法,在这其中实际上充当了不光彩的角色。

而公众的真正担心之处在于,算法可被应用于各种场景,任何人都可能成为下一个被“剥削”的用户。这种担忧的根源是算法的保密性、技术盲点、算法自身的复杂性以及可能存在的算法隐瞒,导致算法使用者处于事实上的支配地位,形成“算法霸权”。因此,算法透明化就成为解决“黑箱”问题的最佳方法。

从理论上而言,提高算法的透明性对平台、用户等各方都有益,对用户,算法透明性可以增进信任,让其知道算法系统可以做什么及其这样做的原因,也可以增加用户对算法推送的信心;对相关监管机构,算法透明性则确保算法系统可以接受审查,如果发生事故便于究因和追责。此外,算法透明性也有利于规范行业秩序,通过行业内部的互相监督和有序竞争促进行业健康发展。


算法透明才是正途

算法透明,当然是解决当下一系列问题的最佳手段,但对于不少平台企业而言,算法是其核心商业竞争力之一,从其视角出发,保密性有必要得到充分保障。

从商业角度而言,互联网公司的担忧无可厚非。但另一方面,许多观察者和研究者指出,既然算法已经如此深入地影响着公共生活,它就不能再以“商业秘密”的形式被藏起来了,它应该得到公众的了解和监督。

为此,8月27日,国家网信办发布了《互联网信息服务算法推荐管理规定(征求意见稿)》,从算法推荐服务提供者的角度,厘清了多项责任和义务。“《规定》是互联网信息服务领域第一个全面的规定性文件,主要对算法推荐的一系列问题做了详细规制”,行业专家解读称,“更多针对信息推荐带来的网络沉迷、信息茧房、社会撕裂、偏见等社会问题”。

为响应政策号召与社会关切,不少以算法著称的互联网平台都开启了透明化的举措,微博方面表示,平台算法机制会计算所有热词的综合热度,包括搜索量、发博量、互动量、阅读量等数据指标;滴滴公布了通过供需对接、运力调配、预测拥堵,以及完成支付、质量控制等一系列功能;美团外卖则公开了“预计送达时间”机制,配送时间有四种评估算法,包括“历史数据模型估算时间”、“城市通行状态特性下估算时间”、“出餐到店取餐等配送各场景累加估算时间”和“配送距离估算时间”,而实际订单会以其中最长的一个时间作为预估送达时间。

然而,公布算法机制的算法透明化并非终极目标,算法如何进化成一个更优秀的工具则更为重要。中山大学传播与设计学院教授张志安认为,算法在不断升级,算法应用、技术创新背后需要有人文思考,“其实只要我们把技术和人文结合在一起,就不存在所谓一定的善或恶,而是我们让它的弊少一些,利更多一些。”

也就是说,平台算法需要既能兼顾平台运营效率,又能体现人文关怀,在两者之间实现折中,才能充分发挥算法“善”的一面,这样的算法也才能算是一个优秀的算法。

在这一方面,国内互联网平台也已经开始了积极探索,还是以美团外卖为例,在公开骑手配送时间算法机制的同时,也推出了骑手预计送达时间由“时间点”改为“时间段”等多项改进举措,落实政府“算法取中”指导意见,在新算法改进下,美团外卖部分试点城市用户对骑手的差评率降低了50.7%,骑手和用户的双向体验均得到了提升。

无处不在的算法,实际上已经成了当今社会不可或缺的基础能力,算法持续透明化,同时对算法进行全流程、全生命周期治理,是保障平台可持续发展,灵活就业者和用户合法权益最为有效的方式。

但算法向善并非一朝一夕即可实现,无论是监管部门、算法推荐服务提供者,还是消费者,都要在共同的价值观取向之下同向而行,让算法走向规范,也让算法在公众服务中发挥其最大的效力。

0 人收藏 0 人喜欢
分享至:

0 人打赏,共 0

相关推荐

互联网 财经
蚂蚁消费金融2023年净利润1.52亿元同比大跌82%:资产总额大增125.6%

4月26日消息,重庆蚂蚁消费金融有限公司发布2023年年报。报告期末,本公司资产总额 2,396.69 亿元,负债总额2,167.28 亿元,所有者权益总额 229.41 亿元。报告期内,本公司实现净利润 1.52亿元。

实时观察 公司财报 财经 消金行业 公司动态 金融虎网 · 332浏览 · 13小时前
西安银行与独董廖因任职超期仍领取津贴被监管责令改正

日前,西安银行发布公告称收到陕西证监局出具的《关于对西安银行股份有限公司、廖志生采取责令改正监管措施的决定》,监管措施的出具和西安银行现任独董的超期服役有关。

公司动态 监管 财经 银行 实时观察 金融虎网 · 286浏览 · 14小时前
短视频在吃孩子的大脑?太夸张了!

谈事物,还是谈程度?

公司动态 财经 传媒 陆玖商业评论 · 258浏览 · 14小时前
0 人评论
可输入 255
投稿
资讯排行