万书网 > 心理哲学 > 优步:算法重新定义工作 > 不要盲目追求溢价:算法是如何误导人的

不要盲目追求溢价:算法是如何误导人的




不是所有的算法欺骗行为都达到了工资盗窃的标准,但同样会让我们踟蹰不前。算法系统对待处境相似的用户会有很大的不同,即使系统理在理论上应该是完全中立的。优步的联合创始人和前CEO特拉维斯·卡兰尼克在就优步的溢价算法的中立性问题发言时,拿费率上涨为例说道:“不是我们在定价,而是市场在定价。”36然而,优步似乎对处境相似的用户采用了不同的定价策略——这项政策被称为动态价格歧视,一些消费者和评论家认为这种策略值得警惕。计算机科学家陈乐、艾伦·米斯洛夫和克里斯托·威尔逊对不同地区费率上涨期间优步软件交互界面对不同用户所采用的定价标准进行了研究,并把这些价格与乘客实际收到的账单进行了对照(乘客端软件上显示的溢价金额)。37研究结果发现,彼此之间存在差异,费率上涨期间同一地区同一时间的不同用户收到的价格也互不相同。优步解释说这是系统的一个小漏洞。38在技术层面上对这种差异产生的可能性的解释是,由于服务器基础结构不同。39“在一个发散性的网络中想要实现完全一致的价格标准是件很困难的事情。”40有些人认为,优步在有意放任这种歧视性价格体系的存在,因为这样它就可以获得大量关于乘客以及他们在不同价格等级中的付费意愿的相关数据。不论原因如何,很明显的一点是,所谓算法中立这套新的说辞并没有对过去老的价格歧视行为造成什么本质上的改变。

在劳动关系和算法管理的语境下,算法中立的说法有不同的含义。优步使用溢价政策让司机对额外收入有更高的期待,然而这些收入他们可能永远也没办法拿到(见图4.9)。在优步的引导下,司机坚信溢价政策高度精确地反映了当时市场上司机的供应量和乘客的需求量之间的对比关系。系统会使用短信、邮件和信息推送来通知他们费率已经开始上涨,或者“客户需求量非常大”。算法掌握着相关“数据”,或者可以看出来需求量的大小,于是可以向司机建议什么时间到什么地方就可以享受标准费率之外的溢价收入。当司机按系统提示去做之后,却发现自己被派去接了一名并不支付溢价费的乘客,也就是说额外的溢价收入不见了,他们感觉自己受到了欺骗。

图4.9  溢价案例

注:一名司机按系统提示来到溢价地区,但是在这一“需求量很高”的地方等了半个小时还没接到一个订单。此图于2015年在一个论坛上被发布。

司机还会收到客户需求量的提示,这似乎意味着优步可以实时精确地预测市场供需关系,但是这种建议处于较低的可信区间。41类似“客户需求量极大”这样的语言跟宾夕法尼亚州利哈伊谷的一名司机收到消息非常相似。2016年冬天他收到一条系统短信说某个周六费率将会上涨,因为“我们发现昨天晚上的客户需求量非常大”。之后他又收到第二条短信,优步宣布:“周末已经到来,利哈伊谷的客户需求量正在快速上涨!准备好今晚上线,留意周边地区的溢价时段,你可以赚取平时三倍的收入!保持在线直到午夜,尽享最高费率。继续和优步在一起!”

图4.10  优步发送给司机的关于需求量预测的短信截图

注:这张图片于2016年发布在一个论坛上。

优步的短信比传统的公司经理鼓励你深夜加班时所用的说辞更具煽动性。这些短信与优步更宏大的那套说辞相呼应——它具有足够强大的技术实力,可以预测市场需求,并将其告知自己的司机。

一些司机遵循着那些需求量预测的提示,按照优步公司的引导,来到一个他们本以为需求量会很大的地区,结果却发现现实并非如此。就像我跟卢克·斯塔克在2016年元旦前夕所观察到的那样,42一名司机在论坛上发布了自己收到的信息,信息写道:“我们还想提醒您元旦前夜将是一年中最忙碌的夜晚。有如此高的客户需求,您如果出车接单将会有非常好的收益!”然而,如此高的需求量在现实中却并没有出现。另外一名司机问道:“当到处一片沉寂时,为什么要给我发消息说这是一年中最忙碌的夜晚?”优步少有地承认说对需求量的预测并不像实时高需求量提示的那么精确,社区技术支持代表在回复中说:“我们努力根据前一年的历史数据来预测未来需求量的大小。预测结果不会100%准确。”这也就是说优步成功地将司机从家里哄骗出来,让他们以为街上有大量乘客需要接送,结果因为需求量并没有预测中的多,所以溢价政策无法生效,他们也没法享受费率上涨带来的额外收益。这直接导致司机的利益受损,优步公司和乘客却从中受益。通过使用数据来欺骗司机相信所谓的“高需求”,并以此操纵他们什么时间出来、在哪里工作,优步却无须为自己的误导性信息承担责任,正是这一系列行为导致司机失去了对优步的信任。为了描述这种动态的信任关系,我想用一种社会安排来做类比。例如,你可以想象一下有两个朋友,贝琪和卡尔,他们计划第二天晚上见面。贝琪告诉卡尔她极有可能在晚上7~8点在市区跟他见面。卡尔按照约定来到市区等待贝琪。然而贝琪计划有变,她却没有通知卡尔她无法到达。当卡尔就此事跟贝琪对质时,贝琪解释说:“严格来说我并没有保证一定会跟你见面,因为当时我说的是‘极有可能’。”从本质上说,在误导卡尔这个问题上,贝琪使用了狡猾的话术来逃避自己的社会责任。技术服务同样也会利用我们善意的期待来误导我们,但我们可能依然无法意识到这种数据驱动型的建议是如何操纵我们的。当然,算法系统的用户对算法推荐的反应各不相同,43司机也不会完全盲目地按照算法的建议去做。然而,他们是通过一段时间的实践才摸索出算法操作的规律,而且通常需要老司机的指点。在论坛上老司机最经常给新手的建议是,“不要盲目追求溢价”。其他通用服务,比如谷歌地图或Waze(交通导航类应用),会根据用户的需求向他们推荐不同的路线,比如“最短路线”或“最畅通路线”。但正如我跟蒂姆·黄所记录的那样,地图软件的用户可能会在不知情的情况下被指向一条并非最佳选择的路径,以便让以数据为中心的系统收集这条不常用的路线的相关数据。44大部分时间,系统都会根据交通状况的总体数据来向用户推荐“最佳路线”。而在另外一些时候,比如在我们假设的案例中,用户会在不知情的情况下被指引到一条不常用的路线上充当探路者,用以收集数据以便让系统总体更加完善,但这条对系统收集数据有利的路线对这位用户来说不一定是最佳选择。

算法有权力在不告知用户的情况下让其充当探路者。这类似优步司机被算法派到假的溢价区,或者把真实度高的实时需求量评估与真实度低的需求量预测混合在一起向司机发出不可靠的建议。45司机在算法的管理下感受到的摩擦揭示出科技服务行业用户普遍感受到的一种动态。46虽然算法管理或许在宏观层面为大多数平台用户提供了社会价值,但在微观层面可能也欺骗了个别用户。47

对溢价的承诺就像悬挂在司机眼前的胡萝卜——优步使用这种策略来控制司机的行为。图4.11展示了一条消息,消息中用一个闪电符号提示司机费率上涨的情况:“你确定要下线吗?你所在的地区目前需求量非常大。来挣更多的钱,就是现在,不要停!”当然,“高需求量”并不能确保司机一定可以挣更多额外的收入(优步通常用“高需求量”来替代“溢价”),但溢价给司机带来的期望成了优步操纵他们的工具。48在另一个案例中,当一位司机晚上想回家要退出系统时,优步在软件中展示了一条消息写着:“你的下一位乘客将会是一个非常优质的客户!保持在线,去认识一下这位乘客。”在这条消息之后他有了两个选项:“下线”或“继续驾驶”。一些司机说这类信息对人很有诱惑力,尤其是优步提醒他们费率马上就要上涨的时候。对一些人来说,这意味着即使他们已经非常疲劳需要休息,他们依然会继续工作。

图4.11  优步劝说司机不要下线

注:这个屏幕截图于2015年发布在一个论坛上。

图4.12  优步劝说司机接受更多订单

注:这个屏幕截图于2015年发布在一个论坛上。

一些司机表示他们很想遇到费率上涨的情况,49而另外一些司机则说碰上溢价就跟买彩票一样。不是所有人都会听从优步发送的建议,一部分原因是,他们觉得其他司机都会按系统推荐的去做,这样的话,原本“低供应量”和“高需求”的供需关系就会扭转。2017年秋天,我对路易斯安那州巴吞鲁日的一名优步和来福车司机杜伯曼进行了采访,他带着浓重的意大利口音对我说:“很可惜,我有两个理由没法按这些消息推送说的去做。首先我的时间安排没办法符合消息上的要求,这是没办法的事情。其次我想如果所有司机都出来找溢价订单,那么想接到一单溢价订单就不那么容易了。所以,我看到这类信息时也不怎么兴奋。”

优步会处心积虑并系统性地对司机的行为进行监控,而这类诱导行为只是优步公司用来激励、引诱、管理和控制司机行为的工具之一。在我研究优步的这段时间里,这些诱导行为也在不断变化,信息风格也从活泼型(下一位客户将会是一名优质客户哦!)到实用型(需求高峰提示:下午3~7点以及晚上10~12点),请求语气(不要停!或再有1美元你今天的收入就达到40美元了),抑或是信息通知(大都会棒球队下午4:05~8:45在花旗球场有比赛),不一而足。大家都知道优步软件会给司机发送当地各种活动例如体育比赛的通知,以便让他们对客户需求量有所预估。

虽然不是所有的诱导行为都是操纵性的,并且确实会给受众一种自己可以自主选择的感觉,50但是这类行为对受众树立期待值的影响非常大。某个司机从优步收到的推荐有可能是数据科学算法的结果,但优步是否是一个诚信的数据代理就不得而知了。除此之外,当司机利用这些数据来追求自身的利益时,例如在溢价区域拒接非溢价订单而等待提供溢价的客户订单,他们就要承担被处罚的风险。换句话说,司机并不仅仅是免费数据分析的消费者,例如GPS的用户。他们在使用数据时会受到管理者所制定的规则限制,这会对他们的生计产生直接的影响。

这类算法管理凸显了一个现实,就是看似为用户提供客观的供需关系数据的“中立”算法可能会操纵司机。优步对司机的算法管理向我们展示了非中立性的平台可能会利用工作者。同时优步的这些行为也让我们得以窥见从硅谷诞生的这种数据驱动的算法是如何影响我们所有人的生活的。