快好知 kuaihz

隐藏在外卖、信息流、电商里的算法,到底有没有价值观?

网络上为“外卖骑手之困,谁来负责”争得面红耳赤之时,很多外卖骑手却对Tech星球表示没听说此事,自己依然经历着爬天桥、抢红灯的一天,超时的罚款依然存在。听说送餐时限会被延长,更多骑手的反应是,可以多接两单了。

外卖骑手的困境让人不禁叩问:数字经济时代里,算法霸权是否已经凌驾在大众之上?我们真的是这个智能时代的数字难民吗?

曾经,张一鸣的一句“算法没有价值观”把今日头条推上了舆论的风口浪尖,人们第一次反思算法弊端,但也有很多人调侃着诸多平台当时尚不成熟的算法

但渐渐地,人工智能已经不再弱智。算法也越来越冷酷,在商用领域内不断开疆拓土。姓名、电话、家庭住址、通讯录、物流信息、旅行轨迹、购物消费记录、社交关系链、实时定位等等,都是最底层的数据,每个人的消费习惯、喜好、浏览的优先顺序、甚至是刚想到的东西,这些“信息燃料”支持着算法系统每天的高速运转。

算法能否理解外卖员的处境?

回想2013年,美团创始人王兴在邀请技术大牛夏华夏加入时,望着五道口下面熙熙攘攘的人流说:“其实很多做互联网创业的人,很少考虑怎么去帮助这些人,这些普罗大众,这么多的小商家。其实,他们都在努力改变自己的命运,我们美团就要帮助他们,帮助这些普普通通的老百姓。这也是属于我们的机会。”

夏华夏正是被这番话感动,从而加入了美团任职首席科学家,开发出了美团引以为豪的“美团大脑”。以美团外卖为例,平台日订单量超过4000万单,智能调度系统每小时路径计算可达数十亿次,每一个订单的背后都是大量的机器学习和运筹优化等问题,包括ETA预测,智能调度、地图优化、动态定价、情景感知、智能运营等等。

巧合的是,在外卖员困境舆论被引燃前的9月4日,美团AI 平台总经理夏华夏还在“2020服贸会”上发表了“AI在未来生活服务领域的机会与挑战”主题演讲。

在演讲中,夏华夏提到:人工智能发展更进一步的致力于与线下物理世界相关联,去解决实际发生在人们生活中的问题,帮助消费者和生活服务业商家实现数字化,智能化和自动化升级。

无论是王兴当年邀请夏华夏的话语,还是夏华夏今天的演讲,看起来都没什么问题。

实际上共同点是都忽略了一个点,那就是美团不仅是平台、商户和消费者构成的三方平台,还是包含快递员的四方平台。

2020年上半年,美团骑手就业报告显示,美团共有近300万外卖骑手,假设每人每天平均工作10小时,美团大脑让每单消失两分钟,就意味着美团营收与利润至少提升17%。

美团2017年营收339亿,2018年营收652亿,2019年营收975亿……算法加持下的配送系统,这把让美团纵横商界的手中刀,愈发锋利。

算法追求极致的逻辑一步步挤压外卖骑手的生存空间,一次次把外卖骑手置身于险境。算法能根据均值算出各个环节需要的时间,却是否能准确感受到快递员所处的处境?

在最近美团技术团队公众号更新的一篇文章,提到美团配送核心的算法逻辑(如下图)。A/BTest所追求的最大化结果面前,本质上就是消灭业务灰度的过程。而算法统治的情况下,我们是否需要灰度?是否需要留给快递员更多冗余,实际上也是赋予算法价值观的过程。

我们凝视着外卖骑手的困境,每个人都开始反思:我是否已经面临着这样的系统困境。

现如今,算法技术已经不再是某一家平台的独有特点,外卖、电商、信息流,各行各业都在用它抓取着宝贵的信息养料。有网友说,以前觉得赛博朋克还很遥远,或许AI和算法早已让我们活在其中。

停不下来的手指

“你关心的才是头条”,这是今日头条最早的slogan,一语道破它的核心。算法会解读用户兴趣,形成用户画像,根据用户画像来推荐感兴趣的文章。人们自此才认识到算法力量的强大。渐渐地,知乎、豆瓣、微博等信息平台也都采用了类似的技术,手指在屏幕上滑动的频率越来越快。

“信息茧房”成了2020年高考热词,人们拥抱算法这个“知己”,被信息茧房一步步困住的过程,其实也是牺牲自己时间与隐私的过程。

很多人也曾试图逃离算法的信息控制,知乎上有过关于如何反向驯养算法的讨论,人们试着用一种养孩子的心态去教育算法,在信息平台上花时间去广泛阅读,克制自己的低级趣味。试图在算法面前展示一个更深邃的人格,由此衍生出庞大的推荐库。

也有人选择过一种随机式的互联网生活,从不在任何信息软件上注册账号,永远是以游客的身份在这个信息的大卖场上闲逛,无数次止步在各种信息墙外。

无论哪一种,在获得成功逃离的自由感时,也难免产生一种“搏斗”后的疲惫。在便利之下,人们又有多大的自信能战胜内心的惰性与好奇?

“抖音5分钟,人间2小时”,用这句玩笑般的网络段子来描述用户对短视频应用的“上瘾”再准确不过了。算法技术找到了更加适合传播的信息载体——短视频。

“北快手,南抖音,它们有毒,我们没药。” 2016年上线的抖音,如今日活已经超过4亿,基本上把中国年轻一代一网打尽,而快手以接地气的风格占领着中国的乡土社会,保持着高强度的用户粘性。中国人现在平均每月有13.5天会打开这些APP。全民进入短视频时代,这句话毫不夸张。

快手和抖音都是以算法和技术见长,这也是他们保持用户活跃度的“命根子”。然而,“变水为油”、“大胃王吃播”……占有用户大量注意力的同时,这些平台遭受的口诛笔伐从未停止过。算法主宰下的精准推送对用户价值几何,一直是众说纷纭。

刷抖音这么上瘾,因为视频创作者们也很卖命。被快手、抖音所困住的不仅是用户,还有那些为流量挣扎的小视频创作者。

“现在机制之下,想红真的太难了”,今年刚转行自媒体创作者的张小菲十分感慨,“很多内容在极少的流量下就被做出评判,虽然武断,但却高效。流量被集中到了头部,我们这种小号没有几乎没什么流量。”

虽然,传播话语权好像下放到草根阶层,但是没有一技之长,就很难在平台的引流推荐法则中生存下来。因此,越来越多的创作者只能向算法低头,一次次追赶浪潮,一次次成为浪花。

没有人知道究竟谁是全网第一个“脚艺人”。最近如果打开抖音,会发现不少网红们纷纷按照节奏踢腿捂脸。即便会觉得尴尬和迷惑,但接下来的日子,你的抖音就会刷到无数个“脚艺人”视频。正当用户感到迷惑和费解时,“脚艺人”已经成了抖音的热搜,话题“#脚艺人”和“#变身脚艺人”里面的视频,目前已经超过了76亿次播放,还蔓延到了快手、微博等其他平台。

“我可不喜欢这个,平时我都是拍一些时尚美妆视频,但谁能想到它这么火。”张小菲向Tech星球说。许多网红会在发布“脚艺人”视频时提前说明,自己是被粉丝“催更”才拍摄的,但当流量红利滚滚而来,每个人都由衷地感叹一句“真香”,甚至接着拍了第二条、第三条。

令人遗憾的是,用户对标签和潮流的习惯,会给予商业力量‘“造浪” 的绝对权力,用户所观看到的潮流,其实是算法机制构建的“流量景观”。“脚艺人” 模式在被创造出的那一刻就为商业力量所收编,用以收割一次性流量,草根创作者的特性被过度榨取,而普通用户则沉浸于全民狂欢的热潮之中,谁都没能挣脱背后算法机制的大手。

社交+算法,你的需求无法掩饰

在拼多多发展壮大的过程中,很多人都没能躲过它的“砍一刀”。

即使你一度认为拼多多与自己相隔甚远,然而借助微信的社交关系与算法推动下的精准裂变,你终会发现拼多多开始在你周围的亲戚朋友中流行,当亲戚朋友喊你来“砍一刀”的时候,你不得不去下载拼多多APP,成为他“社交+算法”加持下的新俘虏。

人们总是清楚的知道自己想要什么吗?从事消费者行为研究的说服心理学家凯文·霍根认为,大量的购物决策在发生时,人们是无意识的。“人们对于自己未来将如何行动,或者是否购买某些产品,几乎没有预测能力,而且他们也无法准确对过去的行为作出解释。”

消费者需要不断被洞察、试探和刺激,才能卖给他们更多商品。这是商家们的共同认知,承担这个使命的,过去是巧舌如簧的导购员,现在则是光鲜亮丽的带货主播和遁于无形的大数据算法

根据拼多多最新财报显示,在截至2020年6月30日的12个月内的活跃买家数量6.832亿,正在向淘宝逼近靠近。拼多多也在近期的业绩发布会上表示,将进一步提升平台的推荐算法,给商家匹配到相应的用户,让更多的商家能够入驻平台,并推出适合其用户的产品。

一批第三方技术公司应运而生,他们通过 AI、大数据等手段挖掘用户行为数据,成为预测爆品和品牌营销的重要推手。

秦明的公司主要在做用户行为数据挖掘,其行为数据库包括拼多多、淘宝、微博、B 站、抖音、快手等多个渠道,能实现全网的内容分析和画面分析。

拼单走量,是拼多多实现价格优势的重要一环。“没有算法的匹配,上哪找这么多能一起下单的拼友们?”秦明对Tech星球说,与其他电子商务搜索类购物场景不同, 拼多多主要依靠场景匹配来挖掘出消费者的兴趣爱好 ,然后利用信息手段进行准确地推荐和匹配,把具有相似需求的消费者信息集合在一起 ,传递给供给端的商家,通过拼单的模式实现 “一对多”的匹配。

“我们能清晰地看到用户浏览轨迹的变化,以前真的是一团乱麻,从裙子跳到手机,之后跑到玩具,结果买了一套餐具走。”秦明认真地在算法试图中寻找和归纳用户逻辑,“而现在就好很多了,页面上的各个品类更加细化,同时场景推荐下的浏览也更好归类。”

然而,并不是每个人都愿意把需求暴露给算法。当人人都觉得自己在“薅羊毛”时,其实只是被“割韭菜”。拼多多公众号每天向用户推送的优惠活动中,都会带上用户的微信名字,拼小圈还会向你的好友们展示着你拼过的每一单商品。

当大家觉得在拼多多上实现“水果自由”、“日用品自由”时,殊不知自己正是算法精挑细选下筛出的下沉用户。在限时秒杀和砍价免费拿的配合下,很多用户实际上是被算法“砍了一刀”,费时费力,买了不少廉价却不常用的东西。

当然,算法也不是能屡屡胜利,在微信信息流广告主中,用户经常以调侃的方式对抗算法

最典型的就是最近的代餐饮品Wonderlab的广告了。这条广告有多火?有人调侃,“评论区长度大概也就快围绕地球一周吧。”“我胖吗,总给我推荐这个”,“收到二次推荐的朋友,你是真的胖。”很多人戏虐推荐结果是闹着玩,可当你无论以何种方式评论时,也许就被算法认定是兴趣用户

广告从业者高媛璐认为,这或许是因为微信本质上是一个社交工具,缺少足够的用户画像能力,不能很好地匹配用户与广告之间的关系。要精准匹配到用户的消费需求,恐怕还有点难。

有人喜欢互动调侃,有人却指向拥有一个清静的朋友圈,这能实现吗?答案是不行。

之前,已经有不少用户尝试关闭朋友圈的广告,但是关闭按钮设置得比较隐蔽,要经过14个步骤才能最终关闭。而且,这样的关闭路径只能持续六个月,关停的也只是个性化推荐功能。即使有了反抗的意识,人们依然被困在算法之中。

人民大学商学院教授周庭锐此前评论,“严格来说,今天的消费者已经失去消费选择的自由了。他们在消费情境里所从事的任何消费选择,可能正被背后的算法所左右着。”

“当在那些具备数据科学能力的厂商眼里,消费者真的很像鸟笼里天真高唱自由歌曲的金丝雀。这是个不公平的世界,这是个正在被知识颠覆着的世界。”周庭锐说。

算法歧视下的抽奖分母

自从2018年微博网友“信小呆”抽中支付宝“中国锦鲤全球免单大礼包”,微博抽奖再次成为商业互动的热门活动。但抽奖算法随后就遭受质疑,王思聪为庆祝IG战队夺冠在微博随机抽113位用户,每人发放一万元现金奖励,抽奖结果也出乎意料。

获奖名单中,有112名女性获奖者和1名男性获奖者,女性获奖者比率是男性的112倍。网友吐槽,“男人与狗,不得抽奖。”

用户主动测试抽奖算法,将获奖人数设置大于参与人数,发现依然有大量用户无法获奖。这些无法获奖的用户很有可能已经被抽奖算法判断为“机器人”,在未来的任何抽奖活动中都可能都没有了中奖的机会。网友们纷纷开始测算,自己是否为“垃圾用户”,微博的“算法事件”一时满城风雨。

算法决策的“黑匣子”面前,用户无法了解到算法的决策过程,而只能够了解到结果。

在大数据时代,人类会有越来越多的利益分配与大数据直接相关。谁都不想在竞争中被大数据自动判断为“弱势的竞争者”;没有人希望自己的价值被冰冷的程序去无情裁决。如果真让不良算法主宰这一切,人类只会像《黑镜》里描述的那样悲催。当算法开始编写算法,人类将被排斥在圈子之外,任由机器人做决定。

抽奖算法的不公平,更多地曝光了微博现在的另一个困境:活跃用户比例不足。

微博中存在着大量这样的普通用户:他们一天能花好几个小时刷微博,但一个月都发不了几条评论。查阅他们的主页,可能发现他们上次发微博还在几年之前。这样的用户的确在活跃度上还不如垃圾号。

之所以有如此之多的沉默用户,也和算法推荐机制有着莫大的联系。很多用户发现自己发了原创也很少有人来互动。长期以往越来越多的普通用户不想互动了,就越来越沉默下去,成为无声的看客。

原本属于大多数用户的资源向大V们倾斜。用户只能刷出50%的微博内容。据微博副总裁曹增辉介绍,微博有将近80%的社交关系集中到了1%的头部用户身上,而在过去的一年,这些头部用户一共增长了63亿粉丝关系,其他上亿的普通用户增长量还不到这个数字的1/3。而很多大V保持住想要的热度,保持一条微博的转发量,就不得不花钱买转发、评论与点赞。买热搜、雇水军,有这些手段已经成为心照不宣的秘密。

在一个本来可以广泛参与的社交软件中,少数群体成为了旁观者,连抽奖活动都与他们无关,而且他们不知道如何消除自己身上的标签。

不想被困在其中,人们只有选择逃离,用这种二元对立的方式去和算法对抗。

近年来,价格歧视、性别歧视、种族歧视,出现在众多科技公司的算法中,谷歌的搜索算法将黑人标记为“大猩猩”;微软公司的人工智能聊天机器人Tay出乎意料的被“教”成了一个集反犹太人、性别歧视、种族歧视等于一身的“不良少女”……这些事件都引起了轩然大波,并且最终也导致了算法被叫停。

算法有价值观吗?

人们众说纷纭,麻省理工学院教授大卫·卡尔格认为,只要我们主观上希望拥有不带歧视的算法,我们就能够设计出不带歧视的算法

不容置疑的是,科技公司以及组织不应该将“带有明显歧视性质的算法”,在不经测试之下应用到现实情景中,算法需要确立一些“基本准则”,比如“机器人永不能伤害人类”,“外卖平台的效益不能建立在牺牲骑手和用户权益基础上”。

算法,或许正在成为我们社会规则的一部分,没有良好逻辑,只会让每一个人都困在其中。

算法给人与信息的关系带来了革命,它既在解放人类,也在创造数字难民。不解决算法的问题,所有人都会困在混沌的规则中,彼此消磨。

本站资源来自互联网,仅供学习,如有侵权,请通知删除,敬请谅解!
搜索建议:电商  电商词条  信息流  信息流词条  外卖  外卖词条  算法  算法词条  价值观  价值观词条