热搜:
编辑导读:“左滑不喜欢,右滑喜欢”,这是很多交友软件的常见功能。但是,右滑就代表着你喜欢这个人吗?不一定,你有可能受到了推荐算法的鼓励。本文作者对此展开了分析,与你分享。

马上就是五一小长假了,补班的痛苦就快要被五天假期拯救了。

小长假来临,相信也有不少人和文摘菌一样准备回家吧。

每每这种时候,就最怕朋友突然的关心,“你对象呢,怎么不带回来看看”。

不是文摘菌不想,实在是没时间去结交新朋友。

于是文摘菌最近也是研究起了线上交友软件,还别说,使用交友软件的人不在少数。

根据2019年美国的一项统计,30%的美国成年人使用了约会软件(网站),另外,有12%的美国成年人表示,他们通过在线约会找到了长期恋爱关系。

但是,让文摘菌疑惑的是,线上交友遇到照骗还算小事,每次右滑就代表了我真的喜欢屏幕前的这个人吗?

还真不一定。

最近,就有一项研究指出,你的右滑可能受到系统潜在的推荐算法影响,正如西班牙杜斯托大学的Helena Matute说到,“我们可能一直在使用一种推荐算法,但是没人告诉我们它有何效果”。

这种推荐算法不只体现在交友软件上,在对政治人物的印象和选择上同样有着举足轻重的作用。

这项研究也以论文的形式进行了发表,链接如下:

论文链接:https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0249454

01 算法正在潜移默化地影响我们的选择

为了研究清楚这个问题,Helena Matute和同事Ujué Agudo就做了一个实验。

她们设计并进行了一系列4个实验,在Twitter和调查平台Prolific召集到了参与者,根据实验的不同,共有218到441人参与其中。

在这些实验中,参与者被明确告知,他们正在与一个算法互动,该算法会根据互动判断他们的个性。

但实际上,这只是个模拟算法,也就是说,这个“算法”并不会进行智能判断,无论参与者给予的信息是怎样的,算法都以同样的方式做出反馈。

在参与者回答了模拟算法的问题后,算法随即向他们展示了他们可能约会的对象,以及他们可能会投票支持的政治领导人照片。

有时候,该模拟算法还会明确地鼓励参与者选择照片上的一个人。例如,它可能会说,经过计算后发现,用户与照片中的潜在对象或政治家之间有90%的兼容性匹配。

在其他情况下,该算法会通过频繁地展示某一个人的照片来进行这样的暗示。

随后,当这些参与者被问及,在展示的照片中他们更喜欢谁时,在绝大多数的情况下,他们会选择模拟算法推荐的政治人物,也更希望与那些被推荐的对象约会。

“也许我们会倾向于认为算法是客观、中立和高效的,毕竟它们总是以数字和规则的形式展示出来”,Agudo说,至于为什么人们会更喜欢算法推荐的对象,“这是一个不涉及感情的决定”。

出于这个原因,当涉及到内心选择的问题时,我们可能需要去倾向于质疑算法的建议。

“作者提出了一个真正重要和可怕的观点,即人工智能、大数据和广泛的用户群给私人公司提供了前所未有的机会,以完善他们对说服力的理解和应用。”剑桥大学的Ella McPherson说。

英国布里斯托尔西英格兰大学的Steven Buckley表示:“这项研究加强了对Facebook和谷歌等平台的呼吁,要求它们对自己的算法更加透明。”

02 让现实社会和数字世界都朝着更公平的方向发展

说到这里,相信还有不少朋友记得日本推出的AI婚配计划。

和大多数交友软件不同,这个AI系统做出匹配的依据更多是来自双方价值观的匹配程度。

相比于长相、学历、收入等外在条件之外,在AI婚配系统中,AI还会针对使用者的价值观进行询问。比如,根据日本一档节目报道,使用者会经常被问到这样的问题,“以下哪个选项更符合你的期望:A能拥有超越常人的智力;B能够朋友一起度过快乐时光”。

在收集到使用者的相关数据之后,AI会进行一系列的推论和判断,对系统内的各种综合信息进行逻辑化的分析。随后,在分析结果的基础上,为你匹配三观和性格相似,同时可能对你产生好感的人,双方的投缘度还会以一星、两星、三星进行评价。

就使用成效来看,2018年就导入该AI系统的埼玉县,38对夫妻中有21对新人都是通过AI的推荐而成为的情侣。在爱媛县,在引入AI之后,该县的结婚率也从13%提高到了29%。

如此看来,日本的这个AI系统似乎要显得更“理智”一些,但从另一个角度讲,这在一定程度上进一步佐证了上述实验的结论。

不只是在交往方面,AI在塑造我们的行为、选择,甚至是想法上,都有着潜移默化的作用。

其中,近年来饱受诟病的当属算法偏见的问题了。最为人印象深刻的当属去年杜克大学科学家发表了能够将模糊照片清晰化的算法PULSE,但是当输入美国前总统奥巴马的模糊照片后,系统处理生成的却是一张清晰的白人图片。

正如一位MIT研究员Joy Buolamwini表示,“人工智能是基于数据的,而数据是我们历史的反映”。但是每个人的历史却是无法被简单地用数据来概括和总结的,就如上述实验一样,在选择交往对象时,我们更多是凭借的“感觉”。

在美剧《老爸老妈浪漫史》中,AI告诉男主角,有一个女孩和他的匹配度是95%,和未婚夫的匹配度只有90%。但男主角和女孩并没有因此而在一起。

如果我们就以算法偏见为例,归根结底,算法背后是人,算法偏见背后其实就是人的偏见,算法的选择也就是在大数据处理之后人的选择。在针对此进行批评时,我们也需要关注现实世界中存在的偏见,保持内省,然后在能力范围之内,让现实社会和数字世界都能朝着更公平的方向发展。

这对我们每个人来说,都极为重要。