2018-09-29

大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發 BY 壹團 Vicky

在這個人人高呼將來工作會被人工智慧取代、演算法將會主宰我們未來生活的時代,作者獨排眾議要我們小心「大數據」。作者是位數學家,曾在大學教書,也在銀行業工作過,她認為大數據如果越來越滲透到生活各層面,將來的窮人與中下階層的人可能會嚴重受害。例如一個人若生長在貧窮、犯罪率高的地區,大數據就會判斷這個人的犯罪機率高,他受教育、求職的經歷可能因為環境不好而學歷低、長期失業,惡性循環之下可能積欠卡債、信用不好,若不幸做了一些輕度犯罪行為,就可能被大數據判定為高風險人物,法官若參酌大數據,他的刑期甚至可能比別人長。作者稱這些不透明、大規模應用、會傷害到人的大數據為
「數學毀滅性武器」,它們會把人的偏見資料庫化、繼續複製下去。而因為大數據評分標準可能不明確,我們對自己的數據評等無從申訴,可能嚴重受其傷害;但富人除了數據上評分高之外,許多事情可以用金錢、人脈搞定。如信用差的人可能較難買車票,但有錢人直接買頭等艙避免麻煩。

作者對這種現象提出了擔憂,希望我們在面對大數據帶來的便利時,別忘了它的風險。看這本書,想到中國的芝麻信用,真的令人毛骨悚然,我認為當大數據的時代來臨,我們更不能忘記人性,要時時注意它的應用與造成的影響,以免數字成為力量不小於國家機器的可怕巨獸。