心得
從科學革命以降,人類成為世界的中心,不僅在客觀方面對自然的定律已有深刻的理解,主觀方面,人也成為一切意義的中心,「人文主義」就是今日心理學、電影、政治制度的意義來源,都因為人文主義推崇人的「意識」,它相信:挖掘你的內心,就會找到堅定、一致、不證自明的聲音(真理)告訴你該怎麼做,於是「相信你自己」早在成為廣告詞以前、電影劇本寫爛以前,就已是人類真正的信仰,而今,這句話可能會在二十一世紀被掃入垃圾桶。
為什麼會有這麼大的反差?隨著生物學、心理學的研究顯示,人類引以為傲的自我意識:生氣、膽怯、愛,都可藉由外部刺激腦內的神經元而產生,只要研究得夠徹底,生物學的一切都能簡化成演算法,不論它是寫在碳(生物)還是矽(晶片)上面,從這裡作者開始他的推論:生物能簡化成演算法,而演算法不需要意識也能運作,所以由人類意識為核心建構的社會制度將會產生典範轉移,演變成人被無意識的演算法所掌控,具體影響為:大量人力被真正的自動化取代,少數菁英擁有更多演算法資源而成為超人類,演算能歌能唱能寫,可以下贏人類圍棋大師,還比你知道你喜歡哪種影片,人再也離不開演算法,演算法更知道我們喜歡什麼,更能預測誰會當選、更能代替你理智地(繞過花俏的政治作秀、醜聞煙霧彈)決定誰適合當選,以後我們做所有的決定將會問:「演算法怎麼看?」,逐漸變成:「讓演算法看著辦」,於是人被逐漸邊緣化,人類的時代結束(人文主義崩潰,而非人生理上的滅亡,但也不排除這可能)。
讀完佩服作者可以將跨度如此大的人類歷史,簡化成幾個簡單的結論,這本身就是優秀的思考演算法吧?在讀的時候,作者舉證歷歷,我心裡則不斷抗拒,想說這怎麼可能呢?可是有一部份的自己是承認作者的推論合理,但就像所有好老師嘴角帶著的那抹壞笑,總以合情合理的推論說的你點頭稱是,最後再來個顛覆前面論述的質問,作者在最後提出一個未解答的問題(其實是三個,但我想另外兩個都能歸在這問題之下):人真能完全簡化成演算法嗎?
因為對演算法不暸解,我就只能把它想成:痾......數學公式,你輸入值,它跑出答案,多功能的。就此我想到第一點:演算法依舊無法決定人類倫理學上的功能,你可以告訴演算法要下贏圍棋,可以告訴演算法做這做那,從抽象畫到開火箭飛出太陽系無所不能,甚至更進一步,藉由人類提供參數,開發運算規則,演算法也能依據參數、規則自己做決定,但最終什麼樣的決定是對的依然在人類自己,也許這依然沒跳出人文(還是人本?)主義的思考方式?
第二點,即使演算法說的對,最終責任歸屬是誰?我想多半不會說是演算法,而是演算法的使用者、開發者,即使作者提到這種進程是半強迫式的,若只因為方便我自己當然可以決定不用,但如果是競爭呢?大家都用而我不用的話,我在社會上不就沒競爭力了嗎?這逼得我一定要用,就像電腦一樣。但這終究還侷限在工具性上,並未有主導性,假設今天有位智能醫生誤診,我不會咎責這位智能醫生,而是要求使用它的醫院、生產它的公司賠償並改進。
但若是以後生活中大小事都有演算法的存在,你做的所有決定其實都是演算法建議你的,這跟演算法幫你決定有什麼不同?但這跟現在有什麼不同?這是我的第三點:人本來就是社群動物,我們從出生的家庭、學校的同學、出社會的同事,這之中還有無時無刻出現的廣告、政治口號、一步到位理財術、你不得不瞭解的九型人格,我們已經在依靠這些資訊來下決定,今天會因為出處是人還是演算法而不同嗎?
不過我認同一點:當演算法越強大,我們都不得不使用它,可是開發演算法、從中得利的都會是企業巨頭、社會菁英,讓更多的資源集中在社會的頂層,其他階層則被自動化取代,加劇貧富的差距。
最後一點:人自身的實踐,靠自己做到什麼這樣的認知,可以在我們內心產生愉悅、滿足與肯定,我懷疑再好用、再理智演算法也難以取代這部分,我們的成長依舊要靠最簡單一件事:動手做。實在難以想像被剝奪這樣的能力後,人會變成什麼樣子。