2022-10-23

打開演算法黑箱:反噬的AI、走鐘的運算,當演算法出了錯,人類還能控制它嗎? BY 貳團 Pei

原書名Hello World: How to Be Human in the Age of the Machine,是因為程式新手村的第一項任務就是寫程式讓電腦跑出:Hello World 

雖然有時會看到「有AI了人類會被淘汰」的言論,但要完全AI還有一段路要走,目前正在人工重現線蟲的302個神經元網路,不過人類有一千億個XD

內容分成七個單元,內容息息相關,例如演算法用在司法和犯罪上很有PSYCHO-PASS的Sibyl System和電影「關鍵報告」的味道;權力與資料篇討論了如何設定演算法並解讀結果,作者說明演算法必須在靈敏度與特異度之間做選擇——改善了靈敏度,那特異度會有損失。在醫療篇中舉例說明這和偽陰性和偽陽性相近,極端一點想要消除偽陰性,演算法會把所有可疑的對象都列出(靈敏度100%,寧可錯殺不可錯放的意思,在犯罪篇會造成冤獄),但會造成健康的人接受非必要治療;反過來特異度100%則是大放水連癌細胞都當成正常給過(在犯罪篇就是受害者增加),如何抓到平衡點是人類面對的挑戰。

感覺作者一直拷問讀者:「目前演算法在某領域成功找出oo(葛萊芬多+10分!),但是出了xx包,大家覺得呢?」

最近追了幾集空中浩劫,覺得空難和演算法也有很強的關聯,結果在書中還真的提了博南(法航447空難),也吐槽了特斯拉的Autopilot,「我們對無人駕駛車是否整個搞錯方向?」原來教電腦開車這麼難,難怪會有特斯拉開Autopilot結果撞上靜止物體的車禍發生,正常人類駕駛都知道該踩剎車了;估狗某特臺灣官網,Autopilot是翻譯成自動輔助駕駛的。作者還引用了一篇論文:「打造一部機器來改善人類的表現,很諷刺地,將會導致人類能力的退化。」所以「何不翻轉這道方程式,把目標放在輔佐駕駛人,而非那種主客易位的自駕系統?」

這本和「反智」相同的地方是鼓勵讀者面對演算法保持理智,不是一股腦的將控制權交出。

「或許,把演算法想成是某種威權,恰恰是我們錯誤之所在。」

演算法比我想像中的更無所不在、無孔不入,我們在不知不覺間就被影響了(社群/線上串流公司頗懂此道,看看「為你推薦」list)

作者認為人類和演算法攜手合作並截長補短,演算法應該是輔助的角色而非權威主導,畢竟它一定有其缺陷和極限,所以不要害怕質疑演算法,也不要過度厭惡而放棄使用。例如估狗地圖有時會導航小路,我曾經開到別人家農舍大門然後旁邊的路小到我不敢再前進深怕一個不小心車摔進田裡……但是走大路通常沒問題;書中還有個矛盾大對決:自動駕駛車即將失控,那麼它要救駕駛,還是救可能遭波及的車外人?

「……我們對人類法官的期望有點太多了。不公正是內建在我們人類的系統之中。……有一套演算法——即使是一套不完善的演算法——和法官合作,輔助法官經常出錯的認知,我認為,是往正確的方向邁出了一步。至少,一套設計良好且受到正確管制的演算法,可以協助去除系統性的偏差與隨機發生的失誤。」