演算法治理
全面監視

國家根據收集到的資料獎勵或處罰國民的演算法 – 所謂的演算法治理早就是不爭的事實，在德國，電腦程式也已經做出對許多人產生影響的決策。

中國這座人口數百萬的城市，襄陽，長虹橋以南的十字路口人滿為患，一片混亂，汽車猛按喇叭，行人穿越馬路時闖紅燈，電動摩托車在滯的車陣中蛇行穿梭。馬路旁掛著一個巨大的螢幕，不計其數的照片顯現在螢幕上。這只是眾多廣告招牌中的一個嗎？不是，二零一七年警察安裝了這個螢幕，以便維持秩序，在這個地方違反交通規則的人的臉，會顯示在螢幕上 – 被照相機的自動辨識臉部系統逮到。這樣做是為了「要違規者在鄰居和同事面前抬不起頭來」，市府發言人對紐約時報的記者說。被譴責的人的照片旁邊寫著他們的姓名及身分證字號；作為一種教育措施。

像襄陽城裡這樣的螢幕，只是這個政府監視和控制機器的一小部分，過去幾年中，共產黨在許多座城市開啟了試點測驗，從各個監視攝像機、私人談話、線上購物，以及許多別的管道收集資料，然後彼此串連起來。這項措施的目標為，到了二零二零年，就能把全體國民登記在唯一僅有的一個評價系統中。通過大量的計算，到最後每位中國人都會得到一個電腦演算不斷更新的分數。這個威權政府會採取這個步驟，其實不難理解 – 如此便可以控制十四億人口，一個一個控制。

用演算法控制並懲處

如果政府或者公家機關從社群媒體以及其他平台獲取大量資料，並且加以運用 – 然後把是否根據這些資料獎勵或處罰某位國民的決定轉傳到機器上，我們稱之為演算法治理。電腦辨認得出模式與慣例，於是自動轉化紀律措施：把租借的單車完好無損地歸還，過馬路時沒有闖紅燈，而且始終準時上班的人，就會加分以茲獎勵。在網上批評中國政策的人，或者，光是與評價不佳的人往來頻繁就夠了，只好眼睜睜看著自己的分數評比不斷下降。這會形成極大的影響：譬如得分低的人將被拒絕搭乘飛機和高鐵，或者子女不准就讀私立學校。
 
如此嚴密的監視一個國家的人，盡可能收集國民的資料，並且用來對付他們，不僅侵犯了私領域，同時也表示個人自由權利受到極大的限制。但公家機關提取有用的個人資料不只發生在中國 – 在印度也有人嘗試用用個人紀錄獲致國民的概況。
 
一個名為「Aadhaar」的基金會，名下設有一個資料庫，這期間已有十二億位登錄的使用者，占印度總人口的一大部分。一個十二位數的號碼，依序涵蓋姓名、年齡，也包括虹膜以及十指指紋，毫無疑問地能讓每一個人證明自己的身分，此外，譬如也能用以申請社會福利 – 至少理論上可行。今年年初，印度女記者拉席娜·凱拉（Rachna Khaira）指出這個系統的缺點：她聯繫上駭客，她只需要付五百盧比，換算後約等於六歐元，他們就有辦法讓她進入完整的資料庫。原本應該防範分配救援物資時之不公與詐騙的Aadhaar—資料庫，問題愈來愈多，已經有人因為提不出文件，或者因為生物統計識別無效而挨餓。除此之外，還有數百萬份資料經公布而被洩漏出去。

印度的女性登錄入Aadhaar—資料庫。 | 照片（剪影）：© picture alliance / NurPhoto

該是時候在歐洲進行個資討論了

使用演算法分析資料，在歐洲也並非不尋常之事，不同於地球上兩個人口最多的國家—中國與印度—所進行的有風險的實驗，倒不一定由政府委任、電腦裡存有大量個人資料的專人來處理。譬如德國就有為一般信用保障而設立的保護協會，比較為大眾所熟知的名稱為信保會（Schufa）。信保會指出，已經存入與六千七百萬人、五百家企業有關的八億六千四百萬筆資料，如何使其發揮功能，能夠運用掌握的資料決定誰獲准租房子，或者取得一份手機合約，則是機密。至於信保會的準則為何，同樣不為人所知。已有跡象顯示，譬如說，女性在評比時遭受歧視。
 
德國絕對不會把違反交通規則的人放到螢幕上供人譴責，然而我們要提出一個問題：像信保會這樣的企業，或者國家級機構，可以收集且利用資料到甚麼程度？是討論演算法治理合法與否的時候了，畢竟這是一個涉及我們願不願意把控制社會的事情交付機器流程處理的問題。演算法若設置得當，能有效、迅速又公平地做出決定。但若我們觀察目前已經設置的演算法，卻只看到它的優點難以抵銷潛在的大規模濫用，侵入每一個個人的私領域，以及流程中的透明度。