日前，我在網上看到老人到湖州開會，回京時妻子的健康寶突然出現「彈窗」，導致他們無法購買火車票或飛機票。他們各方求助，都沒有得到解決。他們甚至都不知道為什麼出現了彈窗。而且，二人一直同行同住，為什麼只有一人彈窗？健康寶系統的AI女士在解答問題時雖然軟語溫柔，但是不解決任何實際問題，給人的感覺是冷冰冰的。兩位老人孤獨無助地滯留他鄉的這段經歷，令人感慨萬分。
於是，我又想到了發生在自己身邊的事情。我的親戚在兩個月前從深圳來到北京。這也是一對七八十歲的老人。他們在北京飯店住了幾天，按規定進行核酸檢測。一天早上，ta他們要乘坐出租車外出時，丈夫的健康寶突然出現了彈窗。他們急忙回飯店詢問工作人員，後者回答說可能是他們在深圳的住宅區出現了疫情。按規定，他們要就地隔離，搬到特定樓層的房間。工作人員考慮到他們的年齡，又徵求了他們的意見，然後通過酒店幫他們購買了返回深圳的飛機票，並且叫來出租車，親自向司機說明有關情況。當天晚上，他們順利地回到了深圳的家中。他們非常感謝北京飯店的工作人員！
健康寶的彈窗是科學技術的產物。防疫部門利用這種科技手段進行流行病學調查和疫情風險排查，具有一定的必要性與合理性。但是，把彈窗作為直接限制公民自由的工具，缺乏法律依據，因為這等於把信息系統的「算法」當作了限制公民權利和拘束公民行為的法律。
健康寶的彈窗功能是以算法為基礎的，而算法是信息技術人員為實現特定目的或解決特定問題而設計的一系列準確而完整的指令，是通過相關的軟件、程序或代碼表達的系統性技術規則。毫無疑問，算法的設計是一項科學工作。但是，在一個國家中，限制公民權利和自由的決策不僅要考慮科學性，還要考慮許多涉及國家治理和道德規範的因素，例如公平、秩序、人性、友善、和諧等。因此，把限制公民權利和自由的權力交給算法，既不符合人類文明的要求，也不符合依法治國的原則。
算法雖然具有科學性，但是在設計過程中也可能出現疏漏，或者說，算法的內部結構與實現邏輯也可能存在漏洞，甚至包含某些設計人員私自安植的「後門」。因此，涉及公民權力和自由的重大問題，不能完全交由算法進行規制處理。另外，作為健康寶彈窗之基礎的算法，往往還會運用大數據抓取技術去選擇對象，於是就出現了同行同住的夫妻中只有一人彈窗的現象。用這種帶有隨機性的選擇方法確定限制人身自由的對象，顯然不符合公平正當的法治原則。
我以為，健康寶的彈窗技術具有科學性，可以作為防疫部門進行流行病學調查和疫情風險排查的工具，但是不能直接用來限制公民的人身自由。我建議防疫部門採取修正措施如下：1.要求信息技術人員修改算法，使那些需要提醒的可能與新冠病毒感染者有接觸的人不再出現手機彈窗，而改為手機短訊提示；2.明確規定健康寶彈窗只是對個人的提醒，不影響其乘坐交通工具和進入公共場所。誠然，筆者只是個法學教授，既不懂疫情防控，也不懂信息技術，因此，這只是從法治的角度提出的一點建議，供決策者參考而已。
隨着大數據和人工智能等新型科學技術的迅速發展，我們正在快步進入人類社會的智能時代。在這種形勢下，算法會以各種方式干預人類的生活，而智能機器和信息系統等搭載算法的各類產物也會幹方百計地入侵人類的社會。假如有一天，國家的法治變成了「算法之治」，人類恐怕就將淪為機械人的奴隸！
我這是杞人憂天嗎？
