"只要你不去做一些無法原諒的事情，比如接受媒體採訪，我們就可以原諒你的政治立場，把關注點放在你的技術貢獻上。"
這是離職談話時，谷歌(Google)給我的臨別贈言。此前，我手握辭職信進行了一個月的內部爭論，要求公司澄清它在蜻蜓項目(Project Dragonfly)上的道德底線。這是一個為了滿足中國共產黨的審查和監視要求，對谷歌搜索進行修改的項目。
一個似乎允許中國政府通過中國用戶電話號碼監視其搜索行為的系統原型，曾在公司內部流傳，谷歌的高管認為，它並沒有超出現有規範。畢竟，各國政府總是對該公司提出各種各樣的執法要求。他們問員工，此舉的危害從何說起？
但是，科技公司可以只構建工具、編寫算法和收集數據，而無需考慮誰在使用這項技術及其目的時代已經過去了。
來自一名普通工程師的抱怨不會讓企業置重要的財務利益於不顧。但歷史表明，在法庭或輿論的幫助下，持有不同意見的人有時是會起到作用的。哪怕這種異議無非是在提醒公眾這些企業要幹什麼。
差不多十年前，11名法輪功學員的代表將思科系統公司(Cisco Systems)告上了聯邦法院，稱這家公司為中國政府建立了一個全國性的視頻監控和"強制轉化"用戶信息管理系統，這是為北京方面打擊該組織而量身定製的。根據思科自己的營銷資料，這個視頻分析系統是"唯一能夠識別90%以上法輪功圖像信息的產品"，若放在今天，這個設備會被作為"人工智能"出售。
雖然法庭承認思科開發了"專門為發現、跟蹤和打壓法輪功而定製和設計的個性化功能"，但早期的一些裁決對原告不利。此案仍在美國第九巡迴上訴法院的審理中。
思科逃脫懲罰，為美國企業樹立了一個先例，即可以給外國政府打造用於政治迫害的人工智能產品。今年，時報通過調查發現，一個名為賽默飛世爾(Thermo Fisher)的美國公司出售DNA分析設備給中方，協助目前在新疆地區對數十萬維吾爾族人（一個以穆斯林為主的民族）所做的大規模國內監控和拘禁行動。報道刊出後，該公司表示它不再向新疆地區出售有關設備。
公開羞辱不一定總是有好效果。2005年10月，將在五年後獲得諾貝爾和平獎的劉曉波發表了一封致時任雅虎(Yahoo)董事長楊致遠的公開信，以回應雅虎在逮捕民主派記者師濤過程中所起的作用。師濤匿名發表了中共關於不得報道1989年天安門廣場抗議活動15周年的指示。
劉曉波在信中說，雅虎"幫助中共國安部門追查師濤的電腦記錄，提供了雅虎用戶師濤先生的郵箱帳號、IP及身份，使師濤的私人資訊被中共安全部門掌控，並在法庭上變成了師濤被判十年重刑的證據之一。"他進一步暗示，雅虎前不久完成了收購電子商務巨頭阿里巴巴40%股份的交易，是公司做出該決定的考慮因素之一。
劉曉波不可能知道，10年後，谷歌搜尋引擎的一個名為"蜻蜓"的修改版本會審查關於他獲得諾貝爾獎的信息，據報道，它還會將搜索行為與搜索者的電話號碼聯繫起來。
在劉曉波的信發表兩年後，楊致遠前往眾議院外交事務委員會(House Foreign Affairs Committee)作證，當時師濤正在監獄服10年徒刑——刑期後來減至8年半。委員會主席湯姆·蘭托斯(Tom Lantos)嚴厲斥責了楊致遠的觀點，即雅虎只是在配合正常的執法。"雖然你們是技術和經濟上的巨人，但你們是道德上的侏儒，"蘭托斯說。
楊致遠為雅虎的人權承諾做了辯護，並強調了中國市場的重要性。去年，谷歌為"蜻蜓"做了類似的辯護。儘管谷歌遭到負面新聞報道，副總統邁克·彭斯(Mike Pence)直接打電話要求終止該項目，國會還對其高管做了兩次聆訊，但蜻蜓項目遭遇的唯一重大挫折來自谷歌的私隱團隊對管理層的反抗。
在谷歌，僱員集體行動一直是對問題項目的一種制約，雖然這一點並沒有得到充分的認知。這一趨勢可以說始於一群工程師("九人小組")拒絕開發聯邦安全所需的"氣隙"技術，阻止了谷歌接受空軍合同。這激發了谷歌內部不斷的努力，阻止谷歌參與五角大樓的馬文項目(Maven Project)，即在軍方無人機拍攝的目標叛亂分子畫面中應用人工智能，該努力最終獲得了成功。
這一內部動盪導致了谷歌人工智能原則的誕生，該原則承諾，公司不會"設計或部署"違反"被廣泛接受的國際法和人權原則"的技術。取消馬文項目合同，加上無法完成所需的聯邦認證，導致谷歌退出了旨在建設五角大樓雲計算項目"絕地項目"(Project JEDI)的合同，價值100億美元。
谷歌集體行動的高潮是在2018年11月1日，當時兩萬名谷歌員工集體走出辦公室，要求改善谷歌關於性騷擾的政策。此前谷歌遭《紐約時報》曝光，稱谷歌向已證實有不當性行為的"安卓之父"安迪·魯賓(Andy Rubin)支付9000萬美元，員工的舉動是對公司這一決定的直接回應。這一行動導致谷歌乃至整個科技行業在強制仲裁問題上做出公開讓步。
在馬文和絕地項目事件中，內部組織是成功的。關於人工智能的原則被起草，並被引證為取消合同的原因。但在蜻蜓項目中，即便集體行動是由關鍵員工發起，也沒有一份公開聲明稱該項目違背了谷歌的承諾，即不設計侵犯人權的技術。
技術工作者的直接行動無疑是有效的。因此，人權組織必須繼續倡導對舉報者和良心反抗者的法律保護，包括保護有效集體行動所需的組織工作。此外，更廣泛的公民社會可以設立一個專門的法律辯護基金，增加舉報的頻率。
科技公司正花費創紀錄的資金進行遊說，並悄悄地努力限制對員工組織的法律保護。北美的立法者理應響應人權組織和研究機構的呼籲，藉由類似歐盟最近通過的那種法案，保證對舉報人的明確保護。理想情況下，他們應該明確支持通過國際人權法讓企業擔負支持人權的法律義務。
科技公司的工作如果在道德上是站得住腳的，那麼它在討論其對人權的影響時，應該沒有什麼好害怕的，無論是在董事會還是在公共場合。
Jack Poulson是Tech Inquiry的創始人，曾在史丹福大學數學系任教。
