人工智能技術的廣泛應用使得越來越多的決策被部分或完全自動化,由算法主導或輔助進行。荷蘭許多市政當局利用算法輔助進行決策,如通過算法分析是否存在福利詐騙或兒童失學等潛在社會問題的風險。
但如何判斷算法決策是否科學?荷蘭有學者將透明度、可解釋性、公平性和問責制列為評價算法決策的4個維度。但研究證明,幾乎無人通過科學、有序、規范的歸檔來研究如何驗證算法決策的準確性。
第一,科學規范的歸檔能在事后有效落實決策問責制。有了歸檔時對文件全生命周期信息的著錄,在利用算法作出有關決策并實施后,有關部門就能從檔案中了解事件全貌,從而落實責任、問責到人。
第二,科學歸檔將促使行政過程中文件生成規范。要想提升后端管理效率,需要在文件生成階段就注重有序整理,具備前端控制思想將提高存儲、組織、檢索等一系列工作的效率。
第三,透明度問題仍在尋求有效解決途徑。由于決策算法的復雜性,市政當局往往需要聘請專業公司設計算法,但問題隨之出現:企業希望保護知識產權,不愿公開其體系的運作情況,這與決策過程的透明性要求相悖。
歸檔有助于在事后確定算法的創建是否公平,因此,荷蘭檔案學者為市政當局提供建議,希望規范歸檔工作,以提升算法決策的科學性。
“譯”家之言:算法決策這一前沿動態中的前端控制思想啟發我們:歸檔完全、有序、可回溯,就能夠保障政務開展中有關問題追責到位。