用全生命週期的方法對抗AIML中的有害偏見

今天，人工智慧（AI）和機器學習（ML）技術影響甚至決定了我們的一些行動。資料科學創新有望改變疾病診斷、應對氣候變化和解決其他社會挑戰的方式。

然而，隨著應用程式被部署在金融和醫療等敏感領域，專家和倡導者開始發出警告：人工智慧系統有能力做出公正的決定，但也可能對某些群體存在系統性不公。如果不加以解決，有偏見的人工智慧可能會延續甚至擴大成為有害人類的偏見。

企業組織可能不會故意設計不平等的AI/ML模型。然而，偏見仍然以多種形式滲透到演算法中，甚至在排除性別、種族或性別認同等敏感變數時也是如此。問題往往在用於訓練模型的資料，這些資料反映了其來源——我們周圍的現實世界——的不平等。比如偏重男性的招聘演算法和傳播刻板印象的程式碼生成模型。最近的一項民意調查發現，超過50%的高管表示，他們對公司使用人工智慧的道德和聲譽風險“嚴重”或“極端”擔憂。

組織應該如何著手消除無意識的偏見還沒有標準答案。儘管有關合乎道德的人工智慧系統的辯論已經開始，監管審查會經常佔據新聞頭條，但很少有人討論我們如何讓從業人員做好應對不公平問題的準備。模型的偏見不僅僅是開發人員的錯。如果缺乏減輕危害所需的工具、支援和資源，即使有最好的意圖的資料科學家也會陷入倫理困境。

近年來，關於負責任和公平的人工智慧的資源越來越多，但要駕馭這些動態，需要的不僅僅是小組討論和一次性課程。我們需要一種全面的方法來教育人工智慧中的偏見，讓從開發者、應用者以及監管者的每個人都參與進來。

從傳統教育入手

不到四分之一的AI專業教育工作者表示在課堂上進行了人工智慧倫理培訓。

讓未來的領導者能夠應對其產品的社會和道德影響的最好方法，是在他們的正規教育中包括有關偏見和公平的課程。雖然這是關鍵，但教育者當被問及資料科學/機器學習所教授的主題時，分別只有17%和22%的教育工作者回答他們教授過倫理或偏見。

大學應該向更成熟的專業領域尋求指導。以醫學倫理學為例，它探討了創新和倫理學的交叉點上的類似問題。根據1847年美國醫學協會透過的《醫學道德規範》，這項研究發展成為一個獨立的子領域，那些尋求醫生和護士專業認證的人都必須學習其指導原則。更多的教育機構應該效仿牛津大學，建立專門的中心，利用哲學等多個領域，指導人工智慧領域的公平和公正。

並非所有人都認為那些通常被降級為選修課的獨立AI道德課程有效。有專家提出的另一種方法是，透過在正常課程中設定常規科目，進行道德技能建設和反思，將倫理“嵌入”技術培訓中，這種方法最近得到了哈佛大學的採納。

在工作領域提高道德技能

關於AI/ML偏見的正規教育只是邁向修正資料科學倫理偏差的第一步。據調查，在步入社會的工作領域，60%的資料科學組織要麼尚未實施任何計劃，以確保公平和減少資料集和模型中的偏見，要麼未能向員工傳達這些計劃。同樣，ZDNet最近對IT高管的一項調查發現，58%的企業沒有為員工提供道德培訓。

當然解決方案並不是簡單地要求人工智慧團隊接受千篇一律的道德培訓。培訓計劃應該是整個組織範圍內提高意識和採取行動減少有害偏見的一個組成部分。最先進的公司正在將人工智慧倫理和問責作為董事會的優先事項，但良好的第一步是制定內部道德標準，並實施定期評估，以確保最新的最佳做法到位。例如，團隊應該聚在一起，定義偏見和可解釋性等術語在他們的工作環境中的含義。

有了標準，培訓可以使指導方針實施。《哈佛商業評論》（Harvard Business Review）建議，不僅僅是提高意識，還要授權整個組織的員工提出問題，並適當解決問題。對於技術和工程團隊，公司應該準備投資於新的商業工具或承擔專門的第三方培訓的成本。在FICO最近的一項調查中，三分之二的公司無法解釋人工智慧解決方案是如何實現預測的，考慮到這一點，開發人員和工程師需要的將不僅僅是簡單的研討會或證書課程。

人工智慧倫理培訓也應該是企業長期招聘戰略的基石。首先，提供道德指導將吸引注重價值觀的年輕人才。同時培養這些技能的正式舉措也將產生一個積極的反饋迴路，企業利用培訓專案向大學發出僱主的明確訊號。今天，透過提供這些主題的培訓，領導者可以幫助建立一支準備好並能夠面對更加複雜問題的團隊。

在過去的幾年裡，圍繞人工智慧倫理的對話一直是一個持續的討論點，雖然我們可能很容易忽視這些討論，但關鍵是不要讓人工智慧倫理僅成為一個流行詞。隨著歐盟和通用資料保護條例（GDPR）的更新，有關人工智慧使用和法規將繼續存在。雖然減輕有害偏見將是一個漫長反覆的過程，但從業者和組織需要在評估他們的模型和加入關於人工智慧倫理時保持警惕。