作為金融科技企業信誼科技集團的代表，以及在人工智能領域取得卓越成就的女性從業者，王春平博士闡述了她對人工智能研究和應用中數據倫理和性別平等的看法和建議。
人工智能時代正在加速，促進性別平等是發展的前提。
自1956提出人工智能以來，短短60多年間，這門科學技術的飛速發展給人類社會帶來了翻天覆地的變化。人工智能算法是以數學方式或計算機代碼表達的意見，預測結果由算法模型和數據輸入決定。
隨著人工智能時代的加速，人類將生活在壹個算法無處不在的世界。隨著算法決策開始幹預和主導人類社會事務，算法將對人類的生活和未來產生不可估量的影響。基於此，人們開始關註算法偏差可能帶來的倫理風險。單從性別的角度來看，由於人工智能領域仍然以男性為主導，在人工智能算法的日常應用中，很容易不自覺地產生關於“性別歧視”的爭議。
根據當天發布的《促進人工智能算法性別平等》報告(以下簡稱《報告》)，人工智能算法的諸多應用場景存在壹定的性別歧視。以人工智能開放平臺為例，壹張“拿著水果籃的男人”的圖片，被AI人臉識別平臺檢測為“女人”，但單獨砍掉頭像就能檢測為“男人”。在就業場景中，2018年，亞馬遜的自動招聘算法傾向於給帶有“女性”關鍵詞的簡歷打低分，降低了女性求職的成功率，最終放棄了招聘算法。
心怡科技首席科學家王春平表示:“人工智能算法的基礎是數據，但在現實生活中，由於各種原因，大量沈澱的數據分布是有偏差的，這可能會將壹些社會偏見滲透到算法中。作為壹名人工智能算法的女性從業者，我認為有很多方法可以消除這些偏見。”
消除偏見和歧視是數據算法從業者的新課題。
2019年，國家新壹代人工智能治理專業委員會發布了《新壹代人工智能治理原則——發展負責任的人工智能》，提出了人工智能治理的框架和行動指南，明確提出在數據獲取、算法設計、技術開發、產品開發和應用過程中消除偏見和歧視。近日，該委員會發布了《新壹代人工智能道德準則》。第13條特別強調避免偏見和歧視。在數據采集和算法開發上，加強倫理審查，充分考慮差異化需求，避免可能的數據和算法偏差，努力實現人工智能系統的包容性、公平性和非歧視性。
“算法中存在性別歧視的問題，主要是因為訓練AI的數據集反映了人類社會存在的性別偏見，而算法工程師缺乏對這壹問題的認識，沒有將解決性別偏見納入開發需求，從而使得算法放大了性別歧視。”馬納數據基金會研究組專家匡坤說。
報告中的專項社會調查數據顯示，58%的人工智能算法從業者不知道算法中存在性別偏見，73%的從業者不知道存在專門針對女性的惡意算法。從業者的算法性別平等意識和能力亟待提高。
王春平博士表示，“要在人工智能算法中盡可能促進性別平等，我們認為有必要從開發者的意識和環境培養入手。例如，在信義科技集團內部，我們有許多公司政策來確保和促進不同性別員工的平等機會。比如我們會有相對完善的人工智能或者數字應用相關的培訓課程。這些課程包括業務場景、算法學習和工程落地，將面向所有崗位的員工開放，並將盡可能幫助公司內對人工智能算法感興趣的員工參與壹些實驗性創新項目，並為他們提供平等的工作機會。我們認為，確保女性員工獲得公平的職業機會，為算法開發團隊創造壹個沒有明顯性別差異的環境，有意識地消除算法工程師的性別偏見，有利於人工智能算法在應用中盡可能實現性別平等。”
商業與倫理的平衡，價值觀先行的人工智能算法的未來
人工智能算法獨特的運行邏輯導致人們社會生活的結構場景發生了巨大變化，加劇了決策者與相對人之間的“數字鴻溝”。人工智能算法獨特的運行邏輯正在深刻地改變著以往的生產方式和生活方式，並與人們的行為形成了主導關系。這也意味著人的行為可以借助數據算法進行預測甚至改變。
對於企業來說，人工智能算法的準確性為商業行為的執行提供了準確的預測，但同時算法發展帶來的倫理問題和性別歧視也是企業需要考慮的問題。
王春平博士認為，到目前為止，人工智能算法仍然體現在應用中的相關性，開發過程中考慮的因素只與決策結果相關。在許多應用中，性別可能是壹個相關的幹擾項。如何擺脫偏見，公平對待不同性別，又不影響最終商業判斷的準確性，是壹個很大的挑戰。目前，這個問題已經引起了人們的關註，從不同角度解決這個問題的嘗試也很多，比如基於因果推理理論尋找與預期預測結果有直接因果關系的因素；通過創新性地構建特征表示空間，抑制了性別差異等壹些偏頗因素。
“雖然很多時候，基於商業行為，我們在某些情況下很難確定偏好和偏見的界限，但在算法的創新發展過程中，如果算法工程師作為壹個人工智能，擁有正確的價值觀，他就能盡早審視和察覺歧視和偏見的存在，並利用算法的不斷更新來調整它帶來的問題。這是我們作為算法開發者的使命和責任，也是人工智能算法發展的重要前提。”王春平說。
信業科技作為國內領先的金融科技企業之壹，壹直致力於推動科技應用與社會發展的相互融合與發展，尤其是在人工智能領域。新野科技通過在開發過程中融入性別多樣性的視角，盡力推動算法中的性別平等。作為企業，新野科技致力於在內部技術發展中促進客觀認識和理性反思，從而更好地推動科技發展。未來，心怡科技將繼續通過持續的技術創新，樹立正確的價值觀，助力推動人工智能時代的性別平等。