【儀表網(wǎng) 儀表下游】導讀：AI技術(shù)發(fā)展中出現(xiàn)的諸多公平性問題，其實是映射了人類社會中本已存在的歧視和偏見。
 

　　2014年，亞馬遜公司啟動了一個通過AI技術(shù)開展自動化招聘的項目。這個項目完全基于求職者簡歷提供的信息，通過AI算法進行評級。然而，第二年亞馬遜便意識到這個機器腦瓜并不像想象中那樣公平公正——它似乎在歧視女性！當一份簡歷中出現(xiàn)“women”等字眼時，在打分上就會吃虧。
 

　　AI的公平性問題，本質(zhì)上并非來源于技術(shù)本身，而是來自人心，也就是說，其本源是社會的公平性。AI技術(shù)從算法和系統(tǒng)的設(shè)計，走向社會的應用實踐，這個過程涉及方方面面的人，在很多環(huán)節(jié)，都有可能有意或無意地引入歧視和偏見。
 

　　除了不同人群間的公平問題，AI公平還涉及到開發(fā)者和使用者之間的不平等問題。大量APP在使用時會出現(xiàn)一個“知情同意”的選項，這個知情同意書往往少則上千字，多則上萬字，大量的信息讓消費者無力長時間閱讀，只好選擇同意，否則只能退出。
 

　　總體來講，AI技術(shù)的高度發(fā)展對公平性的提升是有利的。首先在技術(shù)的加持下，教育、醫(yī)療等重大領(lǐng)域在資源供給的數(shù)量和質(zhì)量上都會有極大提升，供給側(cè)的繁榮有助于緩解社會資源分配不均；其次，隨著大數(shù)據(jù)的連接，人們有機會在全局層面上提煉主要矛盾，探討公平問題，進而達成社會共識。
 

　　人工智能是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術(shù)及應用系統(tǒng)的一門新的技術(shù)科學。人工智能是計算機科學的一個分支，它企圖了解智能的實質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應的智能機器，該領(lǐng)域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等。人工智能從誕生以來，理論和技術(shù)日益成熟，應用領(lǐng)域也不斷擴大，可以設(shè)想，未來人工智能帶來的科技產(chǎn)品，將會是人類智慧的“容器”。人工智能可以對人的意識、思維的信息過程的模擬。人工智能不是人的智能，但能像人那樣思考、也可能超過人的智能。
 

　　作為AI從業(yè)者、開發(fā)者、運營者的我們，一定要意識到：我們所開發(fā)的AI既可能被用來促進社會公平和消除歧視，也有可能被濫用，甚至助紂為虐。
 

　　人們開發(fā)了很多工具，包括分析數(shù)據(jù)集形態(tài)和質(zhì)量的工具，能讓開發(fā)者、工程師清楚地看到他們用于訓練的數(shù)據(jù)特征的分布，比如性別、年齡等等，至少要滿足統(tǒng)計學意義上的合理分布，從而減少潛在的偏見；還有分析算法模型的工具，可以對模型的公平性進行評估，并做出相應糾偏和優(yōu)化；此外還有幫助開發(fā)者對決定模型輸出的關(guān)鍵數(shù)據(jù)特征進行探索的工具；以及公平性約束條件下的算法訓練工具等。
 

　　AI公平性的一個重要方向是數(shù)據(jù)的可獲得性和可使用性。就AI技術(shù)立法問題而言，法律既要解決形式上的公平、機會上的公平和程序上的公平，還要實現(xiàn)形式公平和實質(zhì)公平的統(tǒng)一。應在時機成熟的時候推出綜合立法。在這個過程中，既要考慮對個人數(shù)據(jù)的保護，也要考慮保護和創(chuàng)新之間如何形成平衡。
 

　　資料來源：百科、中國科學報