【儀表網(wǎng) 儀表下游】導(dǎo)讀：AI技術(shù)發(fā)展中出現(xiàn)的諸多公平性問題，其實(shí)是映射了人類社會(huì)中本已存在的歧視和偏見。
 

　　2014年，亞馬遜公司啟動(dòng)了一個(gè)通過AI技術(shù)開展自動(dòng)化招聘的項(xiàng)目。這個(gè)項(xiàng)目完全基于求職者簡(jiǎn)歷提供的信息，通過AI算法進(jìn)行評(píng)級(jí)。然而，第二年亞馬遜便意識(shí)到這個(gè)機(jī)器腦瓜并不像想象中那樣公平公正——它似乎在歧視女性！當(dāng)一份簡(jiǎn)歷中出現(xiàn)“women”等字眼時(shí)，在打分上就會(huì)吃虧。
 

　　AI的公平性問題，本質(zhì)上并非來源于技術(shù)本身，而是來自人心，也就是說，其本源是社會(huì)的公平性。AI技術(shù)從算法和系統(tǒng)的設(shè)計(jì)，走向社會(huì)的應(yīng)用實(shí)踐，這個(gè)過程涉及方方面面的人，在很多環(huán)節(jié)，都有可能有意或無(wú)意地引入歧視和偏見。
 

　　除了不同人群間的公平問題，AI公平還涉及到開發(fā)者和使用者之間的不平等問題。大量APP在使用時(shí)會(huì)出現(xiàn)一個(gè)“知情同意”的選項(xiàng)，這個(gè)知情同意書往往少則上千字，多則上萬(wàn)字，大量的信息讓消費(fèi)者無(wú)力長(zhǎng)時(shí)間閱讀，只好選擇同意，否則只能退出。
 

　　總體來講，AI技術(shù)的高度發(fā)展對(duì)公平性的提升是有利的。首先在技術(shù)的加持下，教育、醫(yī)療等重大領(lǐng)域在資源供給的數(shù)量和質(zhì)量上都會(huì)有極大提升，供給側(cè)的繁榮有助于緩解社會(huì)資源分配不均；其次，隨著大數(shù)據(jù)的連接，人們有機(jī)會(huì)在全局層面上提煉主要矛盾，探討公平問題，進(jìn)而達(dá)成社會(huì)共識(shí)。
 

　　人工智能是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支，它企圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器，該領(lǐng)域的研究包括機(jī)器人、語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理和專家系統(tǒng)等。人工智能從誕生以來，理論和技術(shù)日益成熟，應(yīng)用領(lǐng)域也不斷擴(kuò)大，可以設(shè)想，未來人工智能帶來的科技產(chǎn)品，將會(huì)是人類智慧的“容器”。人工智能可以對(duì)人的意識(shí)、思維的信息過程的模擬。人工智能不是人的智能，但能像人那樣思考、也可能超過人的智能。
 

　　作為AI從業(yè)者、開發(fā)者、運(yùn)營(yíng)者的我們，一定要意識(shí)到：我們所開發(fā)的AI既可能被用來促進(jìn)社會(huì)公平和消除歧視，也有可能被濫用，甚至助紂為虐。
 

　　人們開發(fā)了很多工具，包括分析數(shù)據(jù)集形態(tài)和質(zhì)量的工具，能讓開發(fā)者、工程師清楚地看到他們用于訓(xùn)練的數(shù)據(jù)特征的分布，比如性別、年齡等等，至少要滿足統(tǒng)計(jì)學(xué)意義上的合理分布，從而減少潛在的偏見；還有分析算法模型的工具，可以對(duì)模型的公平性進(jìn)行評(píng)估，并做出相應(yīng)糾偏和優(yōu)化；此外還有幫助開發(fā)者對(duì)決定模型輸出的關(guān)鍵數(shù)據(jù)特征進(jìn)行探索的工具；以及公平性約束條件下的算法訓(xùn)練工具等。
 

　　AI公平性的一個(gè)重要方向是數(shù)據(jù)的可獲得性和可使用性。就AI技術(shù)立法問題而言，法律既要解決形式上的公平、機(jī)會(huì)上的公平和程序上的公平，還要實(shí)現(xiàn)形式公平和實(shí)質(zhì)公平的統(tǒng)一。應(yīng)在時(shí)機(jī)成熟的時(shí)候推出綜合立法。在這個(gè)過程中，既要考慮對(duì)個(gè)人數(shù)據(jù)的保護(hù)，也要考慮保護(hù)和創(chuàng)新之間如何形成平衡。
 

　　資料來源：百科、中國(guó)科學(xué)報(bào)