【產(chǎn)業(yè)鏈圖譜 | 人工智能產(chǎn)業(yè)鏈圖譜_人工智能產(chǎn)業(yè)鏈全景圖】

【研究報(bào)告 | 人工智能行業(yè)研究報(bào)告】

　　人工智能的本質(zhì)是讓物擁有和人一樣的反應(yīng)能力和思考方式，而這種預(yù)期是通過(guò)對(duì)大量的人類數(shù)據(jù)研究形成的，這種研究方式背后就具備了一定風(fēng)險(xiǎn)，因?yàn)檫@些數(shù)據(jù)也會(huì)包含一些非優(yōu)質(zhì)數(shù)據(jù)，曾經(jīng)有智能機(jī)器人通過(guò)大量學(xué)習(xí)訓(xùn)練出了一些社交不友好詞匯就是前例。

　　谷歌的智能產(chǎn)品曾將黑人識(shí)別為“大猩猩”，在當(dāng)時(shí)引起了很多人的反對(duì)，除了“大猩猩”事件外，有研究院發(fā)現(xiàn)谷歌搜索中也存在種族歧視，比如搜索類似黑人名字，出現(xiàn)“被逮捕”的概率要高于搜索白人。

　　針對(duì)這些情況，谷歌表示，從人工智能的發(fā)展原理來(lái)講，AI偏見(jiàn)之所以存在，是因?yàn)槲覀兘o了AI偏見(jiàn)的數(shù)據(jù)。

　　近日，谷歌針對(duì)AI的安全問(wèn)題，又提出了新的措施。

　　谷歌當(dāng)前的機(jī)器學(xué)習(xí)安全管理負(fù)責(zé)人Jen Gennai表示，他們已經(jīng)將防止數(shù)據(jù)錯(cuò)誤和AI偏見(jiàn)作為當(dāng)前工作的重點(diǎn)之一。Gennai表示會(huì)對(duì)谷歌智能產(chǎn)品進(jìn)行分析和研究，確保該項(xiàng)智能產(chǎn)品達(dá)到了道德標(biāo)準(zhǔn)，為技術(shù)在后期的發(fā)展解決安全隱患。今年6月，Google的首席執(zhí)行官發(fā)布了谷歌針對(duì)人工智能的七項(xiàng)技術(shù)標(biāo)準(zhǔn)，對(duì)谷歌產(chǎn)品的技術(shù)進(jìn)行了詳細(xì)的規(guī)范，意在消除AI偏見(jiàn)。

　　谷歌的負(fù)責(zé)人表示，這種測(cè)試主要是找出產(chǎn)品的優(yōu)缺點(diǎn)。我們希望公司能推出最好的產(chǎn)品，找出所有可能出錯(cuò)的漏洞，以便解決問(wèn)題，

　　此次，谷歌還將采取改進(jìn)數(shù)據(jù)集質(zhì)量，對(duì)用戶進(jìn)行算法知識(shí)普及來(lái)消除當(dāng)前的AI偏見(jiàn)，意在將AI的生產(chǎn)和使用合理化。

　　AI偏見(jiàn)為何存在

　　最新的發(fā)現(xiàn)是基于計(jì)算機(jī)模擬AIS，或虛擬代理，形成一組，并相互作用。最新研究顯示，機(jī)器人可以教會(huì)自己如何對(duì)待其他形式的生命，包括人類，比自己價(jià)值更低。專家說(shuō)，對(duì)他人的偏見(jiàn)并不需要很高的認(rèn)知能力，而且很容易通過(guò)人工智能機(jī)器表現(xiàn)出來(lái)。這些機(jī)器可以互相教對(duì)方排除他人的價(jià)值。

　　卡迪夫大學(xué)計(jì)算機(jī)科學(xué)與信息學(xué)學(xué)院的羅杰·惠特克(Roger Whitaker)教授是經(jīng)過(guò)研究表示，“通過(guò)反復(fù)進(jìn)行幾千次模擬，我們開(kāi)始了解偏見(jiàn)是如何演變的，以及促進(jìn)或阻礙偏見(jiàn)的條件。我們的模擬表明，偏見(jiàn)是自然界的一種強(qiáng)大力量，通過(guò)進(jìn)化，偏見(jiàn)很容易在虛擬群體中受到激勵(lì)，從而損害了與他人的廣泛聯(lián)系。保護(hù)不受歧視群體影響可能無(wú)意中導(dǎo)致個(gè)人進(jìn)一步形成歧視群體，導(dǎo)致人口分裂。這種廣泛的偏見(jiàn)很難扭轉(zhuǎn)。這些發(fā)現(xiàn)涉及個(gè)人通過(guò)優(yōu)先復(fù)制那些獲得更高短期回報(bào)的信息來(lái)更新他們的偏見(jiàn)水平，這意味著這些決定不一定需要先進(jìn)的認(rèn)知能力。”

　　根據(jù)AI的學(xué)習(xí)研究，AI偏見(jiàn)是能夠通過(guò)不斷地相互學(xué)習(xí)習(xí)得的，同時(shí)這種偏見(jiàn)在特定情況下可能發(fā)生不可控制的情況，這對(duì)我們進(jìn)行人工智能的研究提出了新的技術(shù)要求。