一 數(shù)據(jù)不完備和濫用風險突出

1 數(shù)據(jù)不完備： 人工智能進行自動化決策時，如果數(shù)據(jù)不充分、不達標，就會造成結(jié)論偏離的情況。

2 數(shù)據(jù)投毒：如果訓練集中混雜了虛假的數(shù)據(jù)，還會對算法形成欺騙，在自動化決策中給出錯誤 的結(jié)果。

3 數(shù)據(jù)濫用：技術(shù)進步擴大了用戶個人信息的邊界，互聯(lián)網(wǎng)平臺企業(yè)可以在線且及時的采集用戶 購買、收藏、瀏覽等行為，擁有豐富的算力資源和出眾的算法能力，如果企業(yè)在借 助人工智能對用戶數(shù)據(jù)進行加工、使用的過程中不能夠嚴格遵守法律法規(guī)，則可能因為數(shù)據(jù)濫用而損害用戶的權(quán)益。

二 人工智能算法存在固有缺陷

當前，以深度學習為代表的人工智能技術(shù)在產(chǎn)業(yè)界廣泛應(yīng)用，取得了一系列突破， 但其在可解釋性、魯棒性、偏見歧視等方面尚存在局限。

1 可解釋性不足：深度學習算法的一個的顯著特點是訓練過程中自動提取特征，通常比人工挑選的特 征效果更好，但這一過程目前尚不可控，在不恰當?shù)臄?shù)據(jù)集上算法可能選擇錯誤的特征。

2 魯棒性不足：深度學習算法在訓練過程中會對數(shù)據(jù)的魯棒特征和非魯棒特征逬行學習,并依據(jù)這些特征進行識別。

3 偏見與歧視：深度學習算法會挖掘訓練數(shù)據(jù)集中不同因素的相關(guān)性，擬合數(shù)據(jù)分布特性，訓練數(shù) 據(jù)集本身的偏見與歧視，會被引入到訓練出的模型之中。

三 企業(yè)人工智能管理體系不完善

人工智能等新技術(shù)特有的應(yīng)用特征對企業(yè)的管理措施提出了J大挑戰(zhàn)。一方面，過 去為了鼓勵創(chuàng)新和效率優(yōu)先，通常讓基層擁有較大的自主權(quán)；另一方面，人工智能 新技術(shù)的負面影響通常不會立即顯現(xiàn)，也難以多面評估。這就使得原有的體系并不 能適應(yīng)當前人工智能治理原則。

1 算法需要人為干預： 由于人工智能算法固有的缺陷，需要對可能出現(xiàn)的錯誤結(jié)果進行干預糾偏。

2 用戶權(quán)益保障不足： 人工智能算法用于自動化決策，對用戶帶來明顯影響，并不能做到完全技術(shù)中立， 需要注意保障用戶權(quán)益。

3 主體責任落實不到位： 由于人工智能技術(shù)門檻G，且在企業(yè)中的運用往往呈現(xiàn)出G動態(tài)性、G復雜度等特 點，使得外部難以理解其運行機制。