三大人工智能的风险初步探析

一 数据不完备和滥用风险突出

1 数据不完备： 人工智能进行自动化决策时，如果数据不充分、不达标，就会造成结论偏离的情况。

2 数据投毒：如果训练集中混杂了虚假的数据，还会对算法形成欺骗，在自动化决策中给出错误 的结果。

3 数据滥用：技术进步扩大了用户个人信息的边界，互联网平台企业可以在线且及时的采集用户 购买、收藏、浏览等行为，拥有丰富的算力资源和出众的算法能力，如果企业在借 助人工智能对用户数据进行加工、使用的过程中不能够严格遵守法律法规，则可能因为数据滥用而损害用户的权益。

二 人工智能算法存在固有缺陷

当前，以深度学习为代表的人工智能技术在产业界广泛应用，取得了一系列突破， 但其在可解释性、鲁棒性、偏见歧视等方面尚存在局限。

1 可解释性不足：深度学习算法的一个的显著特点是训练过程中自动提取特征，通常比人工挑选的特 征效果更好，但这一过程目前尚不可控，在不恰当的数据集上算法可能选择错误的特征。

2 鲁棒性不足：深度学习算法在训练过程中会对数据的鲁棒特征和非鲁棒特征逬行学习,并依据这些特征进行识别。

3 偏见与歧视：深度学习算法会挖掘训练数据集中不同因素的相关性，拟合数据分布特性，训练数 据集本身的偏见与歧视，会被引入到训练出的模型之中。

三 企业人工智能管理体系不完善

人工智能等新技术特有的应用特征对企业的管理措施提出了极大挑战。一方面，过 去为了鼓励创新和效率优先，通常让基层拥有较大的自主权；另一方面，人工智能 新技术的负面影响通常不会立即显现，也难以全面评估。这就使得原有的体系并不 能适应当前人工智能治理原则。

1 算法需要人为干预： 由于人工智能算法固有的缺陷，需要对可能出现的错误结果进行干预纠偏。

2 用户权益保障不足： 人工智能算法用于自动化决策，对用户带来明显影响，并不能做到完全技术中立， 需要注意保障用户权益。

3 主体责任落实不到位： 由于人工智能技术门槛高，且在企业中的运用往往呈现出高动态性、高复杂度等特 点，使得外部难以理解其运行机制。