AI安全

Gartner确定的2020年十大战略技术趋势之一。人工智能（AI）技术的出现推进了自动化行业的快速发展，但也给安全团队带来了威胁和挑战，产生了信任危机。对此，Gartner团队认为要提高AI安全可以从3个角度出发：保护AI驱动的系统、利用AI加强安全防御、预料攻击者恶意使用AI的情形。

人工智能时代大家都说有三大主要的支撑，算力、算法、数据。因为有了大数据，所以我们才能去不断训练出更好的算法。

AI的安全可控一直受到国内外高度关注，早在2016年时，清华大学的张博院士提出要发展下一代的人工智能，不可能只从数据中学习到相关的东西，要充分结合现在已有的东西，去发展安全可信可扩展的下一代的人工智能，2018年美国也同样提出发展下一代人工智能的想法，同样提出我们要提供AI系统的可靠性、安全性和可解释性。在今年我们的政治局常委会议上，提到国家安全战略，首次把人工智能安全作为一个单独的点提出来，可见大家对人工智能安全的重视也是越来越多了。

对AI安全整体解决方案的概览，从底层自主打造了人工智能安全的开发框架。从攻击和防御两个方面去研究了诸多的技术，覆盖模型安全的领域、数据安全的领域以及应用安全的领域，这些领域相关的技术向上输出，丰富了多个应用场景。概括来说，主要是对AI系统的安全性进行评测以及加固，以及对AI进行治理。

除了这些底层的技术和解决方案的研发以外，积极参与国家的包括行业的一些安全标准的制定，后面我也会做简单介绍。这些解决方案的背后有许多标准化产品的支撑。

提到数据安全的问题，相应推出了全景式的数据安全和隐私保护的计算平台，实现数据的可用和不可见。整体方案有多个优势，包括实施非常简易，有业界先进的运算性能，计算过程透明安全。这里尤其要提到的是打造的自动化编译的引擎，比如像现在大家使用联邦学习的框架，需要把传统的机器学习算法进行人工改写，改写成联邦环境下可以使用的，我们基于底层的改造，把所有的过程完全的自动化，我并不需要专有的知识，可以把以前的机器学习模型自动化编译为在联邦环境下可以使用的模型，大大降低了应用的成本。