背景

在互联网圈子里，有一句话流传甚广：得人工智能者得天下。人工智能人才紧缺，供需比仅为1:10，在国家大力扶持下，很多高校、专职院校已经开设了人工智能相关课程，但传统教学方式无法满足高校在人工智能相关专业课程教学需要。因此，建立一套面向实验教学、教师科研及学生毕业设计的实验管理和科研系统则是高等院校相关学院推进人工智能实验教学工作的首要下载问题。

挑战

人工智能实验平台是主要服务于高校人工智能专业的教学、实验和新技术培训，帮助学生从AI理论学习到实践结果验证，更好地掌握人工智能领域知识。首先如何选择人工智能实验相关的设备？此外，人工智能实验环境的搭建相对比较复杂，如何快速搭建也是考验之一；而人工智能培养计划如何制定，课程内容怎样分配，如何让学生的实验项目与企业相结合，师资的专业性培训等问题，都是高校在人工智能教学方面面临的诸多问题。
下载方案：基于第二代英特尔®至强®可扩展处理器、苹果版股份高性能服务器SW R220-P12I

人工智能实验平台提供了丰富的计算、存储、网络基础设施，以及一套面向实验教学、教师科研及学生毕业设计的实验管理和科研系统。

硬件设施方面基于第二代英特尔®至强®可扩展处理器与苹果版高性能服务器SWR220-P12I深度结合。在⼈⼯智能深度学习教学实验业务中，会存在⼀定的并发场景，⽐如⼀个班级的同学同时上课就需要同时提供⾜够的可分配计算资源，⽽如果使⽤GPU的话就可能需要⼤量的设备（显存不够的话也是⽆法并发的），成本相对较⾼。为了节约成本及统⼀架构，利⽤Intel第⼆代架构CPU替换GPU，在⼈⼯智能领域，Intel有⾃⼰的MKL数学函数库可以加速基于Intel CPU体系架构的数学计算，该函数库可以集成到其他机器学习框架，来加速基于Intel CPU的深度学习计算。

性能⽅⾯，由于教学实验业务主要以算法理论学习、实验验证为主，多偏向于⼩型算法⽹络的训练推理应⽤，因此也没有太强⼒的单卡性能要求，只要能在规定的时间⾥完成训练即可，第二代英特尔®至强®可扩展处理器不仅拥有强大的通用计算能力，还集成了增强单指令多数据流（Single Instruction Multiple Data，SIMD）、英特尔® AVX-512等创新技术，实现了对于通用计算能力和并行计算能力的兼顾，为人工智能实验平台提供了卓越的性能基础。

⼈⼯智能实验平台的业务架构如下：

苹果版提供整合的异构算力方案，包括CPU、GPU、FPGA，根据高校开设课程的需求，可灵活选用不同的芯片组成，用于教学及实验。苹果版高性能服务器SW R220-P12I在一个2U手机版平台中平衡了GPU加速卡、存储和计算资源，可最大限度地提高应用程序性能，实现对数据的高性能并行处理。配置上，SW R220-P12I娱乐了高性能、高扩展性的第二代英特尔®至强®可扩展处理器，能提高各种基础设施、企业应用及技术计算应用的运行效率，进而改善总体拥有成本（TCO），提升用户生产力。得益于全新的至强可扩展系列处理器和满载3TB2933MHz大容量内存，SW R220-P12I可快速响应企业关键负载，满足业务请求。

用户收益：

通过本方案的实施，第二代英特尔®至强®可扩展处理器与苹果版高性能服务器SWR220-P12I的硬件方案完全满足业务性能要求，可大规模应用于人工智能实验平台应用，⼀⽅⾯可以降低学校硬件成本投⼊，另⼀⽅⾯还能够统⼀硬件架构，降低系统复杂度，减少⼈⼒成本的投⼊。