HTH官网：深度学习的兴起，正推动加速器技术的复兴

发布时间：2024-10-31 14:44:01 丨 浏览次数：815

在2020-03-30 的商品环境之下，我们或许早已习惯于每一部智能手机、平板电脑、笔记本电脑、台式机以及服务器都配有着相近度极高的小型芯片组。但回顾历史，我们不会找到整个计算出来世界曾多次享有着高度多样化的硬件“心脏”。如今，这种遗产依然普遍不存在于超级计算出来这一特定领域之内，各种奇特的硬件希望榨取着每一个能用的指令周期。随着游戏与高强度图形工作阻抗总量的剧增，GPU形式的专用加速器硬件也开始呈现标准化趋势。

更加最重要的是，深度自学的蓬勃发展与指数级快速增长的变得复杂与专业化工作阻抗推展着专业硬件的又一轮兴起——这一次，企业将自律建构芯片以尽量多地提高效率与速度。从谷歌的TPU到亚马逊的Inferentia芯片，现代云计算企业完全都必须根据自身在AI前沿创建起的经验打造出属于自己的深度自学加速器。这些公司在相当大程度上将自己的成果容许在内部用于，不过也有谷歌这样的技术巨头将自己的TPU以“轻量化”EdgeTPU的形式获取给外部用户。凭借着在GPU设计中累积到的非常丰富经验，英伟达公司的硬件长期以来仍然是深度自学领域的中坚力量，而且从对原先GPU成果的适配改向更加大力的深度自学研发。

而如果以我所注目的统计资料指标抵达，世界各地的企业都在希望打造出自己的自定义化芯片设计以及COTS硬件组件，目的更进一步加快训练与推理小说流程，进而建构起规模更大的自学模型。与此同时，正如谷歌EdgeTPU版本所带给的具体信号，AI技术于是以日益走向市场前沿。我们于是以目睹亲眼着一系列AI应用于的实际落地，还包括它们在精度、功耗与移动性等方面作出的有所不同市场需求权衡。

对于那些必需执着最低精度的应用程序，用户仍不会将推理小说流程外包给云端，还包括利用有线、4G或者无线连接将输出数据流传输至GCP、AWS以及其它云服务供应商展开处置。然而，对于倒数动态视频处置（例如远程监控摄像机网络）场景而言，这种比特率有限的解决方案毫无疑问过于简单。这就意味著推理模型必须几乎在本地设备上继续执行。部分厂商偏向于用于混合模型，即利用板载过滤器机制对内容展开可行性辨识，而后将复杂度较高的部分交由远程计算资源处置。

功耗是此类应用于的主要限制性因素，拒绝设计者在完整处置能力、功耗与芯片产生的热量之间展开严肃权衡。无人驾驶汽车对于深度自学硬件明确提出的拒绝更加苛刻，对其相同窗口累计时间、高精度、高带宽输出以及低功耗特性都具有明确限定版。而且，这一切都必需全面运营在车辆之上，而不有可能将现场的数据新的发送到返云端。

特斯拉公司早已发售了专用型深度自学硬件，并声称其新型芯片代表着无人驾驶功能的未来。有意思的是，这场宣传最后引起了特斯拉与其前供应商英伟达之间的口水战。

总而言之，新的AI硬件的剧增以及更加多企业自由选择自律建构推理小说设备，不已让我想起深度自学领域的浪潮否只是又一场淘金热。换言之，面临这么多未知数与漫长的开发周期，2020-03-30 的前沿芯片否可能会沦为明年的电子垃圾？总而言之，目前大部分与深度自学涉及的工作阻抗依然再次发生在云端，大多数企业的最佳选项有可能是必要将他们的AI市场需求外包给体量极大的商业云供应商，从而精彩利用近期一代英伟达GPU硬件获取的全部优质资源与尖端设计。

而从TPU与Inferentia芯片，到各类由其它公司公布的面向移动环境的低功耗硬件，云中心到边缘方位正在逐步构建无缝接入。在某些情况下，云厂商甚至需要获取某种程度的训练工作流程建构起精度最低的模型，并容许客户用于完全相同的工具与训练数据。

这意味著用户只必须单击鼠标，才可在移动设备上用于较低配备低功耗版本。最重要的是，深度自学仍是一个动态化极高且较慢发展的领域，云计算的反对需要很好地隔绝这种变化因素，保证企业客户在需要担忧底层硬件的前提下建构并运用最先进设备的模型。

正如基于普通CPU的云虚拟机需要大大递归更加强劲的硬件而需要改动代码一样，云端深度自学服务将在云厂商的极大投资中获得极大提高，还包括尽量把不断改进的加速器所带给的复杂性挑战抽象化出来。例如，面向谷歌公司上一代TPU加速器建构的代码仍需要在近期一代硬件上不作改动而必要运营，并在不转变代码行、新的编译器或者任何重构的情况下构建相当可观的性能提高。对于那些身处深度自学边缘方位的从业者来说，当前的云体系有可能正是AI工作阻抗的最佳运营环境。而从世界上最强劲的推理小说硬件，到面临硬件持续改良所必须的继续执行稳定性，再行到由云到边缘方位的领先无缝式软件开发环境，环绕深度自学创建一起的原始体系正在渐渐成型。

或许更加最重要的是，云环境显然是协助世界一流AI企业已完成研发工作的选用平台。通过这一强劲助力，AI“帝国”们将需要扎根云端推展深度自学领域的整体变革。

本文来源：HTH官网-www.84rc.com