新一代gpu架构（通用GPU开启未来十年的金钥匙）

来源：内容来自「中国软件资讯网」，谢谢。

1987 年， 原日立公司总工程师牧村次夫(Tsugio Makimoto) 提出，半导体产品未来可能将沿着“标准化”与“定制化”交替发展的路线前进，每十年波动一次。他把这一理念于1991 年发表在 Electronics Weekly 上，称之为“牧村波动” (Makimoto’s Wave)。

近年来可编程芯片的高速发展， 验证了“牧村波动”的正确性，得到了 Xilinx、Altera 等可编程芯片商的响应。德国一位教授甚至把“牧村波动”称为“牧村定律”，认为在半导体技术逼近极限的情况下， “牧村定律”将超越摩尔定律而存在， 半导体技术未来要依靠“牧村定律”维持其高增长的创新速度。

2020 年将至，过去数年我们一直在呼唤AI 芯片和高性能计算芯片，如果 “牧村波动”仍然奏效，那么下一个波峰将是超高灵活度集成的芯片。放在今天的AI时代来看，就是GPGPU。

要说清楚GPGPU，还是要从GPU说起。GPU起初也是一款专用芯片——与CPU相比，早年的GPU专用于图形计算加速，且在GPU诞生之时还是以ASIC芯片的形态面世。不过，GPU在不断的发展和演进之中，逐渐进化出越来越多的通用属性，也即可编程性。

特别是，自从英伟达在2006年左右推出了CUDA。CUDA是英伟达在GPU应用于高性能异构计算领域在编程方面的一大创举，无疑也是走得极为正确的一步棋——CUDA可以基于C语言、C 和Fortran、Python等语言直接开发应用程序，并构建起极为庞大的开发用户群，这奠定了GPU可以广泛应用的技术基础和生态力量。

当然，这也得益于大数据时代，各行各业都需要更加强劲的算力。CUDA的推出，开启了英伟达的GPGPU(通用GPU)战略——在大部分人对GPU的认识还局限在游戏图形加速之时，GPGPU的时代，就从那时启幕。

GPGPU，也有人称之为GP2U(GP的两次方U)。两个GP代表着不同的含义：后边的GP表示图形处理(Graphic Process)，和U组合一起是我们熟知的GPU(图形处理器);前一个GP则表示“通用目的”(General Purpose)。

GPGPU不是一款具体的芯片，而是一种概念，即利用图形处理器进行一些非图形渲染的高性能计算。

从狭义上来讲，GPGPU在GPU的基础上进行了优化设计，使之更适合高性能并行计算，并能使用更高级别的编程语言，在性能、易用性和通用性上更加强大。

应用领域方面，GPGPU将应用扩展到了图形之外，在科学计算、区块链、大数据处理、工程计算、金融、基因等方面，GPGPU都得到了广泛的使用，关于它的科研成果和新应用模式也层出不穷。

从上图可以看出，GPU 应用于 AI 计算，无论是云端训练还是终端推理，其本质都是 GPU 通用属性的一个方向。或者说，AI 计算在 GPGPU 世界里，只是其中一个组成部分。只是 AI 计算这个方向潜力巨大，因此 GPU 厂商才将 AI 计算作为着重发展和宣传的方向。

如果将CPU比作是一名数学家，GPU是一名艺术家，那么，GPGPU或许应该是……莱昂纳多·达·芬奇。

目前全球范围内在GPGPU领域的玩家，英伟达似乎已是控场之姿。

其实早在2006年左右，AMD就发布过一款“流处理器”，算是AMD最早的GPGPU的尝试。但当时那款“流处理器”只是GPGPU的一个“雏形”，远未发挥出GPGPU的真正威力。

此后，AMD在GPGPU方面并没有太多动作，甚至于后来出现的开放计算语言(OpenCL)都是苹果公司开发推出的。这也让AMD丧失了在GPGPU方面与英伟达对垒的机会，以至于处于追赶者的象限内。

而英特尔，也在加紧布局通用GPU。英特尔眼馋GPU路人皆知，其背后是一段辛酸史——从开始对GPU的不屑，到基于自家的x86架构开发独立显卡，英特尔折腾了十年之久仍然没做出来一款像样的GPU。近两年传出消息英特尔将在2020年推出首款独立GPU，这恐怕要得益于英特尔的重金挖人——原AMD RTG显卡部门负责人Raja、Zen架构的功勋领袖Jim Keller、显卡技术市场总监Damien Triolet这几位大神都在2018年被英特尔招入麾下。

可以想象，对于英特尔而言，都2020年了，英特尔再做传统显卡的意义显然不大，在异构计算时代，英特尔只有瞄准数据中心，才下定决心搂响GPU这个扳机。

笔者采访了相关行业技术人员，了解到研发GPGPU的难点在于以下几个方面。

从硬件角度看，最核心的是指令集。指令集的覆盖面、颗粒度、效率等决定一款芯片能否覆盖到足够宽的应用市场领域，并对软件开发和产品迭代足够友好。无论是英伟达还是AMD的GPGPU，指令集都在千条量级，而目前国内的AI芯片指令集大多数都在百条以内。类型与数量的差别映射到硬件高效实现的复杂程度，差距是巨大的，在这方面国内的团队还存在着一定的差距。另一个重要方面就是基于硬件层的任务管理和智能调度，这可以让芯片从硬件层即提高算力的利用率，也就是大家常说的实际算力。大多数AI芯片的做法是完全依赖于软件层的调度实现，但这种方式第一增加了软件开发的复杂度，第二降低了硬件算力的利用率，第三减缓了软件栈迭代更新的速度，这在AI领域，面向算法模型、开发环境、应用场景加速更新的大背景下无疑大大增加了产品落地与工程化的难度。

在软件方面，毫无疑问，最重要的必然是开发生态，GPGPU通过英伟达十多年的耕耘，已经建立起了一个超过160万开发用户的庞大而成熟的生态-CUDA。AI芯片则需要搭建全新的生态，它会带来两个维度显著的问题，第一个维度是客户端，客户需要冗长的适配期，从原有的开发环境切换到新的软件生态，这不仅带来了资源投入，推迟了业务部署时间窗口，增加了业务的不确定性，更严重的是不利于保护已有的软件投资，软件的很多部分都要重新来写并适配，这对企业级用户来讲恰恰是非常敏感与慎重的事情。另一个维度是产品开发端，从底层芯片与系统软件，跳过CUDA层去直接支持开发框架，必然带来巨大的软件投入，不停得追赶现有框架的新版本，以及生态巨头的新框架，这在底层软件人员缺乏的背景下矛盾显得尤其突出。

而以上两点说到底都是需要人来解决的，恰恰在这方面的人才是目前中国企业最缺少的。目前只有英伟达和AMD拥有丰富的团队，这也侧面证明了为什么Intel自己折腾几年，最后还是请了AMD的几位大神。

围绕GPGPU，国外已是龙争虎斗，反观国内，能够洞悉GPGPU发展机遇并付诸行动的芯片厂商少之又少。不少企业选择了曲线救国或者叫做弯道超车，但往往实际上是切换赛道。其他厂商中，包括寒武纪、依图、比特大陆、燧原科技等企业，目前也都重点布局于AI芯片，并分别利用自身的优势走出了自己的风格和水平。

而在GPGPU赛道上，一家名为“天数智芯”的公司选择了正面“刚”。这家公司目前围绕GPGPU的系统研发已聚集了一支百余人的技术团队，其中不乏AMD在美国和上海做 GPU的核心团队成员、行业经验超20年的世界级技术专家。今年刚刚试水发布了一款边缘端芯片，并计划明年正式发布GPGPU大芯片产品。

其实仔细想想，通用GPU成为兵家必争之地很容易理解，至少有一明一潜两大驱动因素。明面上，现在是异构计算的天下，近年来传统以CPU为核心的服务器市场增长比较平缓，而GPU服务器的增速迅猛，年增长率据称超60%。

潜在因素则在于，5G时代的到来推动了物联网的迅猛发展，应用场景更加丰富多元，这要求云端的计算资源能应对各种复杂场景的需求提供丰富灵活的计算支撑，工程师们肯定更愿意将能“通吃”的芯片焊在服务器上。

有一点毋庸置疑，算力经济时代，整个世界正面临半导体市场的增长大潮，市场上也涌现出各种各样的半导体公司，老牌的、成熟的、初创的，百舸争流。而NVIDIA早早凭借强大的GPU CUDA方案切入各个领域，用大笔研发投入和时间堆积起坚不可摧的生态城墙，而这恰恰是国内外其他玩家的薄弱环节。

国产芯片企业，特别是处在创业初期的那些，“正确选择胜过百倍努力”。笔者认为可通用的GPU确然是个非常值得投入的方向。GPGPU诞生也只有十数年时间，“护城河”并非坚不可摧。

只不过在现阶段，国产替代方案还要在CUDA生态的基础上推广自己的芯片产品，在兼容CUDA的同时，建设新生态。在这个过程中，每一步都关键且充满挑战。

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第2176期内容，欢迎关注。