“不务正业”的特斯拉 要成为人工智能巨头？

　　前一阵，马斯克发 Twitter 宣布了特斯拉“AI Day”将会在北美时间 8 月 19 日正式举行。根据之前他的 Twitter 所说，发布会将会介绍特斯拉在人工智能领域的软件和硬件进展，尤其在（神经网络）的训练和预测推理方面；这次活动的主要目的是招揽相关人才。

　　这种做法非常的特斯拉，就像 2019 年的“Autonomous Day”和 2020 年的“Battery Day”一样，估计“AI Day”整个发布会将会涉及大量的软件、硬件的技术细节，以此来向外界“秀肌肉”。

　　而这种技术“秀肌肉”正是特斯拉招揽顶尖人才的独特方式。从某种程度上讲，特斯拉在召开类似的发布会时，面向的群体更多的是行业领域的专业人士；用极具野心的规划方向和颠覆行业的研发成果，去吸引那些因此感到心潮澎湃的人才。

　　特斯拉的 AI 硬件负责人 Peter Bannon 曾在接受采访时说：“你知道有很多人想要来特斯拉工作的根本原因，仅仅是因为他们想要从事于（FSD）的研发和相关工作。”事实上，美国近几年在统计工程类专业学生最想去的公司排名中，特斯拉和 SpaceX 经常交替排名第一，其实也佐证了 Peter 所说的这一现象。

　　（图/Universum）

　　尽管此次一如既往的并未泄露什么“AI Day”的信息，但仅通过上面那一张预热图，就让不少从事 AI 领域的人为之兴奋不已。

　　神秘的 Dojo 计算机芯片

　　在“AI Day”发布会的邀请函上，放着一张夸张的芯片图。

　　从图上估测，该芯片采用了非常规的封装形式，第一层和第五层铜质结构是水冷散热模块；红色圈出的第二层结构由5*5 阵列共 25 个芯片组成；第三层为 25 个阵列核心的 BGA 封装基板；第四层和第七层应该只是物理承载结构附带一些导热属性；蓝色圈出的第六层应该是功率模块，以及上面竖着的黑色长条，很可能是穿过散热与芯片进行高速通信的互联模块；

　　从第二层结构的圆形边角，以及拥有 25 个芯片结构来看，非常像 Cerebras 公司的 WSE 超大处理器，即特斯拉可能采用了 TSMC（台积电）的 InFO-SoW（集成扇出系统）设计。

　　所谓 InFo-SoW 设计，简单理解来说就是原本一个晶圆（Wafer）能够“切割”出很多个芯片，做成很多个 CPU/GPU 等类型的芯片（根据设计不同，光刻时决定芯片类型），而 InFo-SoW 则是所有的芯片都来自于同一个晶圆，不但不进行切割，反而是直接讲整个晶圆做成一个超大芯片，实现 system on wafer 的设计。

　　这么做的好处有三个：极低的通讯延迟和超大的通讯带宽、能效的提升。

　　简单来说，由于 C2C（芯片与芯片之间）的物理距离极短，加上通讯结构可以直接在晶圆上布置，使得所有内核都能使用统一的 2D 网状结构互连，实现了 C2C 通信的超低延迟和高带宽；以及由于结构优势实现了较低的 PDN 阻抗，实现了能效的提升。此外，由于是阵列多个小芯片组成，可以通过冗余设计来避免“良品率”问题，以及实现小芯片处理的灵活性。

　　举个形象的例子，特斯拉前一阵公布的超级电脑，一共用了 5760 个 Nvida A100 80GB 的 GPU，那么在这些芯片之间，需要海量的物理结构进行连接以实现通讯，不仅耗费大量成本，且由于连接结构的带宽限制成为“木桶短板”，导致整体效率较低，并且还有分散的庞大散热问题。

　　这里拿 Cerabraas 的 WSE-2 作为参考对比，一个芯片的核心数是 Nvdia A100 的 123 倍，芯片缓存为 1000 倍，缓存带宽为 12733 倍，Fabric 结构带宽则为 45833 倍。

　　这样级别的性能怪兽其主要目的，就是为了 AI 的数据处理和训练。其一代芯片 WSE，已经有多个重量级用户在使用，比如美国阿贡国家实验室、劳伦斯利弗莫尔国家实验室、匹兹堡超级计算中心、爱丁堡大学的超级计算中心、葛兰素史克、东京电子器件等。

　　全球制药巨头葛兰素史克的高级副总裁 Kim Branson 称赞到，WSE 的超强性能将训练时间减少到之前的1/80。而在美国最大的科学与工程研究室阿贡国家实验室，WSE 芯片被用于癌症研究，将癌症模型的实验周转时间减少到1/300。

　　所以不难推断出，“AI Day”邀请函上面放出的这张图，应该就是马斯克所谓的 Dojo 超级计算机的自研芯片。并且颇有意思的是，发布会的时间是 2021 年 8 月 19 日，而就在刚好一年前的 2020 年 8 月 19 日，马斯克发了一条 Twitter 说：“Dojo V1.0 还未完成，估计还需要一年的时间。不仅仅是芯片本身的研发难度，能效和冷却问题也非常的难。“

　　之所以说冷却问题难，是因为根据标准晶圆一块是 300mm 来看，那么特斯拉这块 Dojo 芯片设计单个芯片应该与 RTX 3090 差不多，至少每个芯片有 280 亿-320 亿个左右的晶体管，单个芯片功耗可达 250-300w 左右，整体功耗约在 6250w-7500w 左右；并且台积电也曾说 InFo-SoW 设计的最高功耗约为 7000w，同样印证了这一点。

　　几个月后，他又补充道：“Dojo 采用我们自研的芯片和为神经网络训练优化的计算架构，而非 GPU 集群。尽管可能是不准确的，但是我认为 Dojo 将会是世界上最棒的超算。”并且，马斯克在 2021 年 Q1 财报时也曾说：Dojo 是一台为神经网络训练优化的超级计算机。我们认为以视频数据处理速度而言，Dojo 将会是全世界效率最高的。“

　　其实马斯克早在 2019 年“Autonomous Day”就提到过 Dojo，称 Dojo 是能够利用海量的视频（级别）数据，做“无人监管”的标注和训练的超级计算机。

　　并且如果认真了解过 2019 年“Autonomous Day”发布会，就会发现，特斯拉推出 Dojo 超算以及自研芯片，是必然且在规划中的事，是特斯拉不得不去做的事。

　　换句话说，不是特斯拉想要成为人工智能巨头，而是被逼无奈只能如此。

　　为什么要做 Dojo？

　　其实这个问题马斯克曾在 Twitter 中回复过，大致意思为：“只有解决了真实世界的 AI 问题，才能解决自动驾驶问题……除非拥有很强的 AI 能力以及超强算力，否则根本没办法……自动驾驶行业大家都很清楚，无数的边缘场景只能通过真实世界的视觉 AI 来解决，因为整个世界的道路就是按照人类的认知来建立的……一旦拥有了解决上述问题的 AI 芯片，其他的就只能算是锦上添花。”

　　其实马斯克已经讲的很清楚了，笔者来稍微补充一些知识便于理解。

　　目前自动驾驶需要解决的难题，其实最核心和最困难的就是“感知”，换句话说系统对周围驾驶环境的感知能力越强，其自动驾驶的综合能力就越强；也就是从这里，行业里分成了两大流派，一个是以特斯拉和 Mobileye（同时也有 Lidar 方案）为首的纯视觉方案；另外是其他所有相关公司，想尽可能加入更多的传感器融合方案。

　　这里暂且不去讨论究竟哪条路径是正确的，因为很有可能未来实现殊同同归的结果。

　　但是，无论是哪条路径，都需要对海量的数据进行深度学习，也就是对神经网络的训练，才有可能实现所谓完全自动驾驶，而且这是唯一途径。

　　原因很简单，自动驾驶的问题，可以理解为处理可能遇到的各种驾驶场景以及做出的操作，那么这个基本是“无限”的；如果有有限的编程方式，那么永远无法解决所有可能遇到的问题，或者说以人类的能力，根本无法覆盖那么多种变化的情况。

　　早期的各种自动驾驶系统，由于没有别的途径，只能用这样的“死板”方式去研发软件，所以其能力非常有限，只能应付相对稳定和条件限制较多的场景。

　　而如果想要实现识别各类型的场景，那么就需要这个“软件”不断自我适应和“进化”，这就是利用神经网络进行深度学习的原因了。

　　神经网络可以简单理解为通过“仿生学”模拟人类大脑皮层的神经元“沟通学习”的方式进行处理数据，用来实现“类人”的学习东西的方式。然而，概念很美好，现实很残酷。

　　1943 年 Warren McCulloch 和 Walter Pitts 曾写过论文讲述人工神经网络该如何工作，并且利用电路造了一个简单的模型。后来经过诸多人的努力和研究发展，直到 1998 年，斯坦福大学的 Bernard Widrow 和 Marcian Hoff 才打造出了第一套用于解决实际问题的人工神经网络。

　　1956 年，达特茅斯夏季会议上各路大牛提出了 AI 定义，大大推动了 AI 和人工神经网络的发展，也被广泛认为是 AI 元年。当时人们信心满满，认为不用 20 年就能打造出跟人脑差不多一样的 AI 系统。结果在不断研究中发现，深度神经网络的算法太过复杂，从而无从下手。于是放弃了当初“大而全”的目标形式，转为以执行单一目标为方向。

　　这其中除了因为对人类大脑的认识非常肤浅（到现在也没有进步多少），以及人工神经网络架构的局限和软件算法的局限之外，更多的就是算力问题，也就是受到半导体行业发展的限制。

　　李开复博士在做他的语音识别功能博士论文时，哪怕在当时他所采用语音数据库算非常大的，其实也不过仅有 100MB，却花费了他导师近 10 万美刀，在 1988 年相当于两套房子的价格。而如今动辄几个 PB 的数据量，算力成为了限制很多 AI 发展的瓶颈。

　　补充一个知识：不同的处理器芯片所具备的能力各不相同。例如 CPU 更多的通用计算，可以理解为总指挥，负责逻辑上更线性的计算和判断；而 GPU 则是专职于图像处理的芯片，能够同时吞吐较大的数据量和进行矩阵计算，加之已经是成熟的量产产品，所以被大量应用于 AI 学习。

　　而 NPU（Neural Processing Unit，神经网络处理器）则是从设计层面就专职为神经网络学习优化的，像 Google 的 TPU 和特斯拉的 FSD 芯片都属于 NPU 序列，这类芯片扔掉了类似 GPU 中不需要的功能，仅为神经网络所需要的数据处理形式服务，其速度和能效要高很多。

　　但是，这里还需要区分 ASIC（Application Specific Integrated Circuit，专用集成电路）芯片和 FPGA（Field Programmable Gate Array，可编程逻辑门阵列）芯片，其中 ASIC 芯片就是生产后，其运行逻辑和功能就固定了，不能修改，为某项任务（软件）而生，能效极高；而 FPGA 则是可以通过软件改变其运行逻辑，为半定制的芯片，可以通过软件对其进行修改，适合进行训练和优化所用，能效相比 ASIC 芯片低一些。像 TPU 和 FSD 都属于 ASIC 芯片，而特斯拉此次发布的 Dojo 芯片就属于 FPGA 序列。

　　回过头来，市场上既没有符合需求的车载芯片可用，也没有符合需求的超算来更好的利用这些数据，特斯拉想要实现这一切，在当时只有自己去做软件和硬件，当年特斯拉在 2016 年立项做 FSD 芯片时，Google 的专属 AI 芯片 TPU 才刚刚问世，而车载的 AI 芯片几乎没有能用的。

　　所以，当年很可能 FSD 和 Dojo 的立项时间不会差太远，只是由于考虑到能耗和需求问题，Dojo 等到 7nm 的技术相对成熟后，才开始逐步推进。

　　从另一个纬度上去理解 Dojo 的必然性，是从神经网络学习的计算量级上去理解。在 2019 年“Autonomous Day”发布会上，特斯拉其实已经明示了会去掉雷达，走向纯视觉，且是视频级别的数据进行直接处理。

　　举个简单的例子，一张 1080p 的图像，以最简单的神经网络结构，如果不利用激活函数（tanh、ReLU）进行数据“优化”，其运算量大概需要 4 万多亿次；即便采用激活函数优化的卷积神经网络处理，其运算量也将达到 1.3 亿多次；而如果以视频形式处理，一秒按 24 帧计算，也有 24 张图像，综合算下来其运算量是惊人的。

　　值得注意的是，自动驾驶收集的数据中 95% 左右都是无效数据，也就是对神经网络训练压根没用，简单理解来说就是你每天做几乎相同的卷子，是得不到任何提升的。所以即便特斯拉的车辆仅在特定触发条件下才会收集部分数据，但得到的数据量依然非常庞大，需要 Dojo 这样为特斯拉自身软件优化过的定制超算，才能大大提高效率。

　　此外，前文提到过“无监督训练”也是 Dojo 的另一个核心目的，用于大幅度提高训练效率。

　　在神经网络训练中，其实海量的研究人员都是“调参侠”，简单理解也就是通过不断调“权重”来让神经网络判断越来越准确，或者是通过人工标注各种“正确答案”，让其学习。这就会导致“人”成为了效率的短板，从而致使整个过程的训练速度大幅降低。而如果实现“无监督训练”，也就是系统自己通过海量数据和以前“学习”的结果进行自动标注和调整，那么其效率将会是量子级别的提升。

　　举个简单的例子，Google 的 Alpha Go 击败世界围棋大师相信很多人都知道，也是一个人工智能在特定领域击败人类的标志事件。作为对比，Alpha Go 经过人工参与调整和标注的训练结果，经历了几年时间击败了全球高手。而作为无监督训练的范例 Alpha Zero，仅用三天时间自己与自己对弈，就击败了 Alpha Go Lee，在 21 天打到了 Alpha Master 的水平，并在 40 天超越了所有的旧版本。

　　总结起来，如果特斯拉完成了 Dojo 的打造，那么就能够以惊人的效率用海量的数据进行训练，解决各种“边缘场景”的问题，加快自动驾驶系统的成熟和完善；更关键的是，特斯拉对其软硬件的垂直整合度非常高，不仅不受制于别人，而且能够以此作为服务，给外界提供深度学习的训练业务。

　　马斯克曾表示，一旦相对完善了 Dojo，将会开放 Dojo 作为服务给外界提供训练业务，并且 Dojo 能够承接几乎所有的机器学习任务。

　　这也是为什么马斯克敢说，未来特斯拉将会是最大的几家人工智能公司之一。

　　会有 One More Thing 吗？

　　此次特斯拉的“AI Day”，不出意料的话会把 Dojo 芯片作为最重点的内容进行软硬件的介绍；当然也会覆盖 FSD Beta 相关的进展介绍，但就目前的信息来看，还极有可能会推出新的基于 7nm 技术的 HW4.0 硬件。

　　毕竟在 2019 年“Autonomous Day”时，马斯克就说过 HW4.0 的研发已经进行了一半，所以此次发布会，也很有可能借此机会发布新的车载芯片硬件。

　　总之，此次特斯拉“AI Day”发布会，很有可能再次在汽车行业甚至是 AI 领域掀起一波浪潮，至于到底会不会有更多的惊喜，那就到等那天才能揭晓了。