周四，英國的明星 AI 芯片公司 Graphcore 發(fā)布了一款 IPU 產(chǎn)品 Bow，采用臺積電 3D 封裝技術(shù)，性能提升 40% ，首次突破 7 納米工藝極限。

　　全球首顆 3D 封裝芯片誕生!

　　周四，總部位于英國的 AI 芯片公司 Graphcore 發(fā)布了一款 IPU 產(chǎn)品 Bow，采用的是臺積電 7 納米的 3D 封裝技術(shù)。

　　據介紹，這款處理器將計算機訓練神經(jīng)網(wǎng)絡(luò )的速度提升 40%，同時(shí)能耗比提升了 16%。

　　600 億晶體管，首顆 3D 芯片誕生

　　能夠有如此大的提升，也是得益于臺積電的 3D WoW 硅晶圓堆疊技術(shù)，從而實(shí)現了性能和能耗比的全面提升。

　　正如剛剛所提到的，與 Graphcore 的上一代相比，Bow IPU 可以訓練關(guān)鍵的神經(jīng)網(wǎng)絡(luò )，速度約為 40%，同時(shí)，效率也提升了 16%。

　　同時(shí)，在臺積電技術(shù)加持下，Bow IPU 單個(gè)封裝中的晶體管數量也達到了前所未有的新高度，擁有超過(guò) 600 億個(gè)晶體管。

　　官方介紹稱(chēng)，Bow IPU 的變化是這顆芯片采用 3D 封裝，晶體管的規模有所增加，算力和吞吐量均得到提升，Bow 每秒可以執行 350 萬(wàn)億 flop 的混合精度 AI 運算，是上代的 1.4 倍，吞吐量從 47.5TB 提高到了 65TB。

　　Knowles 將其稱(chēng)為當今世界上性能最高的 AI 處理器，確實(shí)當之無(wú)愧。

　　Bow IPU 的誕生證明了芯片性能的提升并不一定要提升工藝，也可以升級封裝技術(shù)，向先進(jìn)封裝轉移。

　　Graphcore 首席技術(shù)官和聯(lián)合創(chuàng )始人 Simon Knowles 表示，「我們正在進(jìn)入一個(gè)先進(jìn)封裝的時(shí)代。在這個(gè)時(shí)代，多個(gè)硅芯片將被封裝在一起，以彌補在不斷放緩的摩爾定律 (Moore’s Law) 道路上取得的不斷進(jìn)步所帶來(lái)的性能優(yōu)勢?！?/p>

　　臺積電真 WoW!

　　2018 年 4 月，在美國加州圣克拉拉舉行了第二十四屆年度技術(shù)研討會(huì )。在這次會(huì )上，全球最大的半導體代工企業(yè)臺積電首次對外公布了名叫 SoIC(System on Integrated Chips)的芯片 3D 封裝技術(shù)。

　　這是一種整合芯片的封裝技術(shù)，由臺積電和谷歌等公司共同測試開(kāi)發(fā)。而谷歌也將成為臺積電 3D 封裝芯片的第一批客戶(hù)。

　　什么是封裝技術(shù)呢?

　　封裝技術(shù)的主要功能是完成電源分配、信號分配、散熱和保護等任務(wù)。而隨著(zhù)芯片技術(shù)的不斷發(fā)展，推動(dòng)著(zhù)封裝技術(shù)也在不斷革新。

　　而 3D 封裝技術(shù)，簡(jiǎn)單來(lái)說(shuō)，就是指在不改變封裝體尺寸的前提下，在同一個(gè)封裝體內，在垂直方向上疊放兩個(gè)或者更多芯片的技術(shù)。

　　相較于傳統的封裝技術(shù)，3D 封裝縮小了尺寸、減輕了質(zhì)量，還能以更快的速度運轉。

　　臺積電在年度技術(shù)研討會(huì )上表示，SoIC 是一種創(chuàng )新的多芯片堆疊技術(shù)，是一種晶圓對晶圓的鍵合技術(shù)。SoIC 的實(shí)現，是基于臺積電已有的晶圓基底芯片(CoWoS)封裝技術(shù)和多晶圓堆疊(WoW)封裝技術(shù)所開(kāi)發(fā)的新一代封裝技術(shù)。

　　晶圓基底芯片(CoWoS)，全稱(chēng)叫 Chip-on-Wafer-on-Substrate，是一種將芯片、基底都封裝在一起的技術(shù)。封裝在晶圓層級上進(jìn)行。這項技術(shù)隸屬于 2.5D 封裝技術(shù)。

 

　　而多晶圓堆疊技術(shù)，或者堆疊晶圓(WoW，Wafer on Wafer)，簡(jiǎn)單來(lái)說(shuō)，就是取代此前在晶圓上水平放置工作單元的技術(shù)，改為垂直放置兩個(gè)或以上的工作單元。這種做法可以使得在相同的面積下，有更多的工作單元被放到晶圓之中。

　　這樣做還有另一個(gè)好處：每個(gè)晶片可以以極高的速度和最小的延遲相互通信。甚至，制造商還可以用多晶圓堆疊的方式將兩個(gè) GPU 放在一張卡上。

　　但也存在問(wèn)題。晶圓被粘合在一起后，一榮俱榮、一損俱損。哪怕只有一個(gè)壞了，另一個(gè)沒(méi)壞，也只能把兩個(gè)都丟棄掉。因此，晶圓量產(chǎn)或成最大問(wèn)題。

　　而為了降低成本，臺積電只在具有高成品率的生產(chǎn)節點(diǎn)使用這項技術(shù)，比如，臺積電的 16nm 工藝。

　　相較于 CoWoS 和 WoW，SoIC 更倚重 CoW(Chip on Wafer)設計。對于芯片業(yè)者來(lái)說(shuō)，采用 CoW 設計的芯片，生產(chǎn)上會(huì )更加成熟，良率也可以提升。

　　值得一提的是，SoIC 能對小于等于 10nm 的制作過(guò)程進(jìn)行晶圓級的鍵合。鍵合技術(shù)無(wú)疑會(huì )大大提高臺積電在這方面的競爭力。

　　練手怎么樣?

　　Bow 是 IPU-POD 人工智能計算系統的核心，稱(chēng)為 BOW PODs。

　　它可以從 16 個(gè) BOW 芯片擴展到 1024 個(gè)，提供高達 358.4 千億次的計算機運算速度，同時(shí)配合多達 64 個(gè) CPU 處理器。

　　新的 Bow-2000 IPU Machine 是 Bow Pod 系統的構建塊。

　　它是基于與第二代 IPU-M2000 machine 同樣魯棒的系統架構，但是配備了四個(gè)強大的 Bow IPU 處理器，可提供 1.4 PetaFLOPS 的人工智能計算。

　　這么厲害的芯片，還不趕快拿來(lái)練練手?

　　近年來(lái)，語(yǔ)言模型的參數量不斷刷新。從驚艷四座的谷歌 BERT，到 OpenAI 的 GPT-3，再到微軟英偉達推出的威震天等等。

　　都對訓練時(shí)所需的計算性能提出了更大要求。

　　根據 Graphcore 公布的初始數據可以看出，這些模型在最新的硬件形態(tài)上都有很大的性能提升。

　　另外，在圖像方面，無(wú)論是典型的 CNN 網(wǎng)絡(luò )，還是近期比較熱門(mén)的 Vision Transformer 網(wǎng)絡(luò )，以及深層次的文本到圖片的網(wǎng)絡(luò )。

　　與上一代產(chǎn)品相比，Bow IPU 都有 30% 到 40% 的性能提升。

　　對于最先進(jìn)的計算機視覺(jué)模型 EfficientNet，Bow Pod16 能夠提供可比 Nvidia DGX A100 系統 5 倍以上的性能，而價(jià)格只有它的一半，總體擁有成本優(yōu)勢提升高達 10 倍。

　　下一步，超級智能 AI 計算機

　　Graphcore 今天還宣布了一件重大的事，正在開(kāi)發(fā)一款超級智能 AI 計算機，要在 2024 年推出，售價(jià) 1.2 億美元。

　　我們知道，大腦是一個(gè)極其復雜的計算設備，在一個(gè)生物神經(jīng)網(wǎng)絡(luò )系統中擁有大約 1000 億個(gè)神經(jīng)元和超過(guò) 100 萬(wàn)億個(gè)參數，它提供的計算水平是任何芯片計算機都無(wú)法比擬的。

　　而這款超級智能 AI 計算機 Good 將超越人類(lèi)大腦的參數能力。

　　Good 計算機名字何來(lái)?是以計算機科學(xué)先驅 i.j. Jack Good 的名字命名。

　　Jack Good 在 1965 年的論文《關(guān)于第一臺超級智能機器的推測》中就描述了一種超越我們大腦能力的機器。

　　未來(lái)，它可以進(jìn)行超過(guò) 10 Exa-Flops 的人工智能浮點(diǎn)計算，最高可達 4PB 的存儲，帶寬超過(guò) 10PB/秒。

　　Graphcore 的首席執行官 Graphcore 表示，「當我們創(chuàng )建 Graphcore 的時(shí)候，我們腦海中一直有一個(gè)想法，那就是建造一臺超智能計算機，它將超越人腦的能力，這就是我們現在正在努力做的事情?！?br /> 　?。?a href="http://www.xinangguandao.cn/website/">邯鄲網(wǎng)站建設）