最近幾年來，大量資金投入到數據中心領域新型AI處理器的研發中。
但在投資熱潮的背后，我們也要注意問題畢竟這個領域需要處理的問題是具體的，結果是不可預測的，而且這個領域的競爭對手財力雄厚，能夠提供用戶粘性強的產品
對于新的AI芯片設計公司來說，最大的問題是來自終端的數據不足。
你需要多少個數據中心才能盈利。
通常，芯片設計公司在設計新的AI處理器時，首先會發現一個基本問題:——如何定義產品的靈活性它是為單一任務設計的嗎還是支持更多工作負載
這兩個問題之間有一系列的解決方案，但與過去的很多解決方案相比，更難找到適合AI處理器的解決方案，尤其是對于數據中心的工作負載。
難度更大，因為需要平衡的因素很多需要在一定的成本和時間內設計制造芯片，并考慮成本和回報Synopsys公司人工智能產品和研發總監斯泰利奧斯迪亞曼提迪斯解釋道這些限制縮小了人工智能處理器的潛在市場
我們什么時候可以在設計和制造定制芯片時賺錢Synopsys驗證組工程副總裁Susheel Tadikonda說
如果我們想為數據中心提供定制芯片，我們需要多少個數據中心才能盈利高價出售芯片也許是可能的，但光靠這一點是不夠的如果你為消費電子設備設計和制造芯片，這個領域有10億臺設備，這是AISC芯片可以賺取更多利潤的市場之一當然，設備越大越好
可是，即使我們最終發現有多少數據中心可以盈利，我們也無法確定設計計劃。
西門子EDA戰略與業務發展高級經理Anoop Saha表示:芯片的定制化程度越來越高，因此可以為非常具體的算法創建芯片，從而提供更高的能效和性能但這將犧牲部分市場，縮短芯片壽命如果兩年后出現新的算法，為舊算法定制的芯片的價值會保持不變嗎很多事情都會互相牽制
一些邊緣算法確實已經穩定下來了這是因為經過多年的研究，業界已經找到了一些針對多場景的最佳算法，比如我們已經看到的CNN，以及針對喚醒詞檢測，手寫識別等具體應用找到的算法最佳算法阿諾普薩哈補充道
芯片定制的優勢
定制芯片，核心是了解——芯片定制給很多玩家帶來了什么樣的工作量。
Xilinx人工智能與軟件產品市場總監Nick Ni表示:大多數大型企業都成立了自己的芯片部門，并為數據中心的一些高工作負載打造芯片例如，如果谷歌認為‘推薦’的神經網絡是其數據中心最高的工作負載之一，那么它就有必要為此目的制造一種特殊的芯片如果排名第二的工作負載是語音識別，排名第三的工作負載是YouTube的視頻轉碼，那么為其構建一個專門的芯片是有意義的
事實上，這里有很多機會，但谷歌只是一個孤立的案例幾年前，谷歌發表了一篇廣受好評的論文，指出——數據中心的工作負載類型非常豐富，但沒有工作負載占比超過10%，這意味著仍然存在大量的小工作負載需要優化
Synopsys的迪亞曼提迪斯說:大多數定制都是面向推理的，當這些定制芯片轉向訓練時，它們需要浮點支持。
但如果需要的是一個100%應用于推理的解，它的固定點數可能是8，甚至更低如果模型是固定的，基于推理設備定制有意義嗎例如，針對語音，視頻和其他重量級應用的定制解決方案Hyperscaler實際上是在投資用于推理的芯片解決方案，這些解決方案適合他們自己在AI領域定制的高級模型和解決方案但是，如果需要處理多個應用程序，則需要更多靈活性和可定制性
當然，這對谷歌來說是一個良性循環Synopsys的Tadikonda表示:TPU旨在滿足谷歌數據中心的特定工作負載谷歌開始建設TPU，是因為它意識到需要建設大量的數據中心來處理如此龐大而復雜的數據和計算
第一代TPU很大，消耗了大量的電力，但通過不斷學習已經得到了改進這是這些TPU的作品，也就是谷歌
不是每個公司都可以使用谷歌的反饋回路，但其他公司確實有其他選擇西門子的Saha表示:我們發現，其中一個關鍵點就是要重視并重視盡早選擇合適的架構
也不是基于過去的經驗，憑直覺做出的決定，因為現在還有太多的未知數業界正在做的，是在設計周期早期，依靠數據驅動做出決定，這樣我們能夠在發現某些東西不起作用時迅速做出改變
這些決定是宏觀的，也可以是微觀的比如說，你的存儲元素與計算元素差距有多大Saha 問道:再比如，多久執行一次內存讀取，這是一個重要的問題，因為讀取和寫入將直接影響整體的能效業界正在尋找新的架構，沒有人知道什么樣的架構才真正起作用不過可以確定的是，要有一定的可塑性，且在決定架構之前，能夠確保有足夠的市場數據來支撐
硬件和算法迭代快
影響架構選擇的另一個因素是硬件和算法的發展速度這決定了數據中心所有者從他們購買的硬件中賺錢的時間，也決定了他們愿意支付的價格，同時限定了芯片開發的總成本
那么，數據中心芯片的使用壽命是多久。
通常情況下，芯片或電路板的壽命為三到四年，Xilinx 的 Ni 說一些較為激進的數據中心可能會在這一時間段內升級，還有一些則會持續使用更長時間在人工智能領域，如果我們關注 Google TPU 的發布新聞，就能發現在過去六年左右的時間里，Google 發行了四個版本的 TPU，也就是說，幾乎每隔一兩年 Google 就會更換一次內部硬件，針對 AI 等快速變化的工作負載進行優化
換個角度來看，AI 芯片公司可能每 18 個月就有一次進入數據中心的機會要攪動這個市場并不容易，Saha 說有兩個重要因素 —— 更換現有數據中心芯片的頻率，以及添加新東西的頻率我看見幾乎所有的數據中心都在嘗試更新的東西，幾乎每個構建數據中心芯片的公司都在同一些終端客戶合作
市場多久更換一次正在工作的芯片只要芯片在工作，公司就會盡量延長芯片的使用壽命一旦芯片進入數據中心，持續的時間會很長且難以更換這就是為什么我們可以看到大型數據中心芯片領域有大量投資
一部分投資者認為這是贏家通吃的市場，最終會有一至三個獲勝者獲得最大的市場份額一旦市場被這些公司占領，這些公司的地位就很難被取代
設計面向 18 個月后的芯片
如果從今天開始設計芯片，那么這顆芯片必須滿足 18 個月后需要滿足的條件。
當我們決定對芯片進行模塊化時，我們還必須針對特定精度進行優化，Xilinx 的 Ni 說例如，當我們選擇在 8 位數精度上做文章時，我們不得不立下賭約，當這款產品成為主流時，8 位仍然是主流
我們還要確保制造出的產品可以處理混合精度網絡，其中一半是 8 位，四分之一是 4 位，另外四分之一是 1 位為此，我們在 AI 引擎中執行 8 位，其運行基本性能非常快，然后可以在 FPGA 架構中實現 4 位和 1 位 MAC 單元
設計時間和算法進化的時間要保持一致在 18 個月內，應用程序很可能會變得相當不同，Tadikonda 警告說我認為今天的數據科學家不會向任何人保證他們將在未來 18 個月內運行與今天相同的模型
還有其他一系列決策也需要作出。
量化可能是許多能效指標中的最大因素，Saha 說量化將對推理產生更大的影響，推理分散在數據中心和邊緣之間，但在‘學習’端也需要一些量化當我們量化成較低的位數時，就意味著我們正在權衡能效而不是準確性訓練可能需要浮點數，不過有一些新型浮點數出現谷歌在設計下一代 TPU 時，他們創造了 Bfloat16，這是用于訓練的大腦浮點數它與 IEEE 浮點數非常不同，它在精度上具有浮點數的優勢，但也具有顯著的能效優勢
不過這將讓經濟因素陷入困境。
對于如此規模的 ASIC，需要在快速變化節奏里付出巨大的努力，只有少數公司能夠保證其經濟性，Tadikonda 說因為有關這些數據的用例正在增加，所以算法正在發生變化我們今天認為有效的算法明天不一定有效，想要跟上節奏并處于最前沿，就必須不斷創新或重新研發 ASIC谷歌占據優勢，因為它擁有足夠多的數據以至于能快速攪動局面，它從自己的 TPU 中學到了很多東西，知道為了保證程序運行地更好需要作出哪些改變
如果我是第三方芯片開發商，我沒有這些數據，就只能依靠我的客戶來提供，因此周轉周期會更長谷歌的情況非常特殊
數據的缺乏也給驗證帶來壓力浮點硬件的驗證對滿足這些芯片的性能和功耗要求至關重要，OneSpin 市場營銷主管 Rob Van Blommestein 說
長期以來，浮點硬件設計的驗證一直被認為是一項重大挑戰FPU將浮點運算的數學復雜性與需要復雜控制路徑的各種特殊情況相結合我們需要一種正式的驗證解決方案，以驗證由硬件浮點單元 計算出的算術運算結果是否與 IEEE 754 標準規范準確匹配
結論
人們常說，數據是新的石油，這一比喻在人工智能領域得以明顯體現。
對于芯片架構師來說，這個比喻再恰切不過他們需要訪問數據來改進構建更好的產品，這也是數據中心處理器用戶黏性高的原因，架構師們一旦擁有數據中心處理器，就有機會獲得需要的數據
另一個唯一可行的辦法是加快設計速度來提升效率，推動產品成本的回收 —— 但具有諷刺意味的是，在試圖通過提升效率來解決問題的時候，AI 卻成為了唯一的阻礙者。
畢竟，AI 領域的算法進化速度和變數實在是太大了。
本文地址：http://www.dayishuiji.com/finance/8702.html - 轉載請保留原文鏈接。| 免責聲明：本文轉載上述內容出于傳遞更多信息之目的，不代表本網的觀點和立場，故本網對其真實性不負責，也不構成任何其他建議；本網站圖片，文字之類版權申明，因為網站可以由注冊用戶自行上傳圖片或文字，本網站無法鑒別所上傳圖片或文字的知識版權，如果侵犯，請及時通知我們，本網站將在第一時間及時刪除。 |
