表2：谷歌 TPU 與英特爾 Haswell E5－2699 v3、英偉達Tesla K80 的性能對比。E5 有 18 個核，K80 有 13 個 SMX 處理器。圖 10 已經測量了功率。低功率 TPU 比高功率 GPU 能夠更好地匹配機架（rack）級密度。每個 TPU 的 8 GiB DRAM 是權重內存（Weight Memory）。這裡沒有使用 GPU Boost 模式。SECDEC 和非 Boost 模式把 K80 帶寬從 240 降至 160。非 Boost 模式和單裸片 vs 雙裸片性能把 K80 峰值 TOPS 從 8．7 降至 2．8（＊TPU 壓模小於等於半個 Haswell 壓模大小）。
圖5：TPU （die） roofline。 其脊點位於所獲權重內存每字節運行 1350 次的地方，距離右邊還比較遠。
表格3：TPU 在神經網絡工作載荷中性能受到限制的因素，根據硬體性能計數器顯示的結果。1，4，5，6行，總共100％，以矩陣單元活動的測量結果為基礎。2，3行進一步分解為64K權重的部分，我們的計數器無法準確解釋矩陣單元何時會停頓在第6行中；7、8行展示了計數器結果，可能有兩個原因，包括RAW管道危害，PCIe輸入停止。9行（TOPS）是以產品代碼的測量結果為基礎的，其他列是以性能計數器的測量結果為基礎的，因此，他們並不是那麼完美保持一致。這裡並未包括頂部主伺服器。MLP以及LSTM內存帶寬有限，但是CNN不是。CNN1的測試結果會在文中加以分析。
圖 9：GPU 伺服器（藍條）對比 CPU、TPU 伺服器（紅條）對比 CPU、TPU 伺服器對比 GPU（橘黃）的相對性能表現／Watt（TDP）。TPU＇ 是改進版的 TPU（Sec．7）。綠條顯示了對比 CPU 伺服器的比例，淡紫色顯示了與 GPU 伺服器的關係。整體包括了主伺服器的能耗，但不包括增量（incremental）。GM 和 WM 分別是幾何學圖形與加權平均值。
圖10：CNN0 平臺的單位功耗對比，其中紅色和橙色線是 GPU 加 CPU 系統的功率。藍色是英特爾 E5－2699 v3 Haswell CPU 的功率，綠色是英偉達 Tesla K80 的功率，紫色為谷歌 TPU。每個伺服器通常有多個晶片組，以上所有數字都已被整除成單晶片功率。
圖11：加權平均 TPU 性能作為度量單元，從 0．25 倍擴展到了 4 倍：內存帶寬，時鐘頻率＋累加器，時鐘頻率，矩陣單元維度＋累加器，以及矩陣單元維度。加權均值使得我們很難看出單個 DNN 的貢獻，但是，MLP 以及 LSTM 提升了 3 倍到 4 倍的內存帶寬，但是，更高的時鐘頻率並沒帶來任何效果。對於 CNN 來說，結果反之亦然；4 倍的時鐘率，2 倍的效果。但是，更快的內存並沒帶來什麼好處。一個更大的矩陣乘法單元並不能對任何 DNN 有幫助。