2025年11月2日 星期日
[閒聊] AI 伺服器
2025.10.14 (Tue)
技鋼科技的人來給的公司演講 (技嘉子公司)
下面是我聽的時候做的筆記
技鋼公司現在碰到的問題是電不夠
因為 AI Server 建置起來需要驗證
但電不夠, 連驗證都沒辦法做, 什麼事都不能做
提到 Memory 的需求會越來越大
但現在因為 IO 也越來越快
有在討論使用 IO Storage 來做 Memory
一個 POD 有 72 顆 GPU
一顆 GPU 有 20000 個 core
要如何將 72*20000 個 GPU core 串起來
所以需要非常 Low latency 的傳輸
才能產生巨大的運算能量
AI ASIC 的限制很明確
所以 Google 的 AI ASIC 無法給 Alibaba 使用
GPU 比較 General, 有整個生態系, 像是軟體與 Compiler
AI Server 的散熱問題
現在 2025 GPU 的耗能約 600W
插卡的 GPU 散熱已經是問題
預計明年插卡 GPU 會有水冷技術
當水冷技術成熟後, GPU 耗能會超過 600W
目前 GPU 一個 IC 一個 die
明年會一個 IC 兩個 die
AI Server 電的消耗每年會大幅提昇
一櫃 POD 耗電上看 1200KW
OCP Migration
ORV1 12V DC
ORV2 12V DC or 48VDC
ORV3 48V DC
2025年11月1日 星期六
[閒聊] 減肥計畫實行中
| 2025.11.01 | -- | 照顧兒子 |
|---|---|---|
| 2025.10.25 | -- | 照顧兒子 |
| 2025.10.18 | +1.0 | 94.3 |
| 2025.10.11 | -- | 照顧兒子 |
| 2025.10.04 | +2.75 | 93.3 |
| 2025.09.27 | -- | 照顧兒子 |
| 2025.09.20 | -- | 照顧兒子 |
| 2025.09.13 | -- | 照顧兒子 |
| 2025.09.06 | -- | 照顧兒子 |
| 2025.08.30 | -- | 照顧兒子 |
| 2025.08.23 | -- | 照顧兒子 |
| 2025.08.16 | -- | 照顧兒子 |
| 2025.08.09 | -- | 照顧兒子 |
| 2025.08.02 | -- | 照顧兒子 |
| 2025.07.26 | -- | 照顧兒子 |
| 2025.07.19 | -- | 照顧兒子 |
| 2025.07.12 | -- | 照顧兒子 |
| 2025.07.05 | -- | 照顧兒子 |
| 2025.06.28 | -- | 照顧兒子 |
| 2025.06.21 | -0.05 | 90.55 |
| 2025.06.14 | -0.3 | 90.6 |
| 2025.06.07 | -- | 照顧兒子 |
| 2025.05.31 | -- | 照顧兒子 |
| 2025.05.24 | -- | 照顧兒子 |
| 2025.05.17 | -- | 兒子出生 |
| 2025.05.10 | +1.05 | 90.9 |
| 2025.05.03 | -- | 兒子出生 |
| 2025.04.26 | +0.85 | 89.85 |
| 2025.04.19 | -- | 兒子出生 |
| 2025.04.12 | -- | 兒子出生 |
| 2025.04.05 | -- | 兒子出生 |
| 2025.03.29 | -0.2 | 89.0 |
| 2025.03.22 | +0.4 | 89.2 |
| 2025.03.15 | -0.4 | 88.8 |
| 2025.03.08 | +0.3 | 89.2 |
| 2025.03.01 | -- | 工作過忙 |
| 2025.02.22 | -0.4 | 88.9 |
| 2025.02.15 | +0.65 | 89.3 |
| 2025.02.08 | +0.8 | 88.65 |
| 2025.02.01 | -- | 農曆春節 |
| 2025.01.25 | +1.0 | 87.85 |
| 2025.01.18 | +0.55 | 86.85 |
| 2025.01.11 | +0.2 | 86.3 |
| 2025.01.04 | -- | 感冒發燒 |
| 2024.12.28 | -0.5 | 86.1 |
| 2024.12.21 | -- | 事務繁多 |
| 2024.12.14 | -- | 事務繁多 |
| 2024.12.07 | -- | 事務繁多 |
| 2024.11.30 | +0.8 | 86.6 |
| 2024.11.23 | -0.4 | 85.8 |
| 2024.11.16 | -0.3 | 86.2 |
| 2024.11.09 | -- | 老爸喪禮 |
| 2024.11.02 | -- | 老爸喪禮 |
| 2024.10.26 | +0.9 | 86.5 |
| 2024.10.19 | -0.7 | 85.6 |
| 2024.10.12 | -- | 工作過忙 |
| 2024.10.05 | +1.3 | 86.3 |
| 2024.09.28 | -- | 工作過忙 |
| 2024.09.21 | -0.2 | 85.0 |
| 2024.09.14 | -0.8 | 85.2 |
| 2024.09.07 | +1.0 | 86.0 |
| 2024.08.31 | -0.3 | 85.0 |
| 2024.08.24 | +0.1 | 85.3 |
| 2024.08.17 | -0.5 | 85.2 |
| 2024.08.10 | -0.3 | 85.7 |
| 2024.08.03 | -0.6 | 86.0 |
| 2024.07.27 | -- | 工作過忙 |
| 2024.07.20 | +0.4 | 86.6 |
| 2024.07.13 | -- | 工作過忙 |
| 2024.07.06 | +0.1 | 86.2 |
| 2024.06.29 | -- | 蜜月旅行 |
| 2024.06.22 | -- | 蜜月旅行 |
| 2024.06.15 | +0.7 | 86.1 |
| 2024.06.08 | -0.6 | 85.4 |
| 2024.06.01 | +0.35 | 86.0 |
| 2024.05.25 | 0 | 85.65 |
| 2024.05.18 | -- | 籌備婚禮 |
| 2024.05.11 | +0.05 | 85.65 |
| 2024.05.04 | -1.2 | 85.6 |
| 2024.04.27 | +0.5 | 86.8 |
| 2024.04.20 | -0.3 | 86.3 |
| 2024.04.13 | -0.45 | 86.6 |
| 2024.04.06 | +0.3 | 87.05 |
| 2024.03.30 | +0.15 | 86.75 |
| 2024.03.23 | -0.65 | 86.6 |
| 2024.03.16 | -1.075 | 87.25 |
| 2024.03.09 | +0.125 | 88.325 |
| 2024.03.02 | -1.1 | 88.2 |
| 2024.02.24 | -1.1 | 89.3 |
| 2024.02.17 | +1.1 | 90.4 |
| 2024.02.10 | -- | 農曆春節 |
| 2024.02.03 | -- | 腳痛休息 |
| 2024.01.27 | +0.267 | 89.3 |
| 2024.01.20 | +0.3 | 89.033 |
| 2024.01.13 | +0.283 | 88.733 |
| 2024.01.06 | +0.95 | 88.45 |
| 2023.12.30 | -0.367 | 87.5 |
| 2023.12.23 | +0.367 | 87.867 |
| 2023.12.16 | +0.4 | 87.5 |
| 2023.12.09 | -0.65 | 87.1 |
| 2023.12.02 | +0.35 | 87.75 |
| 2023.11.25 | 0 | 87.4 |
| 2023.11.18 | +0.3 | 87.4 |
| 2023.11.11 | +0.2 | 87.1 |
| 2023.11.04 | -0.567 | 86.9 |
| 2023.10.28 | +0.067 | 87.467 |
| 2023.10.21 | +0.1 | 87.4 |
| 2023.10.14 | +0.1 | 87.3 |
| 2023.10.07 | -0.4 | 87.2 |
| 2023.09.30 | +0.2 | 87.6 |
| 2023.09.23 | +0.1 | 87.4 |
| 2023.09.16 | -0.15 | 87.3 |
| 2023.09.09 | +0.25 | 87.45 |
| 2023.09.02 | +0.8 | 87.2 |
| 2023.08.26 | +0.167 | 86.4 |
| 2023.08.19 | -0.217 | 86.233 |
| 2023.08.12 | +0.5 | 86.45 |
| 2023.08.05 | -0.2 | 85.95 |
| 2023.07.29 | +0.35 | 86.15 |
| 2023.07.22 | -0.25 | 85.8 |
| 2023.07.15 | -0.15 | 86.05 |
| 2023.07.08 | -0.25 | 86.2 |
| 2023.07.01 | +0.35 | 86.45 |
| 2023.06.24 | 0 | 86.1 |
| 2023.06.17 | +0.2 | 86.1 |
| 2023.06.10 | +0.55 | 85.9 |
| 2023.06.03 | +0.25 | 85.35 |
| 2023.05.27 | -- | 新冠確診 |
| 2023.05.20 | -- | 新冠確診 |
| 2023.05.13 | -0.25 | 85.1 |
| 2023.05.06 | -0.15 | 85.35 |
| 2023.04.29 | +0.25 | 85.5 |
| 2023.04.22 | -0.4 | 85.25 |
| 2023.04.15 | +0.55 | 85.65 |
| 2023.04.08 | 0 | 85.1 |
| 2023.04.01 | +0.25 | 85.1 |
| 2023.03.25 | -0.25 | 84.85 |
| 2023.03.18 | -0.4 | 85.1 |
| 2023.03.11 | -- | 未量體重 |
| 2023.03.04 | +0.8 | 85.5 |
| 2023.02.25 | -0.067 | 84.7 |
| 2023.02.18 | +0.117 | 84.767 |
| 2023.02.11 | -0.05 | 84.65 |
| 2023.02.04 | -0.55 | 84.7 |
| 2023.01.28 | -- | 農曆春節 |
| 2023.01.21 | +0.9 | 85.25 |
| 2023.01.14 | -0.25 | 84.35 |
| 2023.01.07 | +0.15 | 84.6 |
| 2022.12.31 | -0.583 | 84.45 |
| 2022.12.24 | +0.333 | 85.033 |
| 2022.12.17 | -0.967 | 84.7 |
| 2022.12.10 | -0.566 | 85.667 |
| 2022.12.03 | -0.034 | 86.233 |
| 2022.11.26 | +0.267 | 86.267 |
| 2022.11.19 | +0.55 | 86.0 |
| 2022.11.12 | +0.4 | 85.45 |
| 2022.11.05 | +0.55 | 85.05 |
| 2022.10.29 | -- | 防疫關閉 |
訂閱：
意見 (Atom)