✍️ Gate 廣場「創作者認證激勵計劃」進行中!
我們歡迎優質創作者積極創作,申請認證
贏取豪華代幣獎池、Gate 精美周邊、流量曝光等超過 $10,000+ 豐厚獎勵!
立即報名 👉 https://www.gate.com/questionnaire/7159
📕 認證申請步驟:
1️⃣ App 首頁底部進入【廣場】 → 點擊右上角頭像進入個人主頁
2️⃣ 點擊頭像右下角【申請認證】進入認證頁面,等待審核
讓優質內容被更多人看到,一起共建創作者社區!
活動詳情:https://www.gate.com/announcements/article/47889
如何理解:在 AI 大模型中,你付的 token 錢,其實就是租顯卡算力的費用?
簡單說,token 就是 AI 大模型的「最小口糧單位」。
就像我們小時候認字,先學單個字,後來直接記住常用詞組更高效一樣。
AI 其實不認識漢字或英文,它只認識數字。你輸入一句話,先被切成一個個 token,每個 token 對應一個數字編號,AI 真正處理的就是這一串數字。輸出時也反過來:先生成數字編號,再翻譯回文字給你看。
🔹那 AI 怎麼知道下一個詞大概率是什麼?
靠海量文本訓練,記住每個 token 後面接什麼的概率最高,這些概率全存在幾千億個參數裡,像是大模型的「知識手冊」。
生成回答時,AI 其實是「一個 token 一個 token」蹦出來的,每蹦一個,都要把整個手冊翻一遍,給字典裡所有可能的下一個詞打分,挑分數最高的輸出。
🔹所以這活兒特別吃計算量,GPU 的重要性
CPU 像一個聰明但單線程的教授,一頁頁翻書再快也有限,GPU 像幾千個小學生同時開工,把手冊拆成幾千份,大家並行算,瞬間就把上億參數掃完。
所以顯卡有兩個關鍵:核心越多、並行算力越強。現在全球瘋狂消耗 token,本質就是無數顯卡在後台瘋狂翻手冊、打分👇
所以說,你付的 token 錢,其實就是租顯卡算力的費用。
而顯卡跑起來要電、要存儲,所以業內一句話總結:
AI 短期缺算力,長期缺能源,永遠缺存儲。