光纖做AI“超大緩存”,從設想到落地難點在哪?
飛象原創(源初/文)近期,著名程序員、前ID Software創始人John Carmack發文提出了一個大膽的設想,利用光纖延遲線作為AI的高速緩存,從而解決如今人工智能計算領域的內存瓶頸問題。
光纖做AI“超大緩存”
Carmack思考使用一個長距離光纖回路作為某種二級緩存(L2 Cache),用于存儲AI模型權重,以實現近乎零延遲和巨大的帶寬。據他估算,目前單模光纖速度已達到256 Tb/s、傳輸距離超過200公里,也就意味著光纖線纜本身就包含著約32 GB的數據。
由于AI模型的權重在推理過程中可以順序訪問,Carmack認為可以將光纖回路作為數據緩存,以此保持AI加速器始終處于數據“喂飽”狀態。此觀點的邏輯在于把傳統RAM想象成SSD與處理器之間的緩沖器,通過光纖作為超大緩存的設想旨在改進甚至徹底取代它。
使用光纖線路的主要現實益處在于節能。維持DRAM運行需要消耗大量電力,而管理光信號的能耗極低。此外,光的傳播是可預測且易于處理的。Carmack指出:“光纖傳輸的發展軌跡可能優于DRAM。”
Carmack的思路原理類似20世紀中期的延遲線存儲技術,當時用水銀或聲音波來存儲數據。不過這種早期技術很難實際應用。甚至連圖靈都曾提出用“杜松子酒混合物”作為介質的荒誕想法來說明問題。
落地難點在哪?
作為業內著名程序員,John Carmack的設想很快引發了討論,然而就像很多設想一樣,最初都會面臨重重技術障礙,自然有著諸多在當前行業背景下的不可能,擺在從設想到落地的過程中。
部分人士認為,光纖“能做”和“能夠勝任”AI緩存是兩回事。光在光纖中傳播速度約為2×10⁸m/s,如果鋪設200 km光纖,單程延遲約1 ms,數據可以調制在光信號上,在光纖中“循環飛行”,只要不斷放大/再生信號,就可以讓數據在環形光纖中持續存在。但這一原理更像是光學延遲線存儲。
現代AI系統需要具備隨機訪問、納秒級延遲、大量并行通道的特征,而光學延遲線的“循環飛行”是順序訪問,無法快速定位某一特定地址。有人在討論中形容:“它更像一個‘循環磁帶’,而不是RAM或Cache。”另外,目前即使用“短光纖”,延遲也遠高于GPU可接受范圍,而在AI訓練里,延遲遠比容量更重要。
實際落地中的工程設計難題也可能比堆疊DRAM的方式復雜得多。眾所周知,由于光在光纖中會衰減,需要EDFA放大器、時鐘同步、光電轉換等進行配合,來維持設想中的“循環飛行”,也就會帶來能耗、抖動、誤碼率等問題。從而在當前條件的經濟性上,還難以媲美現有內存范式。同時,光放大器和DSP處理器等設備,也會消耗大量電力,可能抵消掉預期節能優勢。
圍繞光纖的“超大緩存”設想,更像是一場面向內存墻難題的思想實驗。它反映出如今AI時代算力與帶寬失衡的核心矛盾,但短期內難以撼動DRAM與HBM的主流地位。但縱觀技術發展史,很多如今成熟的技術,最初也均存在著諸多歷史節點上難以逾越的門檻。
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
盤點2025|光纖光纜:周期性放緩之下,確定性開始凸顯
在2025年,光纖光纜廠商們習慣于用“周期性”一詞來描述當前的困難,相比于寬帶普及、4G升級換代帶來的流量需求猛增這一巨大業務增長。可如今在刷著短視頻、看著帶貨的新日常生活常態下,盡..[詳細]
盤點2025|人工智能:破局前行、以智啟新,同赴人機共生新未來
2025年,人工智能行業迎來技術迭代與價值落地的雙重關口。這一年里既延續著近年來的高速增長態勢,也迎來從野蠻生長向規范提質的深刻轉型。 [詳細]
盤點2025|算力行業:量質齊升的進階之路
在數字經濟加速滲透全球經濟社會各領域的今天,算力已成為繼電力、水資源之后的關鍵生產要素,是支撐數字中國建設、推動高質量發展的核心基礎設施。算力的規模與質量直接決定了數字經濟的發..[詳細]
盤點2025|芯片:AI依舊是挖潛點,應用進一步多樣化
時至2025年年底,人們已經開始漸漸習慣,有事聽聽AI給出的參考意見。其背后的算力支撐也在逐步加強,像是更先進的制程,以及向更多端側設備的拓展。另一方面,AI又一石激起千層浪,機遇與需..[詳細]
盤點2025 | 從5G到6G:深耕與突破并行,開啟智能連接新紀元
2025年,全球通信產業站在了一個關鍵的歷史交匯點。這一年既是“十四五”規劃的收官年,5G建設成果全面轉化的驗收年,也是“十五五”規劃啟幕,6G布局從技術探索邁向工程落地的奠基之年,更..[詳細]
盤點2025|量子信息:三大領域技術持續演進,產業發展未來可期
以量子計算、量子通信和量子精密測量為代表的量子信息技術是挑戰人類調控微觀世界能力極限的世紀系統工程,是對傳統技術體系產生沖擊、進行重構的重大顛覆性創新,將引領新一輪科技革命和產..[詳細]
盤點2025|2025年智能終端趨勢洞察:AI重構體驗,超級終端時代加速到來
2025年,全球智能終端行業站在了技術革新與生態重構的十字路口。AI技術的規模化滲透、折疊屏形態的成熟落地、跨設備協同的深度演進,正在重塑終端產品的價值邏輯與市場格局。[詳細]
華為聚焦高質量發展,2025年銷售收入超8800億
2月24日大年初八,馬年春節的煙火還在持續,廣東便召開了“馬年新春第一會”——2026廣東省高質量發展大會。本次大會高屋建瓴地明確了廣東省今后的發展建設方向,強調在技術深刻變革、人工智..[詳細]
我國制造業數字化轉型步伐加快,仍有深層次挑戰亟需系統解決
當前,新一輪科技革命和產業變革深入發展,全球產業格局深度調整,我國制造業也正處于由大變強的關鍵時期,應以數字化轉型搶抓未來人工智能等技術產業變革機遇。近日,中國信息通信研究院發..[詳細]
Seedance2.0,改寫AI視頻賽道格局!
孫悟空對戰超人、單挑詹姆斯扣籃、小貓咪打怪獸、邁克爾•杰克遜街頭熱舞……最近,字節跳動的AI視頻模型Seedance2.0引爆全網,由其生成的各類短視頻刷屏了![詳細]













