
全球市值最大的穩定幣 USDT 發行商 Tether,發布了一項新的 AI 訓練框架,聲稱該框架允許在消費級硬體上對大型語言模型進行微調,包括智慧型手機和非 Nvidia 的 GPU。
根據週二的公告,該系統是 Tether QVAC 平台的一部分,它採用微軟的 BitNet 架構和 LoRA 技術,以減少記憶體和運算需求,這有望降低開發 AI 模型所需的成本和硬體門檻。
該框架支援跨平台訓練和推理,涵蓋多種晶片,包括 AMD、Intel 和 Apple Silicon,以及來自高通和蘋果的行動 GPU。
Tether 表示,其工程師能夠在不到兩小時內於智慧型手機上微調高達 10 億參數的模型,而更小的模型則只需幾分鐘,對行動裝置上最大 130 億參數的模型也提供支援。
該公司表示,該框架基於 BitNet(一種 1 位元模型架構)構建,與類似的 16 位元模型相比,可將 VRAM 需求減少高達 77.8%,使更大的模型能在有限的硬體上運行。它還支援在非 Nvidia 硬體上對 1 位元模型進行 LoRA 微調,將支援範圍擴展到傳統用於 AI 訓練的 GPU 之外。
該公司表示,效能提升也延伸到推理方面,行動 GPU 運行 BitNet 模型比 CPU 快上數倍。它還指出了一些應用場景,例如裝置內訓練(on-device training)和聯邦學習(federated learning),在這些場景中,模型可以在分散式裝置上進行更新,而無需將資料傳送至中央伺服器,這有望減少對雲端基礎設施的依賴。
相關報導:Messari 新任執行長在公司裁員之際加倍押注 AI
Tether 進軍 AI 基礎設施之際,加密貨幣公司正不斷擴展運算和機器學習領域,比特幣挖礦活動加速,AI 代理也日益崛起。
去年九月,Google 收購了 Cipher Mining 5.4% 的股份,作為一項價值 30 億美元、為期 10 年與 AI 資料中心容量相關的交易的一部分。去年十二月,比特幣礦商 IREN 表示計劃籌集約 36 億美元來資助 AI 基礎設施。
這項趨勢延續至 2026 年。今年二月,HIVE Digital Technologies 公布創紀錄的 9,310 萬美元收入,其 AI 和高效能運算 (HPC) 業務的成長是主要推動力;而 Core Scientific 則在三月從摩根士丹利獲得 5 億美元的貸款額度,並可選擇擴展至 10 億美元。
挖礦產業轉向 AI 和 HPC 之際,AI 代理(能夠進行交易、與服務互動並執行任務的自主程式)正在整個加密領域獲得動力。
去年十月,Coinbase 推出了錢包基礎設施,使 AI 代理能夠進行鏈上交易。上個月,Alchemy 推出了一個系統,允許代理使用 Base 上的 USDC 存取區塊鏈資料服務。同樣在今年二月,Pantera 和 Franklin Templeton 加入了 Sentient 旗下的平台 Arena,用於測試企業 AI 代理。
週二,由 OpenAI 的 Sam Altman 共同創立的身份網絡 World 推出 AgentKit,這是一個工具包,允許 AI 代理使用 World ID 功能驗證其是否連結到獨特的人類,同時透過 x402 微支付協議進行支付。
雜誌:所有 2100 萬枚比特幣都面臨量子電腦的風險