前言

在數位時代，計算能力已成爲技術進步的關鍵要素。它界定了電腦在處理操作時所需的資源，包括記憶體、處理器速度和處理器數量，這種能力直接影響裝置的效能和成本，尤其是在處理多個程式時更爲顯著。隨着人工智慧和深度學習技術的普及，對於高效能的計算資源，例如 GPU，需求急劇增加，導致全球出現了供給緊缺的情況。

中央處理單元（CPU）扮演着舉足輕重的角色，被視爲電腦的核心。而圖形處理單元（GPU）的作用同樣不可小覷，它通過處理並行任務來提高計算效率。更強大的 CPU 能夠更快速地處理操作，而 GPU 則爲 CPU 提供了有效的支援，以滿足日益增長的計算需求。

什麼是 io.net

(來源: io.net, 2024.4.11)

io.net 是一個基於 Solana 的去中心化 DePIN 專案，專注於爲 AI 和機器學習公司提供 GPU 計算能力，使計算更具可擴展性、可訪問性和高效性。

現代的AI 模型越來越龐大，訓練和推理已經不是一個僅僅是在單一裝置上就能執行的簡單任務，而是經常需要平行和分散式計算，利用跨多個系統、多核心的強大功能來優化運算效能，或拓展容納更大的資料羣集和模型，在這個過程中，協調作爲算力資源的GPU 網路是關鍵。

團隊背景與融資情況

團隊背景

io.net 的核心團隊創立時，最初的業務是量化交易。直到2022年6月之前，他們一直專注於開發機構級的量化交易系統，涵蓋股票和加密資產，隨着系統後端對計算能力的需求增加，團隊開始探索去中心化計算的可能性。最終，他們專注於解決降低 GPU 算力服務成本的具體問題。

• 創辦人 & CEO：Ahmad Shadid

Ahmad Shadid 在 io.net 之前一直從事量化和金融工程相關的工作，同時還是以太坊基金的志願者。

• CMO & 首席戰略官：Garrison Yang

Garrison Yang 在今年 3 月才正式加入 io.net，他此前是 Avalanche 的戰略和增長 VP，畢業於加州大學聖巴巴拉分校。

• 首席運營官：托裏·格林

Tory Green 是 io.net 營運長，此前是 Hum Capital 營運長、Fox Mobile Group 企業發展與戰略總監，畢業於斯坦福。

依照 io,net 的 Linkedin 資訊表示，團隊總部位於美國紐約，在舊金山有分公司，目前團隊人員規模在 50 人以上。

融資情況

在Hack VC 的領投下完成3,000 萬美元的A 輪融資，其他參投方還包括：Multicoin Capital、Delphi Digital、Animoca Brands、OKX 、Aptos Labs 與Solana Labs 等知名機構，此外，Solana 創辦人、Aptos 創辦人、Animoca Brands 創辦人等產業人士也都以個人身分參與了此輪融資。

值得一提的是，或許是因爲收到了 Aptos 基金會的投資，原本在 Solana 上進行結算記帳的 BC8.AI 專案，已經轉換到了同樣的高效能 L1 Aptos 上進行。

解決算力資源不足的問題

由於近年 AI 發展對於運算晶片的需求大量提升，AI 應用程式的算力需求每 3 個月就會翻倍，每 18 個月就翻接近 10 倍。而受到疫情影響的供應鏈和產能仍然在恢復，全球陷入搶奪 GPU 的大戰。而公有雲端需要也通常能優先取得更多 GPU，讓規模較小的企業、研究單位在取得算力資源面臨不少挑戰，像是：

• 成本過高：要使用高階的 GPU 非常昂貴，很容易一個月內就花費數十萬美元用做訓練和推理。
• 品質不彰： 用戶在面臨 GPU 硬體品質、安全性等級、運算延遲和其他選項方面幾乎沒有選擇，只能屈就現狀。
• 使用受限：用戶使用 Goolge 的 AWS、GCP 或 Microsoft Azure 等雲端服務時，存取通常需要數周時間，而且較高階的 GPU 通常無法使用。

io.net 透過聚合未充分利用的運算資源（像是獨立的資料運算中心、加密貨幣礦工、FIL、Render 等加密專案網路）的多餘 GPU 來解決這個問題。這些運算資源集結爲一條去中心化的運算網路，讓工程師能夠在可輕鬆訪問、可客制化、成本較低的系統中獲得大量運算能力。

(來源: io.net, 2024.4.11)

io.net 產品專爲四個核心功能而建置

• 批次推理和模型服務：可以透過將訓練模型的架構和權重匯出到共享物件儲存來並行對傳入的批次資料執行推理。 io.net 讓機器學習團隊跨分散式 GPU 網路建立推理和模型服務工作流程。
• 並行訓練： CPU/GPU 記憶體限制和順序處理工作流程在單一裝置上訓練模型時出現了巨大的瓶頸。 io.net 利用分散式運算庫來編排和批次訓練作業，以便可以使用資料和模型並行性在許多分散式設備上並行化。
• 平行超參數調整：超參數調整實驗本質上是並行的，io.net 利用具有高級超參數調整的分散式計算庫來檢查最佳結果、優化調度並簡單地指定搜尋模式。
• 強化學習： io.net 使用開源強化學習庫，該庫支援生產級、高度分散式的 RL 工作負載以及一組簡單的 API。

io.net Products

IO Cloud

IO Cloud 管理分散的 GPU 叢集，提供靈活、可擴展的資源訪問，無需昂貴的硬體投資和基礎設施管理，利用去中心化節點網路，爲機器學習工程師提供與任何雲端提供者相同的體驗。透過 IO-SDK 無縫集成，提供 AI 和 Python 應用程式解決方案，並簡化 GPU / CPU 資源的部署和管理，並適應不斷變化的需求。

亮點：

• 全球覆蓋：採用類似於 CDN 的方式，全球分布 GPU 資源，優化機器學習服務和推理。
• 可擴展套件性與成本效益：致力於成爲最具成本效率的 GPU 雲平台，預計可將 AI/ML 專案成本降低至 90%。
• 與 IO SDK 整合：通過無縫整合提升 AI 專案的效能，構建一個統一的高效能環境。
• 獨家功能：提供對 OpenAI ChatGPT 外掛的私有訪問，簡化訓練叢集的部署。
• 支援 RAY 框架：採用 RAY 分散式計算框架，用於可擴展套件的 Python 應用開發。
• 加密挖礦創新：旨在通過支援 ML 和 AI 生態系統，爲加密挖礦行業帶來革命性創新。

2.IO Worker

IO.Worker 專爲優化使用者在 WebApp 中的供應操作而設計，包括使用者帳戶管理、即時活動監控、溫度和功耗追蹤、安裝支援、錢包管理、安全性評估和盈利能力分析等功能。它通過彌合 AI 處理能力需求與未利用計算資源供應之間的差距，促進了更加經濟高效和順暢的 AI 學習過程。

亮點：

• 工作者主頁：提供用於即時監控連線裝置的儀表板，支援刪除和重新命名裝置等功能。
• 裝置詳情頁：顯示裝置的全面分析，包括流量、連線狀態和作業歷史。
• 新增裝置頁面：簡化了裝置連線流程，支援快速輕鬆地整合新裝置。
• 收益與獎勵頁面：追蹤收益和作業歷史，交易詳情可在 Solscan 上查詢。

3.IO Explorer

IO Explorer 的目的是提供一個了解網路內部運作的窗口，爲使用者提供全面的統計數據和 GPU 雲端各個方面的運作情況。正如 Solscan 或區塊鏈瀏覽器賦予區塊鏈交易可見性一樣，IO Explorer 爲 GPU 驅動的工作帶來了相同程度的透明度，讓使用者能夠監控、分析並理解 GPU 雲的詳細資訊，確保對網路活動、統計資料和交易擁有完整的可視性，同時保護敏感資訊的隱私。

亮點：

• 裝置頁面：顯示連線到網路的裝置的公開細節，提供即時資料和交易追蹤。
• 瀏覽器首頁：提供供應量、經過驗證的供應商、活躍硬體數量和即時市場定價的洞察。
• Clusters 叢集頁面：展示網路中部署的叢集的公開資訊，以及即時指標和預訂詳情。
• 即時 Clusters 監控：提供 Clusters 狀態、健康和效能的即時洞察，確保使用者獲取最新資訊。

4.IO Architecture

作爲Ray 的一個分支，IO-SDK 構成了Io.net 功能的基石，它支援任務並行執行及處理多語言環境，與主流機器學習（ML）框架的高度相容性使Io.net 能夠靈活高效地滿足多樣化的計算需求。此技術配置，輔以一整套精細定義的技術體系，確保 Io.net 平台既能滿足當前需求，又具備未來發展的適應能力。

多層架構設計：

• 使用者介面層：爲使用者提供視覺前端介面，包括公共網站、客戶區域及 GPU 供應商區域，旨在提供直觀且友好的使用者體驗。
• 安全層：確保系統的完整性與安全，融合了網路防護、使用者認證及活動日志記錄等機制。
• API 層：作爲網站、供應商及內部管理的通訊樞紐，便於資料交換和各類操作的執行。
• 後端層：構成系統核心，負責處理叢集 / GPU 管理、客戶互動及自動擴展套件等運營任務。
• 資料庫層：負責資料的儲存和管理，主儲存負責結構化資料，而快取則用於臨時資料的處理。
• 任務層：管理非同步通訊和任務執行，保證資料處理和流轉的高效性。
• 基礎設施層：構成系統基礎，包含 GPU 資源池、編排工具及執行 / ML 任務處理，配備了強大的監控解決方案。

IO Tunnels

IO Tunnels 通過建立從客戶端至遠端伺服器的安全連線，使工程師能夠繞過防火牆和 NAT，無需復雜配置即可實現遠端訪問。

工作流程：IO 工作者先與中間伺服器（即 io.net 伺服器）建立連線。隨後，io.net 伺服器監聽來自 IO 工作者和工程師機器的連線請求，通過逆向隧道技術實現資料交換。

(來源: io.net, 2024.4.11)

在 io.net 中的應用：

通過 io.net 伺服器，工程師可以簡便地連線到 IO 工作者，無需面對網路配置的挑戰，實現遠端訪問和管理。

優勢：

• 訪問便捷性：直接連線 IO 工作者，消除網路障礙。
• 安全性：確保通訊安全，保護資料隱私。
• 可擴展套件性與靈活性：能夠高效管理不同環境下的多個 IO 工作者。

IO Network

IO Network 利用網狀 VPN 架構，爲 antMiner 節點之間提供超低延遲通訊。

網狀 VPN 網路特點：

去中心化連線：相較於傳統的中心 – 輻射模型，網狀 VPN 實現節點間直連，多路徑資料傳輸增強了冗餘性、容錯能力和負載分配。

優勢：

• 對節點故障具有較強的抵抗力。
• 可擴展套件性好，能降低延遲、優化流量分配。

對 io.net 的好處：

• 直連降低通訊延遲，提升應用效能。
• 無單點故障，保障網路即使在單個節點故障時也能持續運作。
• 通過加大資料追蹤和分析的難度，增強使用者隱私保護。
• 新節點加入簡便，不影響網路效能。
• 實現節點間的資源共享和高效處理。

(來源: io.net, 2024.4.11)

去中心化計算平台比較

Akash、Render Network

Akash 和 Render Network 都是去中心化的運算網路，讓使用者可以購買和出售運算資源。不同之處在於，Akash 是一個開放市場，提供 CPU、GPU 和儲存資源，使用者可以設定價格和條件，而運算資源提供者競標部署任務。相反，Render使用動態定價演算法，專注於 GPU 渲染服務，由硬體供應商提供資源，並根據市場條件調整價格。 Render 不是開放市場，而是使用多層定價演算法來匹配用戶和服務的買家。

io.net、Bittensor

Io.net 專注於人工智慧和機器學習任務，利用去中心化運算網路，獲取分散在各地的 GPU 運算能力，並與其他網路合作，如 Render，以處理AI和機器學習任務。其主要差異在於專注於 AI 與機器學習的任務以及強調 GPU 叢集的使用。

Bittensor 則是一個以人工智慧爲重點的區塊鏈項目，旨在創建一個去中心化的機器學習市場，讓去中心化的人工智慧應用能夠與中心化項目競爭。採用子網結構，專注於各種與人工智慧相關的任務，如文字提示詞AI網路和圖像生成人工智慧。礦工在 Bittensor 生態系統中提供運算資源和托管機器學習模型，爲鏈下的人工智慧任務計算，並相互競爭爲使用者提供最佳結果。

(來源: TokenInsight, 2024.4.11)

總結

io.net 正準備在充滿潛力的 AI 計算市場中大放異彩，其背後不僅有成熟的技術團隊，還有 Multicoin Capital、Solana Ventures、OKX Ventures、Aptos Labs、Delphi Digital 等知名實體的強力支援。同時作爲首個也是唯一一個GPU DePIN，io.net 爲機器學習和所有GPU 使用案例提供了一個連接計算能力提供者和用戶的平台，展示了其在爲機器學習團隊提供分布式GPU 網路上的訓練和推理工作流程中的強大功能和高效性。