Giới thiệu

Trong thời đại số, sức mạnh tính toán đã trở thành một yếu tố quan trọng của tiến bộ công nghệ. Nó xác định các tài nguyên mà máy tính cần để xử lý các hoạt động, bao gồm bộ nhớ, tốc độ xử lý và số lượng bộ xử lý. Các tài nguyên này ảnh hưởng trực tiếp đến hiệu suất và chi phí của các thiết bị, đặc biệt là khi xử lý đồng thời nhiều chương trình. Với việc áp dụng rộng rãi của trí tuệ nhân tạo và công nghệ học sâu, nhu cầu về các tài nguyên tính toán hiệu suất cao như GPU đã tăng vọt, dẫn đến thiếu hụt cung ứng toàn cầu.

Bộ xử lý trung tâm (CPU) đóng vai trò then chốt là trái tim của một máy tính, trong khi Bộ xử lý đồ họa (GPU) tăng cường đáng kể hiệu suất tính toán bằng cách xử lý các nhiệm vụ song song. Một CPU mạnh mẽ hơn có thể xử lý các thao tác nhanh hơn, và GPU hỗ trợ hiệu quả các yêu cầu tính toán ngày càng tăng.

Io.net là gì?

Nguồn: io.net

Io.net là một dự án DePIN dựa trên Solana, tập trung vào việc cung cấp sức mạnh tính toán GPU cho các công ty AI và machine learning, giúp việc tính toán trở nên có khả năng mở rộ, dễ tiếp cận và hiệu quả hơn.

Các mô hình AI hiện đại ngày càng lớn và việc huấn luyện và suy luận không còn là các nhiệm vụ đơn giản có thể thực hiện trên một thiết bị duy nhất. Thường xuyên, cần sử dụng tính toán song song và phân tán, tận dụng khả năng mạnh mẽ trên nhiều hệ thống và nhân để tối ưu hiệu suất tính toán hoặc mở rộng để phù hợp với các tập dữ liệu và mô hình lớn hơn. Việc phối hợp mạng GPU như một nguồn tài nguyên tính toán là rất quan trọng trong quá trình này.

Nền tảng và Quỹ đầu tư của nhóm

Tiểu sử nhóm

Nhóm nhân sự cốt lõi của Io.net ban đầu chuyên về giao dịch định lượng. Cho đến tháng 6 năm 2022, họ tập trung vào việc phát triển hệ thống giao dịch định lượng cấp tổ chức bao gồm cổ phiếu và tiền điện tử. Khi nhu cầu về sức mạnh tính toán của các hệ thống backend tăng lên, nhóm bắt đầu khám phá khả năng của tính toán phi tập trung, tập trung cuối cùng vào việc giải quyết các vấn đề cụ thể liên quan đến việc giảm chi phí của dịch vụ tính toán GPU.

• Nhà sáng lập & Giám đốc điều hành: Ahmad Shadid, người đã làm việc trong lĩnh vực lượng tử và kỹ thuật tài chính. Trước Io.net, anh đã làm tình nguyện viên tại Ethereum Foundation.
• CMO & Chief Strategy Officer: Garrison Yang, người đã tham gia vào Io.net vào tháng Ba năm nay, trước đó đã từng là Phó Chủ tịch Chiến lược và Phát triển tại Avalanche và tốt nghiệp Đại học California, Santa Barbara.
• COO: Tory Green, COO của Io.net, trước đây đã từng làm COO tại Hum Capital và Giám đốc Phát triển kinh doanh và Chiến lược tại Fox Mobile Group, và là cựu sinh viên của Đại học Stanford.

Theo thông tin trên LinkedIn của Io.net, nhóm đặt trụ sở chính tại New York, Mỹ, có chi nhánh tại San Francisco và hiện tại đang có hơn 50 thành viên trong nhóm.

Tình hình Tài trợ

Io.net hoàn thành vòng huy động vốn Series A trị giá 30 triệu đô la do Hack VC dẫn đầu, với sự tham gia của các tổ chức đáng chú ý khác như Multicoin Capital, Delphi Digital, Animoca Brands, OKX, Aptos Labs và Solana Labs. Ngoài ra, các nhà sáng lập của Solana, Aptos và Animoca Brands cũng tham gia vòng này dưới dạng các nhà đầu tư cá nhân. Đáng chú ý, sau khi nhận đầu tư từ Aptos Foundation, dự án BC8.AI, ban đầu đặt trên nền tảng Solana, đã chuyển sang nền tảng L1 cũng hiệu quả, Aptos.

Điều chỉnh thiếu hụt tài nguyên máy tính

Trong những năm gần đây, sự tiến bộ nhanh chóng trong lĩnh vực trí tuệ nhân tạo đã thúc đẩy sự tăng cường về nhu cầu về chip máy tính, với ứng dụng trí tuệ nhân tạo tăng gấp đôi nhu cầu về công suất tính toán mỗi ba tháng và gần mười lần mỗi 18 tháng. Sự tăng trưởng mũi nhọn này đã gây áp lực lớn lên chuỗi cung ứng toàn cầu, mà vẫn đang gặp khó khăn trong việc phục hồi sau những đợt đình trệ do đại dịch gây ra. Đám mây công cộng thường có quyền ưu tiên truy cập vào nhiều GPU hơn, làm cho việc tiếp cận tài nguyên tính toán như: của các doanh nghiệp nhỏ và các cơ sở nghiên cứu trở nên thách thức.

• Chi phí cao: Sử dụng GPU cao cấp rất đắt đỏ, dễ dàng lên đến hàng trăm nghìn mỗi tháng cho việc huấn luyện và suy luận.
• Vấn đề về Chất lượng: Người dùng có ít lựa chọn liên quan đến chất lượng, cấp độ bảo mật, độ trễ tính toán và các tùy chọn khác của phần cứng GPU và phải chấp nhận những gì có sẵn.
• Hạn chế Sử dụng: Khi sử dụng dịch vụ đám mây như AWS của Google, GCP hoặc Microsoft Azure, thường mất vài tuần để truy cập, và các GPU cao cấp thường không có sẵn.

Io.net giải quyết vấn đề này bằng cách tổng hợp các tài nguyên tính toán không được sử dụng (như các trung tâm tính toán dữ liệu độc lập, nhà đào tiền điện tử, Filecoin, Render, và các mạng dự án tiền điện tử khác) của các GPU dư thừa. Các tài nguyên tính toán này tạo thành một mạng tính toán phi tập trung, cho phép kỹ sư có được sức mạnh tính toán lớn trong một hệ thống dễ dàng tiếp cận, có thể tùy chỉnh, hiệu quả về chi phí.

Nguồn: io.net

Sản phẩm Io.net được xây dựng cho Bốn Chức năng Cốt lõi

• Dịch vụ Phân loại theo Lô và Mô hình: Dữ liệu theo lô có thể được xử lý song song bằng cách xuất kiến trúc và trọng số của các mô hình được đào tạo đến lưu trữ đối tượng chia sẻ. Io.net cho phép các nhóm học máy thiết lập quy trình làm việc phân loại và mô hình trên các mạng GPU phân tán.
• Đào tạo song song: Giới hạn bộ nhớ CPU/GPU và quy trình xử lý tuần tự tạo ra các chướng ngại lớn khi đào tạo các mô hình trên một thiết bị. Io.net sử dụng thư viện tính toán phân tán để điều phối và nhóm các công việc đào tạo, cho phép song song hóa dữ liệu và các mô hình trên nhiều thiết bị phân tán.
• Điều chỉnh siêu tham số song song: Các thí nghiệm điều chỉnh siêu tham số vốn được thực hiện song song. Io.net sử dụng một thư viện tính toán phân tán với khả năng điều chỉnh siêu tham số tiên tiến để tìm ra kết quả tốt nhất, tối ưu lịch trình và xác định mẫu tìm kiếm.
• Học tăng cường: Io.net sử dụng thư viện học tăng cường mã nguồn mở hỗ trợ công việc học tăng cường phân phối cấp sản xuất và một tập hợp các API đơn giản.

Sản phẩm Io.net

IO Cloud

IO Cloud quản lý các cụm GPU phân tán, cung cấp quyền truy cập tài nguyên linh hoạt, có khả năng mở rộng mà không cần đầu tư vào phần cứng đắt tiền và quản lý cơ sở hạ tầng. Sử dụng mạng nút phi tập trung mang lại trải nghiệm cho các kỹ sư học máy tương tự như bất kỳ nhà cung cấp đám mây nào. Được tích hợp một cách mượt mà thông qua IO-SDK, nó cung cấp các giải pháp cho ứng dụng AI và Python và đơn giản hóa việc triển khai và quản lý tài nguyên GPU/CPU, thích ứng với nhu cầu thay đổi.

Nổi bật:

• Phủ sóng toàn cầu: Sử dụng phương pháp tương tự CDN, nó phân phối tài nguyên GPU trên toàn cầu để tối ưu hóa dịch vụ học máy và suy luận.
• Khả năng mở rộng và hiệu quả về chi phí: Cam kết trở thành nền tảng đám mây GPU hiệu quả về chi phí nhất, dự kiến sẽ giảm chi phí dự án AI/ML lên đến 90%.
• Tích hợp với IO SDK: Nâng cao hiệu suất của các dự án AI thông qua việc tích hợp mượt mà, tạo ra môi trường hiệu suất cao thống nhất.
• Tính năng độc quyền: Cung cấp quyền truy cập riêng tư vào plugin OpenAI ChatGPT, giúp đơn giản hóa việc triển khai các cụm huấn luyện.
• Hỗ trợ cho RAY Framework: Sử dụng khung máy tính phân tán RAY cho việc phát triển ứng dụng Python có khả năng mở rộng.
• Đổi mới trong Đào tiền điện tử: Mục tiêu là cách mạng hóa ngành công nghiệp đào tiền điện tử bằng cách hỗ trợ hệ sinh thái ML và AI.

Nhân viên IO

Được thiết kế để tối ưu hóa các hoạt động cung cấp trong WebApps, IO Worker bao gồm quản lý tài khoản người dùng, giám sát hoạt động theo thời gian thực, theo dõi nhiệt độ và tiêu thụ điện, hỗ trợ cài đặt, quản lý ví, đánh giá bảo mật và phân tích lợi nhuận. Nó nối liền khoảng cách giữa nhu cầu sức mạnh xử lý AI và cung cấp các tài nguyên máy tính không được sử dụng hiệu quả, tạo điều kiện cho quá trình học AI mượt mà và tiết kiệm chi phí hơn.

Tính nổi bật:

• Trang chủ của Người làm việc: Cung cấp một bảng điều khiển để theo dõi thời gian thực của các thiết bị kết nối, hỗ trợ các chức năng như xóa và đổi tên thiết bị.
• Trang Chi Tiết Thiết Bị: Cung cấp phân tích toàn diện về thiết bị, bao gồm lưu lượng, trạng thái kết nối và lịch sử hoạt động.
• Trang Thêm Thiết Bị: Đơn giản hóa quá trình kết nối thiết bị, hỗ trợ tích hợp nhanh chóng và dễ dàng các thiết bị mới.
• Trang Thu Nhập và Phần Thưởng: Theo dõi thu nhập và lịch sử hoạt động với chi tiết giao dịch có sẵn trên Solscan.

Trình duyệt IO

IO Explorer nhằm mục đích cung cấp một cửa sổ vào hoạt động của mạng, cung cấp cho người dùng thống kê toàn diện và cái nhìn sâu sắc về tất cả các khía cạnh của đám mây GPU. Giống như Solscan hoặc các trình duyệt khám phá blockchain cung cấp khả năng nhìn thấy giao dịch blockchain, IO Explorer mang đến một mức độ minh bạch tương tự cho các hoạt động do GPU thúc đẩy, giúp người dùng theo dõi, phân tích và hiểu rõ chi tiết về đám mây GPU, đảm bảo khả năng nhìn thấy hoàn toàn các hoạt động, thống kê và giao dịch của mạng trong khi bảo vệ quyền riêng tư của thông tin nhạy cảm.

Điểm nổi bật:

• Trang Thiết bị: Hiển thị chi tiết công khai của các thiết bị kết nối với mạng, cung cấp dữ liệu theo thời gian thực và theo dõi giao dịch.
• Trang chủ Trình duyệt: Cung cấp thông tin về khối lượng cung cấp, nhà cung cấp được xác minh, số lượng phần cứng hoạt động và giá cả thị trường thời gian thực.
• Trang Cụm: Hiển thị thông tin công cộng về các cụm triển khai trong mạng, cùng với các số liệu thời gian thực và chi tiết đặt chỗ.
• Theo dõi Cụm thời gian thực: Cung cấp cái nhìn ngay lập tức về tình trạng, sức khỏe và hiệu suất của các cụm, đảm bảo người dùng có thông tin mới nhất.

Kiến trúc IO

Là một nhánh của Ray, IO-SDK hình thành nền tảng cho khả năng của Io.net, hỗ trợ thực hiện song song các nhiệm vụ và xử lý môi trường đa ngôn ngữ. Tính tương thích với các framework học máy (ML) phổ biến cho phép Io.net linh hoạt và hiệu quả đáp ứng nhu cầu tính toán đa dạng. Thiết lập kỹ thuật này, được hỗ trợ bởi một hệ thống kỹ thuật xác định rõ, đảm bảo rằng nền tảng Io.net có thể đáp ứng các nhu cầu hiện tại và thích nghi với các phát triển trong tương lai.

Kiến trúc đa tầng:

• Lớp Giao diện Người dùng: Cung cấp giao diện trước cho người dùng, bao gồm các trang web công cộng, khu vực khách hàng và khu vực nhà cung cấp GPU, để mang đến trải nghiệm trực quan và thân thiện với người dùng.
• Bảo mật Layer: Đảm bảo tính toàn vẹn và an ninh hệ thống, tích hợp các cơ chế như phòng thủ mạng, xác thực người dùng và ghi nhật ký hoạt động.
• Lớp API: Là trung tâm giao tiếp cho các trang web, nhà cung cấp và quản lý nội bộ, giúp tăng cường trao đổi dữ liệu và hoạt động.
• Backend Layer: Hình thành lõi của hệ thống và chịu trách nhiệm quản lý các nhóm/GPU, tương tác với khách hàng và tự động mở rộng.
• Lớp Cơ sở dữ liệu: Xử lý lưu trữ và quản lý dữ liệu, với lưu trữ chính cho dữ liệu có cấu trúc và caching cho việc xử lý dữ liệu tạm thời.
• Task Layer: Quản lý giao tiếp không đồng bộ và thực thi công việc, đảm bảo xử lý dữ liệu và luồng thông tin hiệu quả.
• Lớp Cơ sở hạ tầng: Bao gồm cơ sở hệ thống, bao gồm bể tài nguyên GPU, công cụ điều phối và xử lý nhiệm vụ thực thi/ML, được trang bị một giải pháp giám sát mạnh mẽ.

IO Tunnels

Các đường hầm IO giúp thiết lập kết nối an toàn từ máy khách đến máy chủ từ xa, cho phép kỹ sư vượt qua tường lửa và NAT mà không cần cấu hình phức tạp, giúp quá trình truy cập từ xa trở nên dễ dàng.

Quy trình làm việc: Các IO Workers đầu tiên thiết lập kết nối với một máy chủ trung gian (tức là máy chủ io.net). Máy chủ io.net sau đó lắng nghe yêu cầu kết nối từ các IO Workers và máy tính của kỹ sư, tạo điều kiện cho việc trao đổi dữ liệu thông qua công nghệ đường hầm ngược.

(Nguồn ảnh: io.net, 2024.4.11)

Ứng dụng trong io.net: Các kỹ sư có thể dễ dàng kết nối với Công nhân IO thông qua máy chủ io.net, vượt qua thách thức cấu hình mạng để đạt được truy cập từ xa và quản lý.

Ưu điểm:

• Khả năng tiếp cận: Kết nối trực tiếp với IO Workers loại bỏ các rào cản mạng.
• Bảo mật: Đảm bảo an toàn giao tiếp, bảo vệ quyền riêng tư dữ liệu.
• Khả năng mở rộng và linh hoạt: Hiệu quả quản lý nhiều Người làm việc IO trên các môi trường khác nhau.

Mạng IO

Mạng IO sử dụng kiến trúc mạng lưới VPN để cung cấp giao tiếp siêu thấp độ trễ giữa các nút antMiner.

Các tính năng Mạng VPN Mesh: Kết nối Phi tập trung: Khác với các mô hình truyền thống theo kiểu trung tâm-vành đai, mạng VPN mesh cho phép kết nối trực tiếp giữa các nút, tăng cường tính dự phòng, sự chịu lỗi và phân phối tải.

Ưu điểm cho io.net:

• Kết nối trực tiếp giảm thiểu độ trễ giao tiếp, nâng cao hiệu suất ứng dụng.
• Không có một điểm thất bại duy nhất đảm bảo mạng vẫn tiếp tục hoạt động ngay cả khi một nút cá nhân gặp sự cố.
• Nâng cao bảo vệ quyền riêng tư người dùng bằng cách tăng cường sự phức tạp trong việc theo dõi và phân tích dữ liệu.
• Dễ dàng tích hợp các nút mới mà không ảnh hưởng đến hiệu suất mạng.
• Hỗ trợ chia sẻ tài nguyên và xử lý hiệu quả giữa các nút.

Nguồn: io.net

So sánh các Nền tảng Máy tính Phi tập trung

Akash và Mạng Render

Cả Akash và Render Network đều là các mạng máy tính phi tập trung cho phép người dùng mua và bán tài nguyên máy tính. Akash hoạt động như một thị trường mở, cung cấp tài nguyên CPU, GPU và bộ nhớ lưu trữ nơi người dùng có thể đặt giá và điều kiện, và các nhà cung cấp đấu giá để triển khai các nhiệm vụ. Ngược lại, Render sử dụng một thuật toán định giá động tập trung vào dịch vụ kết xuất GPU, với tài nguyên được cung cấp bởi các nhà cung cấp phần cứng và giá cả điều chỉnh dựa trên điều kiện thị trường. Render không phải là một thị trường mở nhưng sử dụng một thuật toán định giá đa tầng để phối hợp mua dịch vụ với người dùng.

Io.net và Bittensor

Io.net tập trung vào các nhiệm vụ trí tuệ nhân tạo và học máy, sử dụng mạng máy tính phân tán để tận dụng sức mạnh tính toán GPU lan truyền trên toàn cầu, và hợp tác với các mạng như Render để xử lý các nhiệm vụ về trí tuệ nhân tạo và học máy. Những điểm đặc biệt chính của nó nằm ở việc tập trung vào các nhiệm vụ về trí tuệ nhân tạo và học máy và sự nhấn mạnh vào việc sử dụng các cụm GPU.

Bittensor là một dự án blockchain tập trung vào trí tuệ nhân tạo nhằm tạo ra một thị trường học máy phi tập trung cạnh tranh với các dự án tập trung. Sử dụng cấu trúc mạng lưới con, nó tập trung vào các nhiệm vụ liên quan đến trí tuệ nhân tạo, chẳng hạn như mạng lưới trợ giúp văn bản trí tuệ và trí tuệ tạo hình ảnh. Các máy đào trong hệ sinh thái Bittensor cung cấp tài nguyên máy tính và lưu trữ mô hình học máy, tính toán cho các nhiệm vụ trí tuệ ngoại chuỗi và cạnh tranh để cung cấp kết quả tốt nhất cho người dùng.

Nguồn: TokenInsight

Kết luận

Io.net đang sẵn sàng để ảnh hưởng đáng kể đến thị trường tính toán trí tuệ như hứa hẹn, được hậu thuẫn bởi một đội ngũ kỹ thuật giàu kinh nghiệm và sự hỗ trợ mạnh mẽ từ các tổ chức nổi tiếng như Multicoin Capital, Solana Ventures, OKX Ventures, Aptos Labs và Delphi Digital. Là DePIN GPU đầu tiên và duy nhất, io.net cung cấp một nền tảng kết nối nhà cung cấp sức mạnh tính toán với người dùng, thể hiện tính năng mạnh mẽ và hiệu quả trong việc cung cấp quy trình làm việc mạng GPU phân tán cho đội ngũ học máy.