Вступ

У цифрову епоху обчислювальна потужність стала ключовим елементом технологічного прогресу. Вона визначає ресурси, які потребують комп'ютери для обробки операцій, включаючи пам'ять, швидкість процесора і кількість процесорів. Ці ресурси безпосередньо впливають на продуктивність та вартість пристроїв, особливо при роботі з декількома програмами одночасно. З введенням штучного інтелекту та технологій глибокого навчання попит на високопродуктивні обчислювальні ресурси, такі як відеокарти, стрімко зросло, що спричинило глобальний дефіцит у постачанні.

Центральний процесор (ЦП) відіграє ключову роль як серце комп'ютера, тоді як графічний процесор (ГП) значно підвищує обчислювальну ефективність, обробляючи паралельні завдання. Більш потужний ЦП може обробляти операції швидше, а ГП ефективно підтримує зростаючі обчислювальні вимоги.

Що таке Io.net?

Джерело: io.net

Io.net - це проект DePIN на основі Solana, спрямований на надання обчислювальної потужності GPU компаніям зі штучного інтелекту та машинного навчання, зроблюючи обчислення більш масштабованими, доступними та ефективними.

Сучасні моделі штучного інтелекту стають все більшими, і навчання та інференція вже не є простими завданнями, які можна виконати на одному пристрої. Часто потрібне паралельне та розподілене обчислення, використовуючи потужні можливості на кількох системах та ядрах для оптимізації обчислювальної продуктивності або для розширення для адаптації більшим обсягам даних та моделей. Координація мережі графічних процесорів як обчислювального ресурсу є важливою в цьому процесі.

Команда та фінансування

Команда

Основний колектив Io.net спеціалізувався на кількісній торгівлі. До червня 2022 року вони активно розвивали інституційні кількісні торгівельні системи, які охоплюють акції та криптовалюти. Зі зростанням потреби бекенд систем у обчислювальній потужності команда почала досліджувати можливості децентралізованого обчислення, остаточно зосередившись на вирішенні конкретних проблем, пов'язаних з зменшенням вартості послуг з обчислення на GPU.

• Засновник & Генеральний директор: Ахмад Шадід, який працював у квантовій та фінансовій інженерії. Перед Io.net він був волонтером у Фонді Ethereum.
• CMO & Chief Strategy Officer: Гаррісон Ян, який приєднався до Io.net в березні цього року, раніше працював в якості віце-президента з стратегії та зростання в Avalanche та закінчив Університет Каліфорнії, Санта-Барбара.
• COO: Торі Грін, виконавчий директор Io.net, раніше працював в якості виконавчого директора в Hum Capital та директора з розвитку бізнесу та стратегії в Fox Mobile Group, і є випускником Стенфордського університету.

Згідно з інформацією на LinkedIn Io.net, команда має штаб-квартиру в Нью-Йорку, США, з філією в Сан-Франциско, і наразі налічує понад 50 учасників команди.

Фінансування

Io.net завершила раунд фінансування серії A на суму 30 мільйонів доларів, очолюваний Hack VC, з участю інших відомих установ, таких як Multicoin Capital, Delphi Digital, Animoca Brands, OKX, Aptos Labs та Solana Labs. Крім того, засновники Solana, Aptos та Animoca Brands також прийняли участь у цьому раунді як індивідуальні інвестори. Зокрема, після інвестицій від Фонду Aptos, проєкт BC8.AI, спочатку розміщений на Solana, перейшов на рівнозначну ефективну платформу L1, Aptos.

Вирішення дефіциту обчислювальних ресурсів

У останні роки швидкий розвиток штучного інтелекту стимулював вибух попиту на обчислювальні чіпи, з додатками штучного інтелекту, які подвоюють свої вимоги до обчислювальної потужності кожні три місяці і майже в десятеро кожні 18 місяців. Цей експоненційний ріст створив напругу в глобальному ланцюжку поставок, який все ще намагається відновитися від розладів, спричинених пандемією. Публічні хмари зазвичай мають пріоритетний доступ до більшої кількості ГПУ, що ускладнює отримання обчислювальних ресурсів меншим підприємствам та дослідницьким установам, таких як:

• Високі витрати: Використання високопродуктивних відеокарт дуже дороге, легко досягаючи сотень тисяч на місяць за навчання та висновок.
• Проблеми якості: Користувачі мають мало вибору щодо якості, рівня безпеки, обчислювальної затримки та інших параметрів апаратного забезпечення GPU та повинні обмежитися тим, що доступно.
• Обмеження використання: При використанні хмарних послуг, таких як AWS від Google, GCP або Microsoft Azure, доступ зазвичай займає тижні, а високоякісні GPU часто відсутні.

Io.net вирішує цю проблему, агрегуючи невикористані обчислювальні ресурси (такі як незалежні центри обчислення даних, криптовалютні майнери, Filecoin, Render та інші мережі криптопроектів) зайвих GPU. Ці обчислювальні ресурси утворюють децентралізовану обчислювальну мережу, що дозволяє інженерам отримувати велику обчислювальну потужність у легкодоступній, налаштовуваній, вартісній системі.

Джерело: io.net

Продукти Io.net розроблені для чотирьох основних функціональностей

• Пакетне виведення та модельні сервіси: Пакетні дані можуть бути оброблені паралельно шляхом експорту архітектури та ваг тренованих моделей до спільного об'єктного сховища. Io.net дозволяє командам машинного навчання встановлювати потоки виведення та модельних сервісів по розподілених мережах GPU.
• Паралельне навчання: обмеження пам'яті ЦП/ГПУ та послідовні робочі процеси створюють значні перешкоди при навчанні моделей на одному пристрої. Io.net використовує розподілені бібліотеки обчислень для організації та пакетної обробки завдань навчання, що дозволяє паралельність даних та моделей на багатьох розподілених пристроях.
• Паралельна настройка гіперпараметрів: Експерименти з налаштування гіперпараметрів є вбудовано паралельними. Io.net використовує розподілену бібліотеку обчислень з розширеними можливостями налаштування гіперпараметрів для пошуку кращих результатів, оптимізації планування та визначення шаблонів пошуку.
• Навчання з посиленням: Io.net використовує бібліотеку навчання з посиленням з відкритим вихідним кодом, яка підтримує високорівневі, дуже розподілені робочі навантаження RL та набір простих API.

Продукти Io.net

IO Cloud

IO Cloud управляє розподіленими кластерами GPU, пропонуючи гнучкий, масштабований доступ до ресурсів без необхідності в інвестиції в дороге обладнання та управління інфраструктурою. Використання децентралізованої мережі вузлів надає інженерам машинного навчання досвід, схожий на будь-якого постачальника хмарних послуг. Інтегровано безперервно через IO-SDK, це пропонує рішення для застосувань штучного інтелекту та Python і спрощує розгортання та управління ресурсами GPU/CPU, адаптуючись до змінних потреб.

Основне:

• Глобальне покриття: Використовуючи підхід, схожий на CDN, воно глобально розподіляє ресурси GPU для оптимізації послуг машинного навчання та інференції.
• Масштабованість та ефективність витрат: Зобов'язані бути найефективнішою платформою хмарних обчислень з GPU, вона має знизити витрати на проекти штучного інтелекту / машинного навчання до 90%.
• Інтеграція з IO SDK: покращує продуктивність проектів з штучного інтелекту через безшовну інтеграцію, створюючи єдине високопродуктивне середовище.
• Ексклюзивні функції: надає приватний доступ до плагіна OpenAI ChatGPT, спрощуючи розгортання навчальних кластерів.
• Підтримка фреймворку RAY: використовує розподілену обчислювальну платформу RAY для масштабування розробки Python-додатків.
• Інновації в криптовалютному майнінгу: має на меті революціонізувати галузь криптовалютного майнінгу, підтримуючи екосистеми машинного навчання та штучного інтелекту.

Робочий IO

Призначений для оптимізації операцій з постачання в WebApps, IO Worker включає управління обліковими записами користувачів, моніторинг дій в реальному часі, відстеження температури та споживання енергії, підтримку встановлення, управління гаманцями, оцінку безпеки та аналіз прибутковості. Він зменшує відстань між вимогами щодо обробки штучного інтелекту та постачанням невикористаних обчислювальних ресурсів, сприяючи більш ефективному та гладкому процесу навчання штучного інтелекту.

Основні моменти:

• Домашня сторінка робітника: забезпечує інформаційну панель для моніторингу в реальному часі підключених пристроїв, підтримуючи функції, такі як видалення та перейменування пристроїв.
• Сторінка детальної інформації пристрою: Надає всебічний аналіз пристроїв, включаючи трафік, статус підключення та історію операцій.
• Сторінка додавання пристрою: спрощує процес підключення пристрою, підтримуючи швидку та просту інтеграцію нових пристроїв.
• Сторінка заробітків та винагород: Відстежує прибуток та історію операцій з деталями транзакцій, доступними на Solscan.

IO Explorer

IO Explorer має на меті надати вікно у роботу мережі, пропонуючи користувачам комплексну статистику та операційні відомості з усіх аспектів хмари GPU. Так само як Solscan або дослідники блокчейну надають видимість у блокчейн-транзакції, IO Explorer приводить подібний рівень прозорості у роботу, приведену в дію GPU, дозволяючи користувачам моніторити, аналізувати та розуміти деталі хмари GPU, забезпечуючи повну видимість мережевих дій, статистики та транзакцій, забезпечуючи при цьому конфіденційність чутливої інформації.

Основне:

• Сторінка пристрою: Показує публічні деталі пристроїв, підключених до мережі, надаючи дані в реальному часі та відстеження транзакцій.
• Домашня сторінка браузера: надає інформацію про обсяг постачання, перевірених постачальників, активні номери обладнання та ціни на ринку в реальному часі.
• Сторінка кластерів: Показує загальнодоступну інформацію про розгорнуті кластери в мережі, разом з метрикою в реальному часі та деталями бронювання.
• Моніторинг кластерів у реальному часі: забезпечує негайні відомості про стан, здоров'я та продуктивність кластерів, забезпечуючи користувачам останню інформацію.

IO Архітектура

Як гілка Ray, IO-SDK формує основу можливостей Io.net, підтримуючи паралельне виконання завдань і роботу в багатомовних середовищах. Його сумісність з основними фреймворками машинного навчання (ML) дозволяє Io.net гнучко та ефективно відповідати на різноманітні обчислювальні вимоги. Ця технічна настройка, підтримувана чітко визначеною технічною системою, забезпечує, що платформа Io.net може відповідати поточним потребам та адаптуватися до майбутніх розвитків.

Багаторівнева архітектура:

• Шар інтерфейсу користувача: Забезпечує візуальний інтерфейс для користувачів, включаючи публічні веб-сайти, клієнтські зони та зони постачальників GPU, для надання інтуїтивного та зручного досвіду користувачів.
• Шар безпеки: Забезпечує цілісність та безпеку системи, включаючи механізми, такі як оборонний мережі, аутентифікація користувача та ведення журналу дій.
• Шар шар: Як комунікаційний центр для веб-сайтів, постачальників та внутрішнього управління, він сприяє обміну даними та операціям.
• Backend Layer: Формує ядро системи і відповідає за управління кластерами/GPU, взаємодію з клієнтами та автоматичну масштабованість.
• Рівень бази даних: Відповідає за зберігання та управління даними, з основним сховищем для структурованих даних та кешуванням для тимчасової обробки даних.
• Шар завдань: Керує асинхронним спілкуванням та виконанням завдань, забезпечуючи ефективну обробку даних та потік.
• Інфраструктурний рівень: Складається з фундаменту системи, включаючи пул ресурсів GPU, інструменти оркестрації та обробки виконавчих/ML завдань, обладнаний потужним рішенням моніторингу.

IO Тунелі

IO Tunnels забезпечують безпечне з'єднання від клієнтів до віддалених серверів, дозволяючи інженерам обходити брандмауери та NAT без складних конфігурацій, що дозволяє віддалений доступ.

Робочий процес: спочатку робочі IO встановлюють з'єднання з проміжним сервером (тобто сервером io.net). Сервер io.net потім чекає запитів на з'єднання від робочих IO та машин інженерів, сприяючи обмін даними за допомогою технології зворотного тунелювання.

(Джерело зображення: io.net, 2024.4.11)

Додаток в io.net: Інженери можуть легко підключатися до IO Workers через сервер io.net, подолавши виклики налаштування мережі для забезпечення віддаленого доступу та управління.

Переваги:

• Доступність: Пряме підключення до працівників IO усуває мережеві бар'єри.
• Безпека: забезпечує безпеку комунікації, захищаючи конфіденційність даних.
• Масштабованість та гнучкість: ефективно керує кількома робочими IO в різних середовищах.

IO Мережа

IO Network використовує мережеву архітектуру меш-VPN для забезпечення надзвичайно низької затримки спілкування між вузлами antMiner.

Особливості мережі VPN Mesh: Децентралізовані підключення: На відміну від традиційних моделей типу «центр-гілка», мережа VPN Mesh дозволяє прямі інтервузлові зв'язки, підвищуючи надійність, стійкість до відмов та розподіл навантаження.

Переваги для io.net:

• Прямі з'єднання зменшують затримки у комунікації, підвищуючи продуктивність додатків.
• Відсутність одного точкового відмови забезпечує продовження роботи мережі навіть у випадку відмови окремого вузла.
• Підвищує захист конфіденційності користувача шляхом збільшення складності відстеження та аналізу даних.
• Легка інтеграція нових вузлів без впливу на продуктивність мережі.
• Забезпечує спільне використання ресурсів та ефективну обробку серед вузлів.

Джерело: io.net

Порівняння децентралізованих обчислювальних платформ

Akash та Render Network

Як Акаш, так і Render Network - це децентралізовані обчислювальні мережі, які дозволяють користувачам купувати та продавати обчислювальні ресурси. Акаш працює як відкритий ринок, пропонуючи ресурси ЦП, ГПУ та сховище, де користувачі можуть встановлювати ціни та умови, а постачальники ставлять ставки для виконання завдань. Натомість, Render використовує динамічний алгоритм ціноутворення, спрямований на послуги з рендерингу ГПУ, з ресурсами, наданими постачальниками апаратного забезпечення, і ціни коригуються в залежності від ринкових умов. Render - не відкритий ринок, але використовує багаторівневий алгоритм ціноутворення для відповідності покупцям послуг з користувачами.

Io.net та Bittensor

Io.net фокусується на завданнях з штучного інтелекту та машинного навчання, використовуючи децентралізовану обчислювальну мережу для використання обчислювальної потужності GPU, розсіяної по всьому світу, та співпрацюючи з мережами, такими як Render, для обробки завдань з штучного інтелекту та машинного навчання. Її основні відмінності полягають у фокусуванні на завданнях з штучного інтелекту та машинного навчання та у наголосі на використанні кластерів GPU.

Bittensor - це блокчейн-проект, спрямований на штучний інтелект, який має на меті створення децентралізованого ринку машинного навчання, який конкурує з централізованими проектами. Використовуючи підмережеву структуру, він зосереджується на різних завданнях, пов'язаних з штучним інтелектом, таких як мережі штучного інтелекту для текстових вказівок та створення зображень. Майнери в екосистемі Bittensor надають обчислювальні ресурси та господарюють моделями машинного навчання, обчислюючи завдання поза ланцюжком для штучного інтелекту та конкуруючи, щоб запропонувати кращі результати для користувачів.

Джерело: TokenInsight

Висновок

Io.net готовий значно вплинути на перспективний ринок обчислень штучного інтелекту, підтриманий досвідченою технічною командою та сильною підтримкою від відомих структур, таких як Multicoin Capital, Solana Ventures, OKX Ventures, Aptos Labs та Delphi Digital. Як перший та єдиний GPU DePIN, io.net надає платформу, яка з'єднує постачальників обчислювальної потужності з користувачами, демонструючи свою потужну функціональність та ефективність у наданні розподіленої мережі GPU для навчання та виведення робочих процесів для команд машинного навчання.