Введение

В цифровую эпоху вычислительная мощность стала неотъемлемым элементом технологического прогресса. Она определяет ресурсы, необходимые компьютерам для обработки операций, включая память, скорость процессора и количество процессоров. Эти ресурсы непосредственно влияют на производительность и стоимость устройств, особенно при одновременной обработке нескольких программ. С широким внедрением технологий искусственного интеллекта и глубокого обучения возрос спрос на высокопроизводительные вычислительные ресурсы, такие как графические процессоры, что привело к глобальному дефициту предложения.

Центральный процессор (CPU) играет решающую роль как ядро компьютера, в то время как графический процессор (GPU) значительно повышает вычислительную эффективность, обрабатывая параллельные задачи. Более мощный ЦП может обрабатывать операции быстрее, а графический процессор эффективно поддерживает растущие вычислительные потребности.

Что такое Io.net?

Источник: io.net

Io.net - это проект DePIN на основе Solana, ориентированный на предоставление вычислительной мощности GPU компаниям по искусственному интеллекту и машинному обучению, делая вычисления более масштабируемыми, доступными и эффективными.

Современные модели искусственного интеллекта становятся все более крупными, и обучение и вывод уже не являются простыми задачами, которые можно выполнять на одном устройстве. Часто требуется параллельные и распределенные вычисления, используя мощные возможности по всем системам и ядрам, чтобы оптимизировать вычислительную производительность или расшириться для обработки более крупных наборов данных и моделей. Координация сети GPU в качестве вычислительного ресурса имеет важное значение в этом процессе.

Фон и финансирование команды

Информация о команде

Основная команда Io.net изначально специализировалась на количественной торговле. До июня 2022 года они сосредоточились на разработке институциональных количественных торговых систем, охватывающих акции и криптовалюты. По мере увеличения спроса на вычислительную мощность бекенд-систем, команда начала исследовать возможности децентрализованных вычислений, в конечном итоге сосредотачиваясь на решении конкретных проблем, связанных с снижением стоимости услуг по вычислениям на GPU.

• Основатель и генеральный директор: Ахмад Шадид, который работал в квантовой и финансовой инженерии. До Io.net он был волонтером в Ethereum Foundation.
• CMO & Главный стратег по финансам: Гаррисон Ян, присоединившийся к Io.net в марте этого года, ранее занимал должность вице-президента по стратегии и росту в Avalanche и окончил Университет Калифорнии, Санта-Барбара.
• COO: Тори Грин, исполнительный директор Io.net, ранее занимал должность COO в Hum Capital и занимал должность директора по развитию бизнеса и стратегии в Fox Mobile Group, и является выпускником Стэнфордского университета.

Согласно информации о компании Io.net на LinkedIn, команда базируется в Нью-Йорке, США, с филиалом в Сан-Франциско, и в настоящее время в ней работает более 50 членов команды.

Финансирование

Io.net завершил круг финансирования серии A на сумму $30 млн под руководством Hack VC с участием других известных институтов, таких как Multicoin Capital, Delphi Digital, Animoca Brands, OKX, Aptos Labs и Solana Labs. Кроме того, основатели Solana, Aptos и Animoca Brands также участвовали в этом раунде как индивидуальные инвесторы. Следует отметить, что после инвестиций от Фонда Aptos проект BC8.AI, начавший работу на Solana, перешел на такую же эффективную платформу L1, как Aptos.

Решение проблемы нехватки вычислительных ресурсов

В последние годы быстрые достижения в области искусственного интеллекта стимулировали всплеск спроса на вычислительные чипы, поскольку приложения искусственного интеллекта удваивают свои требования к вычислительной мощности каждые три месяца и почти в десять раз каждые 18 месяцев. Этот экспоненциальный рост создал напряжение в глобальной цепочке поставок, которая до сих пор стремится восстановиться после нарушений, вызванных пандемией. У публичных облаков обычно есть приоритетный доступ к большему количеству графических процессоров, что затрудняет получение вычислительных ресурсов меньшими компаниями и исследовательскими учреждениями, такими как:

• Высокие затраты: Использование высокопроизводительных графических процессоров очень дорогостоящее, легко достигающее сотен тысяч в месяц за обучение и вывод.
• Проблемы качества: пользователи имеют мало выбора относительно качества, уровня безопасности, вычислительной задержки и других параметров аппаратного обеспечения GPU и должны довольствоваться тем, что доступно.
• Ограничения использования: При использовании облачных сервисов, таких как AWS Google, GCP или Microsoft Azure, доступ обычно занимает несколько недель, а высокопроизводительные GPU часто недоступны.

Io.net решает эту проблему, агрегируя недоиспользуемые вычислительные ресурсы (такие как независимые центры вычислений данных, майнеры криптовалюты, Filecoin, Render и другие сети криптопроектов) избыточных GPU. Эти вычислительные ресурсы формируют децентрализованную вычислительную сеть, позволяя инженерам получать огромную вычислительную мощность в легкодоступной, настраиваемой, экономичной системе.

Источник: io.net

Продукты Io.net созданы для четырех основных функциональностей

• Пакетная инференция и модельные сервисы: Данные пакетов могут быть обработаны параллельно путем экспорта архитектуры и весов обученных моделей в общее объектное хранилище. Io.net позволяет командам машинного обучения создавать рабочие процессы вывода и моделирования по распределенным сетям GPU.
• Параллельное обучение: Ограничения по памяти ЦП/ГПУ и последовательные рабочие процессы создают значительные узкие места при обучении моделей на одном устройстве. Io.net использует библиотеки распределенных вычислений для оркестрации и батчевого выполнения задач по обучению, обеспечивая параллелизм данных и моделей на множестве распределенных устройств.
• Параллельная настройка гиперпараметров: Эксперименты по настройке гиперпараметров по своей природе параллельны. Io.net использует библиотеку распределенных вычислений с расширенными возможностями настройки гиперпараметров для нахождения лучших результатов, оптимизации планирования и определения шаблонов поиска.
• Обучение с подкреплением: Io.net использует библиотеку открытого исходного кода для обучения с подкреплением, которая поддерживает рабочие нагрузки RL на уровне производства, высоко распределенные и набор простых API.

Продукты Io.net

IO Cloud

IO Cloud управляет распределенными кластерами GPU, предлагая гибкий, масштабируемый доступ к ресурсам без необходимости затрат на дорогостоящее оборудование и управление инфраструктурой. Использование децентрализованной сети узлов дает инженерам машинного обучения опыт, сходный с любым облачным провайдером. Интегрированный без проблем с помощью IO-SDK, он предлагает решения для приложений AI и Python и упрощает развертывание и управление ресурсами GPU/CPU, приспосабливаясь к изменяющимся потребностям.

Основные моменты:

• Глобальное покрытие: Используя подход, аналогичный CDN, он глобально распределяет ресурсы GPU для оптимизации услуг машинного обучения и вывода.
• Масштабируемость и экономичность: Мы стремимся быть самой экономичной платформой облачных вычислений с графическими процессорами и планируем сократить затраты на проекты по искусственному интеллекту и машинному обучению до 90%.
• Интеграция с IO SDK: Повышает производительность проектов искусственного интеллекта благодаря безупречной интеграции, создавая единое высокопроизводительное окружение.
• Эксклюзивные функции: обеспечивает частный доступ к плагину OpenAI ChatGPT, упрощая развертывание обучающих кластеров.
• Поддержка фреймворка RAY: использует распределенный вычислительный фреймворк RAY для масштабируемой разработки приложений на Python.
• Инновации в криптовалютной добыче: целью является революционизация отрасли криптовалютной добычи путем поддержки экосистем машинного обучения и искусственного интеллекта.

Рабочий IO

Разработанный для оптимизации операций поставок в веб-приложениях, IO Worker включает управление учетными записями пользователей, мониторинг деятельности в реальном времени, отслеживание температуры и энергопотребления, поддержку установки, управление кошельком, оценку безопасности и анализ прибыльности. Он сокращает разрыв между требованиями к вычислительной мощности и предложением недоиспользуемых вычислительных ресурсов, обеспечивая более экономичный и плавный процесс обучения искусственного интеллекта.

Основные моменты:

• Домашняя страница работника: обеспечивает панель мониторинга в реальном времени подключенных устройств, поддерживая функции, такие как удаление и переименование устройств.
• Страница сведений о устройстве: Предлагает комплексный анализ устройств, включая трафик, статус подключения и историю операций.
• Страница добавления устройства: Упрощает процесс подключения устройства, обеспечивая быструю и простую интеграцию новых устройств.
• Страница доходов и наград: отслеживает доходы и историю операций с деталями транзакций, доступными на Solscan.

IO Explorer

IO Explorer aims to provide a window into the workings of the network, offering users comprehensive statistics and operational insights into all aspects of the GPU cloud. Like Solscan or blockchain explorers provide visibility into blockchain transactions, IO Explorer brings a similar level of transparency to GPU-driven operations, enabling users to monitor, analyze, and understand the details of the GPU cloud, ensuring complete visibility of network activities, statistics, and transactions while protecting the privacy of sensitive information.

Основные моменты:

• Страница устройства: Отображает общедоступные сведения об устройствах, подключенных к сети, предоставляя данные в реальном времени и отслеживание транзакций.
• Домашняя страница браузера: предлагает информацию о объеме поставок, проверенных поставщиках, активных номерах оборудования и рыночных ценах в реальном времени.
• Страница кластеров: Показывает общедоступную информацию о кластерах, развернутых в сети, а также метрики в реальном времени и детали бронирования.
• Мониторинг кластеров в реальном времени: обеспечивает мгновенное представление о состоянии, здоровье и производительности кластеров, гарантируя, что пользователи имеют последнюю информацию.

Архитектура IO

В качестве отрасли Ray, IO-SDK формирует основу возможностей Io.net, поддерживая параллельное выполнение задач и обработку многоязычных сред. Его совместимость с основными фреймворками машинного обучения (ML) позволяет Io.net гибко и эффективно удовлетворять разнообразные вычислительные потребности. Эта техническая настройка, поддерживаемая четко определенной технической системой, обеспечивает возможность Io.net платформы удовлетворить текущие потребности и адаптироваться к будущим разработкам.

Многоуровневая архитектура:

• Уровень пользовательского интерфейса: обеспечивает визуальный интерфейс для пользователей, включая общедоступные веб-сайты, клиентские зоны и зоны поставщиков графических процессоров, чтобы обеспечить интуитивное и удобное для пользователя взаимодействие.
• Уровень безопасности: обеспечивает целостность и безопасность системы, включая механизмы, такие как защита сети, аутентификация пользователей и журналирование действий.
• Уровень API: Как центр коммуникаций для веб-сайтов, поставщиков и внутреннего управления, он облегчает обмен данными и операции.
• Backend Layer: Формирует основу системы и отвечает за управление кластерами/GPU, взаимодействие с клиентами и автоматическую масштабируемость.
• Слой базы данных: обрабатывает хранение и управление данными, основное хранилище для структурированных данных и кэширование для временной обработки данных.
• Уровень задач: Управляет асинхронным взаимодействием и выполнением задач, обеспечивая эффективную обработку данных и поток.
• Слой инфраструктуры: составляет основу системы, включая пул ресурсов GPU, инструменты оркестрации и обработку задач выполнения/ML, оснащенные надежным средством мониторинга.

IO Тоннели

IO Туннели обеспечивают безопасное соединение от клиентов к удаленным серверам, позволяя инженерам обойти брандмауэры и NAT без сложной конфигурации, обеспечивая удаленный доступ.

Процесс работы: Рабочие IO сначала устанавливают соединение с промежуточным сервером (т. е. сервером io.net). Затем сервер io.net прослушивает запросы на соединение от рабочих IO и машин инженеров, облегчая обмен данными через технологию обратного туннеля.

(Источник изображения: io.net, 2024.4.11)

Приложение в io.net: Инженеры могут легко подключаться к IO Workers через сервер io.net, преодолевая трудности конфигурации сети для достижения удаленного доступа и управления.

Преимущества:

• Доступность: Прямое подключение к IO Workers устраняет сетевые барьеры.
• Безопасность: обеспечивает безопасность коммуникации, защищая конфиденциальность данных.
• Масштабируемость и гибкость: эффективно управляет несколькими IO Workers в различных средах.

Сеть IO

Сеть IO использует маршрутизацию сети VPN для обеспечения сверхнизкой задержки связи между узлами antMiner.

Особенности сети Mesh VPN: Децентрализованные соединения: В отличие от традиционных моделей <<центр-и-луч>> VPN, сеть Mesh VPN позволяет осуществлять прямые межузловые соединения, улучшая резервирование, отказоустойчивость и распределение нагрузки.

Преимущества для io.net:

• Прямые соединения сокращают задержки в коммуникации, улучшая производительность приложения.
• Отсутствие единой точки отказа гарантирует, что сеть будет продолжать работать даже в случае отказа отдельного узла.
• Улучшает защиту конфиденциальности пользователей путем увеличения сложности отслеживания и анализа данных.
• Простое интегрирование новых узлов без влияния на производительность сети.
• Облегчает обмен ресурсами и эффективную обработку между узлами.

Источник: io.net

Сравнение децентрализованных вычислительных платформ

Akash и Render Network

Как Akash, так и Render Network являются децентрализованными вычислительными сетями, которые позволяют пользователям покупать и продавать вычислительные ресурсы. Akash работает как открытый рынок, предлагая ресурсы ЦП, ГПУ и хранения, где пользователи могут устанавливать цены и условия, а поставщики делают ставки на развертывание задач. В отличие от этого, Render использует динамический алгоритм ценообразования, сосредоточенный на услугах GPU-рендеринга, с ресурсами, предоставляемыми поставщиками аппаратного обеспечения, и цены корректируются в зависимости от рыночных условий. Render не является открытым рынком, но использует многоуровневый алгоритм ценообразования для сопоставления покупателей услуг с пользователями.

Io.net и Bittensor

Io.net фокусируется на задачах искусственного интеллекта и машинного обучения, используя децентрализованную вычислительную сеть для использования вычислительной мощности GPU, распределенной по всему миру, и сотрудничая с сетями, такими как Render, для обработки задач по искусственному интеллекту и машинному обучению. Его основные отличия заключаются в фокусе на задачах по искусственному интеллекту и машинному обучению и упоре на использование кластеров GPU.

Bittensor - это блокчейн-проект, ориентированный на искусственный интеллект, цель которого создать децентрализованный рынок машинного обучения, конкурирующий с централизованными проектами. Используя структуру подсети, он сосредотачивается на различных задачах, связанных с искусственным интеллектом, таких как текстовые сети и генерация изображений. Майнеры в экосистеме Bittensor предоставляют вычислительные ресурсы и размещают модели машинного обучения, вычисляя задачи искусственного интеллекта вне цепи и конкурируя, чтобы предложить лучшие результаты для пользователей.

Источник: TokenInsight

Вывод

Io.net готов значительно повлиять на перспективный рынок вычислений в области искусственного интеллекта, поддерживаемый опытной технической командой и сильной поддержкой от известных структур, таких как Multicoin Capital, Solana Ventures, OKX Ventures, Aptos Labs и Delphi Digital. В качестве первой и единственной GPU DePIN, io.net предоставляет платформу, которая соединяет поставщиков вычислительной мощности с пользователями, демонстрируя свои мощные функциональные возможности и эффективность в предоставлении распределенных рабочих процессов обучения и вывода графических процессоров для команд машинного обучения.