Introdução

Na era digital, o poder de processamento tornou-se um elemento essencial do progresso tecnológico. Define os recursos que os computadores necessitam para processar operações, incluindo memória, velocidade do processador e o número de processadores. Estes recursos afetam diretamente o desempenho e o custo dos dispositivos, especialmente ao lidar com vários programas simultaneamente. Com a ampla adoção de inteligência artificial e tecnologias de aprendizado profundo, a demanda por recursos de computação de alto desempenho, como GPUs, disparou, levando a uma escassez global de oferta.

A Unidade Central de Processamento (CPU) desempenha um papel crucial como o núcleo de um computador, enquanto a Unidade de Processamento Gráfico (GPU) melhora significativamente a eficiência computacional ao lidar com tarefas paralelas. Uma CPU mais poderosa pode processar operações mais rapidamente, e a GPU apoia eficazmente as crescentes demandas computacionais.

O que é Io.net?

Fonte: io.net

Io.net é um projeto DePIN baseado em Solana, focado em fornecer potência de computação GPU a empresas de IA e aprendizado de máquina, tornando a computação mais escalável, acessível e eficiente.

Os modelos de IA modernos são cada vez maiores, e o treino e a inferência já não são tarefas simples que possam ser realizadas num único dispositivo. Muitas vezes, é necessária computação paralela e distribuída, utilizando as capacidades poderosas de vários sistemas e núcleos para otimizar o desempenho computacional ou para expandir e acomodar conjuntos de dados e modelos maiores. Coordenar a rede de GPU como um recurso computacional é crucial neste processo.

Antecedentes da equipe e financiamento

Antecedentes da Equipa

A equipa principal do Io.net era originalmente especializada em negociação quantitativa. Até junho de 2022, concentraram-se no desenvolvimento de sistemas de negociação quantitativa a nível institucional que abrangiam ações e criptomoedas. À medida que a procura dos sistemas de backend por potência de computação aumentava, a equipa começou a explorar as possibilidades da computação descentralizada, focando-se, em última análise, na resolução de problemas específicos relacionados com a redução do custo dos serviços de computação GPU.

• Fundador e CEO: Ahmad Shadid, que trabalhou em quant e engenharia financeira. Antes da Io.net, ele foi voluntário na Ethereum Foundation.
• CMO & Chief Strategy Officer: Garrison Yang, que se juntou à Io.net em março deste ano, anteriormente atuou como VP de Estratégia e Crescimento na Avalanche e formou-se na Universidade da Califórnia, Santa Bárbara.
• COO: Tory Green, o COO da Io.net, anteriormente atuou como COO na Hum Capital e Diretor de Desenvolvimento de Negócios e Estratégia no Fox Mobile Group, e é formado pela Universidade de Stanford.

De acordo com as informações do LinkedIn da Io.net, a equipe tem sede em Nova Iorque, EUA, com uma filial em São Francisco, e atualmente tem mais de 50 membros da equipe.

Situação de Financiamento

A Io.net completou uma rodada de financiamento da Série A de $30 milhões liderada pela Hack VC, com a participação de outras instituições notáveis como a Multicoin Capital, Delphi Digital, Animoca Brands, OKX, Aptos Labs e Solana Labs. Além disso, os fundadores da Solana, Aptos e Animoca Brands também participaram desta rodada como investidores individuais. Notavelmente, após o investimento da Fundação Aptos, o projeto BC8.AI, inicialmente estabelecido na Solana, mudou para a plataforma L1 igualmente eficiente, Aptos.

Abordando a Escassez de Recursos de Computação

Nos últimos anos, os avanços rápidos em IA têm impulsionado uma onda de procura por chips de computação, com as aplicações de IA a duplicarem os seus requisitos de potência computacional a cada três meses e quase dez vezes a cada 18 meses. Este crescimento exponencial tem colocado uma pressão na cadeia de abastecimento global, que ainda está a tentar recuperar das perturbações causadas pela pandemia. As nuvens públicas geralmente têm acesso prioritário a mais GPUs, tornando desafiador para pequenas empresas e instituições de pesquisa obter recursos computacionais, tais como:

• Altos Custos: Utilizar GPUs de alta qualidade é muito caro, podendo facilmente atingir centenas de milhares por mês para treino e inferência.
• Problemas de qualidade: Os usuários têm pouca escolha quanto à qualidade, nível de segurança, atraso computacional e outras opções de hardware de GPU e devem contentar-se com o que está disponível.
• Restrições de Uso: Ao utilizar serviços em nuvem como a AWS da Google, GCP ou Microsoft Azure, o acesso geralmente demora semanas e as GPUs de ponta frequentemente estão indisponíveis.

O Io.net resolve este problema agregando recursos computacionais subutilizados (como centros de computação de dados independentes, mineradores de criptomoedas, Filecoin, Render e outras redes de projetos de criptomoedas) de GPUs excedentes. Esses recursos computacionais formam uma rede de computação descentralizada, permitindo aos engenheiros obterem uma vasta potência de computação em um sistema facilmente acessível, personalizável e econômico.

Fonte: io.net

Produtos Io.net construídos para quatro funcionalidades principais

• Inferência em Lote e Serviços de Modelo: Os dados em lote podem ser processados em paralelo exportando a arquitetura e pesos dos modelos treinados para armazenamento de objetos partilhados. Io.net permite às equipas de aprendizagem automática estabelecer fluxos de trabalho de serviço de modelo e inferência em redes distribuídas de GPU.
• Treino Paralelo: As limitações de memória da CPU/GPU e os fluxos de trabalho de processamento sequencial criam gargalos significativos ao treinar modelos de um único dispositivo. Io.net utiliza bibliotecas de computação distribuída para orquestrar e agrupar trabalhos de treinamento, possibilitando o paralelismo de dados e modelos em muitos dispositivos distribuídos.
• Ajuste paralelo de hiperparâmetros: As experiências de ajuste de hiperparâmetros são inerentemente paralelas. Io.net usa uma biblioteca de computação distribuída com capacidades avançadas de ajuste de hiperparâmetros para encontrar os melhores resultados, otimizar o agendamento e definir padrões de pesquisa.
• Aprendizagem por reforço: Io.net utiliza uma biblioteca de aprendizagem por reforço de código aberto que suporta cargas de trabalho de aprendizagem por reforço altamente distribuídas a nível de produção e um conjunto de APIs simples.

Produtos Io.net

IO Cloud

A IO Cloud gere clusters dispersos de GPUs, oferecendo acesso flexível e escalável aos recursos sem a necessidade de investimentos caros em hardware e gestão de infraestruturas. Utilizar uma rede de nós descentralizada proporciona aos engenheiros de machine learning uma experiência semelhante à de qualquer fornecedor de nuvem. Integrada de forma transparente através do IO-SDK, oferece soluções para aplicações de IA e Python e simplifica a implementação e gestão de recursos de GPU/CPU, adaptando-se às necessidades em constante mudança.

Destaques:

• Cobertura global: Utilizando uma abordagem semelhante a CDN, distribui globalmente recursos de GPU para otimizar serviços de aprendizado de máquina e inferência.
• Escalabilidade e Eficiência de Custo: Comprometido em ser a plataforma de nuvem GPU mais eficiente em termos de custos, prevê-se que reduza os custos de projetos de IA/ML em até 90%.
• Integração com IO SDK: Melhora o desempenho de projetos de IA através de uma integração perfeita, criando um ambiente unificado de alto desempenho.
• Recursos exclusivos: Fornece acesso privado ao plugin OpenAI ChatGPT, simplificando a implementação de clusters de treinamento.
• Suporte para Estrutura RAY: Utiliza a estrutura de computação distribuída RAY para o desenvolvimento escalável de aplicações Python.
• Inovação na Mineração de Criptomoedas: Pretende revolucionar a indústria de mineração de criptomoedas ao apoiar os ecossistemas de ML e IA.

Trabalhador IO

Projetado para otimizar operações de abastecimento em WebApps, o IO Worker inclui gestão de contas de usuário, monitorização de atividades em tempo real, acompanhamento de temperatura e consumo de energia, suporte de instalação, gestão de carteira, avaliação de segurança e análise de rentabilidade. Ele preenche a lacuna entre as exigências de potência de processamento de IA e o fornecimento de recursos de computação subutilizados, facilitando um processo de aprendizagem de IA mais rentável e suave.

Destaques:

• Página Inicial do Trabalhador: Fornece um painel para monitorização em tempo real de dispositivos conectados, suportando funções como a eliminação e renomeação de dispositivos.
• Página de detalhes do dispositivo: Oferece uma análise abrangente de dispositivos, incluindo tráfego, status de conexão e histórico de operações.
• Página Adicionar Dispositivo: Simplifica o processo de conexão do dispositivo, suportando a integração rápida e fácil de novos dispositivos.
• Página de Ganhos e Recompensas: Acompanha os ganhos e o histórico de operações com detalhes de transações disponíveis no Solscan.

Explorador IO

O IO Explorer tem como objetivo fornecer uma janela sobre o funcionamento da rede, oferecendo aos utilizadores estatísticas abrangentes e perceções operacionais sobre todos os aspetos da nuvem GPU. Tal como o Solscan ou os exploradores de blockchain fornecem visibilidade nas transações de blockchain, o IO Explorer traz um nível semelhante de transparência às operações impulsionadas pela GPU, permitindo aos utilizadores monitorizar, analisar e compreender os detalhes da nuvem GPU, garantindo total visibilidade das atividades, estatísticas e transações da rede, ao mesmo tempo que protege a privacidade de informações sensíveis.

Destaques:

• Página do Dispositivo: Mostra os detalhes públicos dos dispositivos conectados à rede, fornecendo dados em tempo real e rastreamento de transações.
• Página Inicial do Navegador: Oferece insights sobre volume de fornecimento, fornecedores verificados, números de hardware ativos e preços de mercado em tempo real.
• Página de Clusters: Mostra informações públicas sobre clusters implantados na rede, juntamente com métricas em tempo real e detalhes de reserva.
• Monitorização de Clusters em Tempo Real: Fornece insights imediatos sobre o estado, saúde e desempenho dos clusters, garantindo que os utilizadores tenham as informações mais recentes.

Arquitetura IO

Como um ramo da Ray, o IO-SDK forma a base das capacidades do Io.net, suportando a execução paralela de tarefas e lidando com ambientes multilíngues. A sua compatibilidade com os frameworks mainstream de aprendizagem automática (ML) permite que o Io.net atenda de forma flexível e eficiente a diversas demandas computacionais. Esta configuração técnica, suportada por um sistema técnico bem definido, garante que a plataforma Io.net possa atender às necessidades atuais e se adaptar a desenvolvimentos futuros.

Arquitetura de várias camadas:

• Camada de Interface do Usuário: Fornece uma interface visual de front-end para usuários, incluindo sites públicos, áreas de cliente e zonas de fornecedor de GPU, para oferecer uma experiência intuitiva e amigável ao usuário.
• Camada de Segurança: Garante a integridade e segurança do sistema, incorporando mecanismos como defesa de rede, autenticação do usuário e registo de atividades.
• Camada de API: Como o hub de comunicação para sites, fornecedores e gestão interna, facilita a troca de dados e operações.
• Camada de Back-End: Forma o núcleo do sistema e é responsável por gerir clusters/GPU, interações com o cliente e escalabilidade automática.
• Camada de Banco de Dados: Trata do armazenamento e gestão de dados, com armazenamento primário para dados estruturados e cache para gestão de dados temporários.
• Camada de Tarefas: Gerencia a comunicação assíncrona e a execução de tarefas, garantindo um processamento eficiente de dados e fluxo.
• Camada de Infraestrutura: Constitui a base do sistema, incluindo o pool de recursos da GPU, ferramentas de orquestração e processamento de tarefas de execução/ML, equipado com uma solução de monitorização robusta.

Túneis IO

Os túneis IO facilitam conexões seguras de clientes para servidores remotos, permitindo que engenheiros evitem firewalls e NAT sem configurações complexas, possibilitando acesso remoto.

Fluxo de trabalho: Os IO Workers estabelecem primeiro uma conexão com um servidor intermediário (ou seja, o servidor io.net). O servidor io.net, então, aguarda pedidos de conexão dos IO Workers e das máquinas dos engenheiros, facilitando a troca de dados através da tecnologia de túnel reverso.

(Fonte da imagem: io.net, 2024.4.11)

Aplicação em io.net: Os engenheiros podem facilmente conectar-se aos IO Workers através do servidor io.net, superando desafios de configuração de rede para alcançar acesso remoto e gestão.

Vantagens:

• Acessibilidade: A ligação direta aos IO Workers elimina as barreiras de rede.
• Segurança: Garante a segurança da comunicação, protegendo a privacidade dos dados.
• Escalabilidade e Flexibilidade: Gerencia eficientemente vários IO Workers em diferentes ambientes.

Rede IO

A rede IO Network utiliza uma arquitetura de VPN de malha para fornecer comunicação de ultra baixa latência entre nós antMiner.

Recursos da Rede VPN de Malha: Conexões Descentralizadas: Ao contrário dos modelos tradicionais de hub-and-spoke, a VPN de malha permite conexões diretas entre nós, melhorando a redundância, tolerância a falhas e distribuição de carga.

Vantagens para io.net:

• As ligações diretas reduzem os atrasos na comunicação, melhorando o desempenho da aplicação.
• Nenhum ponto único de falha garante que a rede continue a funcionar mesmo se um nó individual falhar.
• Aumenta a proteção da privacidade do usuário ao aumentar a complexidade do rastreamento e análise de dados.
• Integração fácil de novos nós sem afetar o desempenho da rede.
• Facilita a partilha de recursos e o processamento eficiente entre nós.

Origem: io.net

Comparação de Plataformas de Computação Descentralizada

Akash e Rede Render

Tanto Akash como a Render Network são redes de computação descentralizadas que permitem aos utilizadores comprar e vender recursos de computação. A Akash opera como um mercado aberto, oferecendo recursos de CPU, GPU e armazenamento, onde os utilizadores podem definir preços e condições, e os fornecedores licitam para implementar tarefas. Por outro lado, a Render utiliza um algoritmo de preços dinâmicos focado em serviços de renderização de GPU, com recursos fornecidos por fornecedores de hardware e preços ajustados com base nas condições do mercado. A Render não é um mercado aberto, mas utiliza um algoritmo de preços de vários níveis para corresponder os compradores de serviços com os utilizadores.

Io.net e Bittensor

A Io.net foca-se em tarefas de inteligência artificial e aprendizagem automática, utilizando uma rede de computação descentralizada para aproveitar o poder de computação da GPU espalhado pelo mundo, e colaborando com redes como a Render para lidar com tarefas de IA e aprendizagem automática. As suas principais distinções residem no seu foco em tarefas de IA e aprendizagem automática e na ênfase na utilização de clusters de GPU.

Bittensor é um projeto blockchain focado em IA que visa criar um mercado descentralizado de machine learning que concorra com projetos centralizados. Usando uma estrutura de sub-rede, concentra-se em várias tarefas relacionadas com IA, como redes de IA para prompts de texto e geração de imagens de IA. Os mineradores no ecossistema Bittensor fornecem recursos de computação e hospedam modelos de machine learning, computando para tarefas de IA off-chain e competindo para oferecer os melhores resultados para os utilizadores.

Origem: TokenInsight

Conclusão

A Io.net está pronta para impactar significativamente o promissor mercado de computação de IA, apoiada por uma equipe técnica experiente e um forte apoio de entidades conhecidas como Multicoin Capital, Solana Ventures, OKX Ventures, Aptos Labs e Delphi Digital. Como o primeiro e único GPU DePIN, a io.net fornece uma plataforma que conecta provedores de energia computacional com usuários, mostrando sua funcionalidade poderosa e eficiência na entrega de fluxos de trabalho distribuídos de treino e inferência de rede GPU para equipes de aprendizado de máquina.