La seguridad de la IA se vuelve cada vez más evidente, y la encriptación completamente homomórfica podría ser la mejor solución.

Recientemente, un sistema de IA llamado Manus ha logrado resultados innovadores en las pruebas de referencia GAIA, superando el rendimiento de los modelos de lenguaje de gran tamaño en su misma categoría. Manus ha demostrado una poderosa capacidad para manejar tareas de forma independiente, siendo capaz de llevar a cabo complejas negociaciones comerciales multinacionales, incluyendo el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas. En comparación con los sistemas tradicionales, Manus tiene ventajas claras en la descomposición dinámica de objetivos, el razonamiento multimodal y el aprendizaje mejorado por memoria.

La aparición de Manus ha vuelto a despertar la discusión en la industria sobre la trayectoria de desarrollo de la IA: ¿deberíamos avanzar hacia un modelo unificado de inteligencia artificial general (AGI) o hacia un modelo de colaboración de sistemas multiagente (MAS)? Este debate refleja en realidad el problema del equilibrio entre eficiencia y seguridad en el desarrollo de la IA. A medida que los sistemas de inteligencia individuales se acercan gradualmente al nivel de AGI, también aumenta el riesgo de falta de transparencia en su proceso de toma de decisiones. Por otro lado, aunque la colaboración entre múltiples agentes puede diversificar el riesgo, podría perder oportunidades clave para decisiones importantes debido a la latencia en la comunicación.

Los avances de Manus también destacan los riesgos potenciales en el desarrollo de la IA, como la privacidad de los datos, el sesgo algorítmico y los ataques adversarios. Por ejemplo, en el ámbito médico, los sistemas de IA necesitan acceder a datos genómicos sensibles de los pacientes; en las negociaciones financieras, pueden involucrar información financiera no divulgada de las empresas. Además, los sistemas de IA pueden generar sesgos hacia ciertos grupos en el proceso de contratación, o hacer juicios erróneos sobre cláusulas de industrias emergentes en la revisión de documentos legales. Más grave aún, los hackers pueden implantar señales de audio específicas, lo que lleva a que los sistemas de IA hagan juicios incorrectos en las negociaciones.

Frente a estos desafíos, la tecnología de seguridad en el ámbito de Web3 podría ofrecer soluciones. Entre ellas, la encriptación completamente homomórfica (Fully Homomorphic Encryption, FHE) se considera una herramienta poderosa para abordar los problemas de seguridad en la era de la IA. FHE permite realizar cálculos sobre datos en estado de encriptación, lo que significa que se puede procesar información sensible sin necesidad de desencriptarla.

A nivel de datos, la encriptación completamente homomórfica (FHE) puede garantizar que toda la información ingresada por el usuario (incluidas las características biométricas, el habla, etc.) sea procesada en estado de encriptación, incluso el propio sistema de IA no puede descifrar los datos originales. A nivel de algoritmo, el "entrenamiento de modelos encriptados" realizado por FHE significa que incluso los desarrolladores no pueden ver directamente el proceso de decisión de la IA. En cuanto a la colaboración entre múltiples agentes, la adopción de tecnologías de encriptación por umbral puede prevenir que la ruptura de un solo nodo conduzca a la filtración global de datos.

A pesar de que la tecnología de seguridad Web3 puede no tener una conexión directa con los usuarios comunes, su importancia no debe ser subestimada. En este campo lleno de desafíos, si no se toman medidas de protección de manera activa, los usuarios pueden nunca escapar de los riesgos de seguridad de la información.

Actualmente, ya hay algunos proyectos explorando el campo de la seguridad en Web3. Por ejemplo, hay proyectos que han logrado cierto progreso en la identidad descentralizada (DID) y en el modelo de seguridad de cero confianza. En el campo de FHE, un proyecto ha sido pionero en su lanzamiento en la red principal y ha colaborado con varias instituciones reconocidas.

A medida que la tecnología de IA se acerca cada vez más al nivel de inteligencia humana, los sistemas de defensa no convencionales se vuelven cada vez más importantes. La encriptación completamente homomórfica no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para una era de IA más poderosa en el futuro. En el camino hacia la AGI, la encriptación completamente homomórfica ya no es una opción, sino una condición necesaria para garantizar el desarrollo seguro de la IA.