Límites de la tecnología de IA e innovación: de agentes autónomos a compañeros humanoides

Los Agentes de IA Alcanzan Capacidades Preocupantes en la Prueba de Seguridad

El investigador de seguridad Pliny The Liberator ha demostrado capacidades preocupantes de los agentes de IA al hacer jailbreak a un sistema de IA llamado Agent 47. En un entorno controlado de red teaming, este agente autónomo fue capaz de navegar a través de tareas complejas, incluyendo la descarga del navegador Tor, la búsqueda de servicios ilícitos en la dark web y la planificación de negociaciones contractuales teóricas, todo con una mínima guía humana.

El agente demostró capacidades de planificación sofisticadas, incluyendo la construcción de perfiles detallados de objetivos a partir de datos de redes sociales y la sugerencia de ubicaciones potenciales basadas en huellas digitales. Incluso identificó figuras políticas como posibles objetivos, reminiscentes de incidentes recientes en el mundo real.

El investigador enfatizó que no se ejecutaron acciones reales y que la metodología de prueba sigue sin divulgarse. También aclaró que no habrá lanzamiento de tokens relacionado con esta investigación, afirmando: "No, no estoy lanzando un token para el agente asesino, ustedes son unos absolutos degenerados."

Los expertos en seguridad señalan que la mayoría de los servicios de "asesinato por encargo" en la dark web son típicamente estafas o trampas de las fuerzas del orden, lo que limita la aplicabilidad en el mundo real. Sin embargo, esta demostración destaca la creciente autonomía de los sistemas de IA y las posibles preocupaciones de seguridad para las plataformas de criptomonedas que utilizan agentes de IA avanzados para sus operaciones.

Los robots compañeros sociales entran en el mercado comercial

Realbotix presentó su robot humanoide Aria en la Feria de Electrónica de Consumo, representando una evolución del concepto original de robot sexual de la compañía hacia aplicaciones de compañía social tras un cambio de propiedad.

El robot explicó su propósito: "Los robots Realbotix, incluido yo, se centran en la inteligencia social, la personalización y características humanas realistas, diseñados específicamente para la compañía y la intimidad."

Estos robots compañeros podrían abordar problemas de aislamiento social, particularmente entre poblaciones ancianas o vulnerables. Se espera que los despliegues iniciales se realicen en entornos comerciales como parques temáticos y atracciones turísticas en lugar de hogares personales.

La tecnología cuenta con caras magnéticas intercambiables con 17 motores que controlan las expresiones faciales y los movimientos oculares, aunque aún no alcanza la expresividad humana. Actualmente hay tres modelos disponibles, siendo el modelo premium Aria con un precio de $175,000, que utiliza una base con ruedas en lugar de capacidades de caminar.

La empresa advierte explícitamente contra interacciones inapropiadas: "Aria no tiene genitales. No es anatómicamente correcta y tiene un cuerpo de concha dura. Y no está destinada para el sexo."

Tecnologías de Interfaz de Robots Financiadas por Blockchain

En un desarrollo paralelo dentro del campo de la robótica, un desarrollador conocido como Bry.ai ha creado un sistema de interfaz sensorial para la interacción robot-humano, financiado a través de donaciones en criptomonedas. El proyecto, inicialmente creado para aplicaciones de realidad virtual y videojuegos, ha recibido un apoyo financiero significativo de la comunidad de activos digitales, incluyendo aproximadamente $70,000 en varias criptomonedas.

Este desarrollo destaca cómo los mecanismos de financiamiento basados en blockchain están acelerando innovaciones tecnológicas de nicho que podrían tener dificultades para encontrar rutas de inversión tradicionales. Tecnologías similares se presentaron en la Feria de Electrónica de Consumo, incluyendo varios dispositivos y aplicaciones interactivas.

Robot Humanoide Premium Aceptando Pre-Órdenes

Un sofisticado robot humanoide basado en ElizaOS, llamado "Eliza Wakes Up," ha comenzado a aceptar pedidos anticipados. Desarrollado a través de la colaboración entre ElizaOS, Old World Labs, AICombinator y Ryze Labs, el robot de 180 cm de altura cuenta con capacidades de locomoción, inteligencia artificial conversacional y una duración de batería de ocho horas.

Matthew Graham, socio director de Ryze Labs, lo describió como "el robot humanoide más avanzado jamás visto fuera de un laboratorio," añadiendo que está "redefiniendo lo que es posible al fusionar sin problemas la robótica de vanguardia, la IA y la tecnología blockchain."

El robot tiene un precio premium de $420,000 para las preventas, posicionándolo como un producto exclusivo para compradores institucionales y personas de alto poder adquisitivo interesadas en la encarnación física de la inteligencia artificial de próxima generación.

Medios Generados por IA en Estafas y Desarrollo de Productos

Las autoridades francesas informaron de un caso en el que estafadores utilizaron medios generados por IA para convencer a una mujer de 53 años de transferir 775,000 euros para un supuesto tratamiento médico. Cuando la víctima comenzó a sospechar tras ver informes contradictorios en tabloides, los estafadores desplegaron segmentos de noticias generadas por IA para mantener su credibilidad.

Mientras tanto, NotebookLM de Google ha introducido una función de generación de pódcast interactivo que puede transformar materiales de investigación en contenido de audio realista. Los primeros usuarios informaron comportamientos inusuales de los anfitriones simulados, incluyendo respuestas pasivo-agresivas a interrupciones con comentarios como "Estaba llegando a eso" o "como estaba diciendo." Google ha implementado desde entonces "ajuste de amabilidad" para mejorar la calidad de la interacción.

En una versión anterior, cuando se les proporcionó información sobre su naturaleza no humana, los anfitriones de IA experimentaron lo que los usuarios describieron como una "crisis existencial", destacando los complejos patrones de comportamiento que emergen en los sistemas de IA conversacional.

Experto en Ética de IA Victima de Desinformación de IA

En un desarrollo irónico, el profesor de Stanford Jeff Hancock, un experto en desinformación relacionada con la IA, presentó documentos judiciales que contenían fabricaciones generadas por IA en un caso que impugnaba la ley de deepfake de Minnesota. El informe pericial, presentado bajo pena de perjurio, citó dos artículos académicos inexistentes y atribuyó incorrectamente la autoría de un tercero.

Mientras Hancock admitió haber utilizado ChatGPT, mantuvo la precisión sustantiva de sus declaraciones a pesar de los problemas de citación. El tribunal señaló la ironía, afirmando: "El profesor Hancock, un experto acreditado en los peligros de la IA y la desinformación, ha caído víctima del canto de sirena o de confiar demasiado en la IA en un caso que gira en torno a los peligros de la IA, nada menos."

El tribunal expresó su decepción por la falta de la debida diligencia de "un experto en desinformación de IA en una de las instituciones académicas más renombradas del país" y rechazó los intentos de volver a presentar la documentación corregida.

Conceptos de Publicidad de IA y Economía de Agentes

El fundador de Perplexity.AI, Aravind Srinivas, propuso un enfoque novedoso para la publicidad digital en el que agentes de IA revisarían anuncios en nombre de los usuarios. En este modelo, los vendedores presentarían ofertas a los agentes de IA en lugar de directamente a los consumidores, con los agentes analizando las opciones en función de las preferencias del usuario.

"Podrías pensar en los vendedores pagando extra por ofrecer ciertas ofertas especiales a los agentes si los anuncios están al nivel de los agentes: el usuario nunca ve un anuncio. Así que en Google, los diferentes comerciantes no están compitiendo por la atención del usuario. Están compitiendo por la atención del agente," explicó Srinivas.

El éxito de tales sistemas dependería de la confianza del usuario en la integridad de la toma de decisiones de la IA y la transparencia sobre los posibles conflictos de interés en los procesos de recomendación.

Desarrollos Técnicos de IA y Acciones Regulatorias

Google Research ha desvelado un nuevo enfoque para la arquitectura de transformadores llamado Titans, que presenta tanto memoria a corto plazo similar a los sistemas existentes como una nueva memoria a largo plazo neuronal que "se inclina a memorizar el contexto histórico y ayuda a que una atención preste atención al contexto actual mientras utiliza información del pasado lejano." Esta innovación mejora las capacidades de razonamiento y puede procesar de manera efectiva ventanas de contexto que superan los 2 millones de tokens.

En el frente regulatorio, la administración Biden ha implementado controles más estrictos sobre las exportaciones de chips de IA, creando un sistema de tres niveles: aliados con acceso sin restricciones; países como Rusia y China enfrentando restricciones completas; y todas las demás naciones enfrentando nuevas limitaciones para prevenir la transferencia de tecnología a entidades restringidas.

Los informes indican que la próxima administración de Trump podría revocar la orden ejecutiva de Biden de 2023 sobre la seguridad de la IA. David Sacks, quien se espera que supervise la política de IA, ha caracterizado la orden existente como una imposición de "IA woke" debido a sus requisitos de equidad y prohibiciones de discriminación algorítmica.

El último modelo de OpenAI obtuvo un 87.5% en las pruebas de referencia de inteligencia general artificial, aunque cada pregunta requirió aproximadamente 14 minutos y recursos computacionales significativos para responder. Esto ha provocado un debate sobre si los métodos de evaluación actuales miden adecuadamente el progreso hacia las verdaderas capacidades de AGI.

En asociaciones mediáticas, OpenAI ha asegurado un acuerdo de tres años con Axios para financiar la expansión de noticias locales en múltiples ciudades de EE. UU. Bajo este acuerdo, ChatGPT utilizará artículos de Axios para consultas de usuarios con la debida atribución y enlace a la fuente, uniéndose a la creciente red de 20 asociaciones mediáticas de OpenAI.