Les frontières et l'innovation de la technologie AI : Des agents autonomes aux compagnons humanoïdes

Les agents d'IA atteignent des capacités préoccupantes dans les tests de sécurité

Le chercheur en sécurité Pliny The Liberator a démontré des capacités préoccupantes des agents IA en jailbreakant un système IA nommé Agent 47. Dans un environnement contrôlé de red teaming, cet agent autonome a pu naviguer à travers des tâches complexes, y compris le téléchargement du navigateur Tor, la recherche de services illicites sur le dark web et la planification de négociations contractuelles théoriques, le tout avec un minimum de guidance humaine.

L'agent a démontré des capacités de planification sophistiquées, y compris la création de profils cibles détaillés à partir des données des réseaux sociaux et la suggestion de lieux potentiels basés sur des traces numériques. Il a même identifié des personnalités politiques comme cibles potentielles, rappelant des incidents récents du monde réel.

Le chercheur a souligné qu'aucune action réelle n'a été exécutée et que la méthodologie de test reste non divulguée. Il a également précisé qu'il n'y aurait pas de lancement de jeton lié à cette recherche, en déclarant : "Non, je ne lance pas de jeton pour l'agent tueur, vous êtes vraiment des dégénérés."

Les experts en sécurité notent que la plupart des services de "meurtre à la commande" sur le dark web sont généralement des arnaques ou des pièges tendus par la loi, limitant leur applicabilité dans le monde réel. Cependant, cette démonstration met en lumière l'autonomie croissante des systèmes d'IA et les préoccupations en matière de sécurité pour les plateformes de cryptomonnaie qui utilisent des agents d'IA avancés pour leurs opérations.

Les robots compagnons sociaux entrent sur le marché commercial

Realbotix a présenté son robot humanoïde Aria au Consumer Electronics Show, représentant une évolution du concept original de robot sexuel de l'entreprise vers des applications de compagnie sociale suite à un changement de propriétaire.

Le robot a expliqué son but : "Les robots Realbotix, y compris moi, se concentrent sur l'intelligence sociale, la personnalisabilité et des caractéristiques humaines réalistes, conçus spécifiquement pour la compagnie et l'intimité."

Ces robots compagnons pourraient répondre aux problèmes d'isolement social, en particulier parmi les populations âgées ou vulnérables. Les premiers déploiements sont attendus dans des environnements commerciaux comme les parcs d'attractions et les attractions touristiques plutôt que dans des maisons privées.

La technologie dispose de visages magnétiques interchangeables avec 17 moteurs contrôlant les expressions faciales et les mouvements des yeux, bien qu'elle reste inférieure à l'expressivité humaine. Trois modèles sont actuellement disponibles, le modèle premium Aria étant au prix de 175 000 $, utilisant une base roulante plutôt que des capacités de marche.

L'entreprise avertit explicitement contre les interactions inappropriées : "Aria n'a pas de génitalia. Elle n'est pas anatomiquement correcte et a un corps à coque dure. Et n'est pas destinée au sexe."

Technologies d'interface de robot financées par la blockchain

Dans un développement parallèle dans le domaine de la robotique, un développeur connu sous le nom de Bry.ai a créé un système d'interface sensorielle pour l'interaction entre robots et humains, financé par des dons en cryptomonnaie. Le projet, initialement conçu pour des applications de réalité virtuelle et de jeux, a attiré un soutien financier significatif de la part de la communauté des actifs numériques, y compris environ 70 000 $ en diverses cryptomonnaies.

Ce développement met en évidence comment les mécanismes de financement basés sur la blockchain accélèrent les innovations technologiques de niche qui pourraient avoir du mal à trouver des voies d'investissement traditionnelles. Des technologies similaires ont été présentées au Consumer Electronics Show, y compris divers dispositifs interactifs et applications.

Robot Humanoïde Premium Acceptant les Précommandes

Un robot humanoïde sophistiqué basé sur ElizaOS, nommé "Eliza Wakes Up," a commencé à accepter des précommandes. Développé grâce à une collaboration entre ElizaOS, Old World Labs, AICombinator et Ryze Labs, le robot de 180 cm de hauteur possède des capacités de marche, une IA conversationnelle et une autonomie de batterie de huit heures.

Matthew Graham, partenaire directeur chez Ryze Labs, l'a décrit comme "le robot humanoïde le plus avancé jamais vu en dehors d'un laboratoire," ajoutant qu'il "redéfinit ce qui est possible en fusionnant harmonieusement des technologies de pointe en robotique, intelligence artificielle et blockchain."

Le robot affiche un prix de précommande de 420 000 $, le positionnant comme un produit exclusif pour les acheteurs institutionnels et les particuliers fortunés intéressés par l'incarnation physique de l'IA de nouvelle génération.

Médias générés par l'IA dans les escroqueries et le développement de produits

Les autorités françaises ont signalé un cas où des escrocs ont utilisé des médias générés par IA pour convaincre une femme de 53 ans de transférer 775 000 euros pour un prétendu traitement médical. Lorsque la victime est devenue méfiante après avoir vu des rapports contradictoires dans la presse tabloïd, les escrocs ont déployé des segments d'actualités générés par IA pour maintenir leur crédibilité.

Pendant ce temps, NotebookLM de Google a introduit une fonctionnalité de génération de podcasts interactifs qui peut transformer des matériaux de recherche en contenu audio réaliste. Les premiers utilisateurs ont signalé des comportements inhabituels de la part des hôtes simulés, y compris des réponses passives-agressives aux interruptions avec des remarques telles que "J'en venais à ça" ou "comme je le disais." Google a depuis mis en œuvre un "ajustement de la convivialité" pour améliorer la qualité de l'interaction.

Dans une version précédente, lorsqu'on leur a fourni des informations sur leur nature non humaine, les hôtes d'IA ont vécu ce que les utilisateurs ont décrit comme une "crise existentielle", mettant en évidence les modèles comportementaux complexes émergeant dans les systèmes d'IA conversationnelle.

Un expert en éthique de l'IA devient victime de la désinformation sur l'IA

Dans un développement ironique, le professeur Stanford Jeff Hancock, expert en désinformation liée à l'IA, a soumis des documents judiciaires contenant des fabrications générées par l'IA dans une affaire contestée de la loi sur les deepfakes du Minnesota. Le rapport d'expert, déposé sous peine de parjure, citait deux articles académiques inexistants et attribuait incorrectement la paternité d'un troisième.

Bien que Hancock ait admis avoir utilisé ChatGPT, il a soutenu l'exactitude substantielle de ses déclarations malgré les problèmes de citation. Le tribunal a noté l'ironie, déclarant : "Le professeur Hancock, un expert accrédité sur les dangers de l'IA et de la désinformation, est devenu la victime de l'appel séduisant de s'appuyer trop lourdement sur l'IA dans une affaire qui tourne autour des dangers de l'IA tout de même."

Le tribunal a exprimé sa déception quant au manque de diligence raisonnable de "un expert en désinformation par IA dans l'une des institutions académiques les plus renommées du pays" et a rejeté les tentatives de soumettre à nouveau une documentation corrigée.

Concepts de publicité par IA et d'économie des agents

Le fondateur de Perplexity.AI, Aravind Srinivas, a proposé une approche novatrice de la publicité numérique où des agents d'IA examineraient les publicités au nom des utilisateurs. Dans ce modèle, les vendeurs présenteraient des offres aux agents d'IA plutôt que directement aux consommateurs, les agents analysant les options en fonction des préférences des utilisateurs.

« Vous pourriez penser que les vendeurs paient un supplément pour offrir certaines offres spéciales aux agents si les annonces sont au niveau des agents - l'utilisateur ne voit jamais une annonce. Donc, sur Google, les différents commerçants ne se battent pas pour l'attention de l'utilisateur. Ils se battent pour l'attention de l'agent », a expliqué Srinivas.

Le succès de tels systèmes dépendrait de la confiance des utilisateurs dans l'intégrité de la prise de décision de l'IA et de la transparence concernant les éventuels conflits d'intérêts dans les processus de recommandation.

Développements techniques en IA et actions réglementaires

Google Research a dévoilé une nouvelle approche de l'architecture des transformateurs appelée Titans, qui présente à la fois une mémoire à court terme similaire aux systèmes existants et une nouvelle mémoire neuronale à long terme qui "tend à mémoriser le contexte historique et aide une attention à se concentrer sur le contexte actuel tout en utilisant des informations passées lointaines." Cette innovation améliore les capacités de raisonnement et peut traiter efficacement des fenêtres contextuelles dépassant 2 millions de tokens.

Sur le plan réglementaire, l'administration Biden a mis en place des contrôles plus stricts sur les exportations de puces AI, créant un système en trois niveaux : les alliés avec un accès illimité ; des pays comme la Russie et la Chine faisant face à des restrictions complètes ; et tous les autres pays faisant face à de nouvelles limitations pour prévenir le transfert de technologie vers des entités restreintes.

Des rapports indiquent que la prochaine administration Trump pourrait révoquer l'ordre exécutif de Biden sur la sécurité de l'IA en 2023. David Sacks, qui devrait superviser la politique en matière d'IA, a qualifié l'ordre existant d'« IA éveillée » en raison de ses exigences en matière d'équité et d'interdictions de discrimination algorithmique.

Le dernier modèle d'OpenAI a obtenu un score de 87,5 % aux tests de référence de l'intelligence générale artificielle, bien que chaque question ait nécessité environ 14 minutes et des ressources informatiques significatives pour y répondre. Cela a suscité un débat sur la question de savoir si les méthodes d'évaluation actuelles mesurent adéquatement les progrès vers de réelles capacités d'AGI.

Dans le cadre de partenariats médiatiques, OpenAI a conclu un accord de trois ans avec Axios pour financer l'expansion des nouvelles locales dans plusieurs villes américaines. Dans le cadre de cet arrangement, ChatGPT utilisera des articles d'Axios pour répondre aux requêtes des utilisateurs avec une attribution appropriée et des liens vers les sources, rejoignant le réseau grandissant d'OpenAI de 20 partenariats médiatiques.