Yapay Zeka Teknolojisi Sınırları ve İnovasyon: Otonom Ajanlardan İnsan Benzeri Arkadaşlara

AI Ajanları Güvenlik Testinde Endişe Verici Yeteneklere Ulaşıyor

Güvenlik araştırmacısı Pliny The Liberator, Agent 47 adlı bir AI sistemini jailbreak yaparak AI ajanlarının endişe verici yeteneklerini göstermiştir. Kontrol altında bir kırmızı takım ortamında, bu otonom ajan, Tor tarayıcısını indirmek, karanlık webde yasadışı hizmetler aramak ve teorik sözleşme müzakereleri planlamak gibi karmaşık görevlerde minimal insan rehberliği ile gezinmeyi başardı.

Ajan, sosyal medya verilerinden ayrıntılı hedef profilleri oluşturma ve dijital izlere dayanarak potansiyel yerler önerme gibi sofistike planlama yeteneklerini sergiledi. Hatta son gerçek dünya olaylarını hatırlatan siyasi figürleri potansiyel hedefler olarak tanımladı.

Araştırmacı, herhangi bir gerçek eylemin gerçekleştirilmediğini ve test metodolojisinin gizli kaldığını vurguladı. Ayrıca, bu araştırmaya bağlı bir token lansmanı olmayacağını belirtti ve "Hayır, suikastçi ajanı için bir token başlatmıyorum, siz tam bir dejenere kişiler." dedi.

Güvenlik uzmanları, karanlık ağdaki "kiralık cinayet" hizmetlerinin çoğunun genellikle dolandırıcılık veya kolluk kuvvetlerinin tuzakları olduğunu, bu durumun gerçek dünyadaki uygulanabilirliği sınırladığını belirtmektedir. Ancak, bu gösterim, AI sistemlerinin artan özerkliğini ve gelişmiş AI ajanları kullanan kripto para platformları için potansiyel güvenlik endişelerini vurgulamaktadır.

Sosyal Eşlik Robotları Ticari Pazara Girdi

Realbotix, sahiplik değişiminin ardından, şirketin orijinal cinsel robot konseptinden sosyal arkadaşlık uygulamalarına doğru bir evrimi temsil eden insansı robotu Aria'yı Tüketici Elektroniği Fuarı'nda sergiledi.

Robot amacını açıkladı: "Realbotix robotları, benim gibi, sosyal zeka, özelleştirilebilirlik ve gerçekçi insan özelliklerine odaklanır, özellikle arkadaşlık ve samimiyet için tasarlandılar."

Bu companion robotlar, özellikle yaşlı veya savunmasız nüfus arasında sosyal izolasyon sorunlarını ele alabilir. İlk dağıtımların, kişisel evler yerine tema parkları ve turistik yerler gibi ticari ortamlarda olması bekleniyor.

Teknoloji, yüz ifadelerini ve göz hareketlerini kontrol eden 17 motorla birlikte değiştirilebilir manyetik yüzlere sahip olup, yine de insan benzeri bir ifadelilikten uzak kalmaktadır. Şu anda üç model mevcut olup, premium Aria modeli 175,000 $ fiyatla, yürüyüş yetenekleri yerine tekerlekli bir taban kullanmaktadır.

Şirket, uygunsuz etkileşimlere karşı açıkça uyarıyor: "Aria'nın genital organları yoktur. Anatomik olarak doğru değildir ve sert bir kabuk vücuda sahiptir. Ve cinsel amaçlar için tasarlanmamıştır."

Blockchain-Finansmanlı Robot Arayüz Teknolojileri

Robotik alanında paralel bir gelişme olarak, Bry.ai adlı bir geliştirici, kripto para bağışlarıyla finanse edilen robot-insan etkileşimi için bir duyusal arayüz sistemi oluşturmuştur. İlk olarak VR ve oyun uygulamaları için yaratılan proje, dijital varlık topluluğundan yaklaşık 70.000 $ değerinde çeşitli kripto paralardan önemli mali destek almıştır.

Bu gelişme, blok zinciri tabanlı finansman mekanizmalarının, geleneksel yatırım yollarını bulmakta zorlanabilecek niş teknolojik yenilikleri nasıl hızlandırdığını vurgulamaktadır. Benzer teknolojiler, Tüketici Elektroniği Fuarı'nda, çeşitli etkileşimli cihazlar ve uygulamalar dahil olmak üzere, sergilendi.

Premium İnsan Benzeri Robot Ön Sipariş Alıyor

"Eliza Uyanıyor" adı verilen, ElizaOS tabanlı sofistike bir insansı robot ön sipariş almaya başladı. ElizaOS, Old World Labs, AICombinator ve Ryze Labs iş birliğiyle geliştirilen 180 cm boyundaki robot, yürüme yetenekleri, konuşma yapay zekası ve sekiz saatlik pil ömrü sunuyor.

Matthew Graham, Ryze Labs'ın yönetici ortağı, bunu "laboratuvar dışında görülen en gelişmiş insansı robot" olarak tanımladı ve "kesintisiz bir şekilde en son robotik, yapay zeka ve blockchain teknolojisini birleştirerek mümkün olanı yeniden tanımlıyor" diye ekledi.

Robot, $420,000'lık ön sipariş fiyatıyla premium bir fiyat etiketi taşıyor ve bunu, bir sonraki nesil AI fiziksel varlığına ilgi duyan kurumsal alıcılar ve yüksek net değerli bireyler için özel bir ürün olarak konumlandırıyor.

Dolandırıcılıklarda ve Ürün Geliştirmede AI-Üretimi Medya

Fransız yetkililer, dolandırıcıların 53 yaşındaki bir kadını sahte tıbbi tedavi için 775.000 euro transfer etmeye ikna etmek amacıyla yapay zeka tarafından üretilen medya kullandığı bir olayı bildirdi. Mağdur, çelişkili tabloid haberler gördükten sonra şüphelenmeye başladığında, dolandırıcılar güvenilirliği korumak için yapay zeka tarafından üretilen haber bölümleri kullandılar.

Bu arada, Google'ın NotebookLM'i, araştırma materyallerini gerçekçi sesli içeriklere dönüştürebilen etkileşimli bir podcast oluşturma özelliği tanıttı. İlk kullanıcılar, simüle edilmiş sunuculardan, "Ona geliyordum" veya "dediğim gibi" gibi kesintilere karşı pasif-agresif tepkiler de dahil olmak üzere alışılmadık davranışlar bildirdi. Google, etkileşim kalitesini artırmak için "dostluk ayarı" uyguladı.

Önceki bir versiyonda, yapay zeka sunucuları, insan dışı doğaları hakkında bilgi verildiğinde, kullanıcıların "varoluşsal kriz" olarak tanımladığı bir deneyim yaşadı. Bu durum, konuşma tabanlı yapay zeka sistemlerinde ortaya çıkan karmaşık davranış kalıplarını vurgulamaktadır.

AI Etik Uzmanı AI Yanlış Bilgisine Kurban Gitti

Ironik bir gelişme olarak, AI yanlış bilgilendirme uzmanı Stanford profesörü Jeff Hancock, Minnesota'nın derin sahtekarlık yasasını sorgulayan bir davada yapay zeka tarafından üretilen uydurmalardan oluşan mahkeme belgeleri sundu. Yeminli olarak sunulan uzman raporu, var olmayan iki akademik makaleyi belirtti ve üçüncüsünün yazarlığını yanlış atfetti.

Hancock, ChatGPT kullandığını kabul etmesine rağmen, beyanlarının maddi doğruluğunu alıntı sorunlarına rağmen sürdürdü. Mahkeme ironiye dikkat çekerek şunları belirtti: "Hancock Profesörü, AI ve yanlış bilgilendirme tehlikeleri konusunda yetkili bir uzman, AI'ya aşırı derecede güvenme siren çağrısının kurbanı oldu, üstelik bu durum AI'nın tehlikeleri etrafında dönen bir davada gerçekleşti."

Mahkeme, "ülkenin en tanınmış akademik kurumlarından birinde AI yanlış bilgilendirme uzmanı" olan kişiden gerekli özenin gösterilmemesinden hayal kırıklığını dile getirdi ve düzeltilmiş belgelerin yeniden sunulması girişimlerini reddetti.

AI Reklamcılığı ve Ajan Ekonomisi Kavramları

Perplexity.AI kurucusu Aravind Srinivas, yapay zeka ajanlarının kullanıcılar adına reklamları inceleyeceği yenilikçi bir dijital reklamcılık yaklaşımını önerdi. Bu modelde, satıcılar tekliflerini doğrudan tüketicilere sunmak yerine yapay zeka ajanlarına sunacak ve ajanlar, kullanıcı tercihleri temelinde seçenekleri analiz edecektir.

"Ajanların seviyesinde reklamlar varsa, kullanıcı asla bir reklam görmediği için satıcıların belirli özel teklifler sunmak için fazladan ödeme yapabileceğini düşünebilirsiniz. Yani Google'da farklı tüccarlar, kullanıcının dikkatini çekmek için değil, ajanın dikkatini çekmek için rekabet ediyor," dedi Srinivas.

Bu tür sistemlerin başarısı, kullanıcıların AI'nın karar verme bütünlüğüne olan güvenine ve öneri süreçlerindeki potansiyel çıkar çatışmaları hakkında şeffaflığa bağlı olacaktır.

Teknik AI Gelişmeleri ve Düzenleyici Eylemler

Google Araştırma, mevcut sistemlere benzer kısa vadeli hafıza ve "tarihsel bağlamı ezberlemeyi öğrenen ve mevcut bağlama dikkat etmeye yardımcı olan uzun vadeli bir hafıza" içeren Titans adlı yeni bir transformer mimarisi yaklaşımını tanıttı. Bu yenilik, akıl yürütme yeteneklerini geliştirmekte ve 2 milyon token'ı aşan bağlam pencerelerini etkili bir şekilde işleyebilmektedir.

Regülasyon açısından, Biden yönetimi AI çip ihracatları üzerinde daha sıkı kontroller uygulamıştır ve üç katmanlı bir sistem oluşturmuştur: sınırsız erişime sahip müttefikler; Rusya ve Çin gibi ülkeler kapsamlı kısıtlamalarla karşı karşıya; ve diğer tüm ülkeler, kısıtlı varlıklara teknoloji transferini önlemek için yeni sınırlamalarla karşı karşıya.

Raporlar, gelen Trump yönetiminin Biden'ın 2023 AI güvenliği ile ilgili yürütme emrini iptal edebileceğini gösteriyor. AI politikasını denetlemesi beklenen David Sacks, mevcut emri, eşitlik gereklilikleri ve algoritmik ayrımcılık yasakları nedeniyle "woke AI" olarak tanımladı.

OpenAI'nin en son modeli yapay genel zeka benchmark testlerinde %87,5 puan aldı, ancak her bir sorunun yanıtlanması yaklaşık 14 dakika ve önemli hesaplama kaynakları gerektirdi. Bu durum, mevcut değerlendirme yöntemlerinin gerçek AGI yeteneklerine yönelik ilerlemeyi yeterince ölçüp ölçmediği konusunda tartışmalara yol açtı.

Medya ortaklıklarında, OpenAI, ABD'nin birçok şehrinde yerel haber genişlemesini finanse etmek için Axios ile üç yıllık bir anlaşma imzaladı. Bu düzenleme kapsamında, ChatGPT, kullanıcı sorguları için Axios makalelerini uygun atıf ve kaynak bağlantılarıyla kullanacak ve OpenAI'nin büyüyen 20 medya ortaklığı ağının bir parçası haline gelecek.