Perdebatan Jalur Pengembangan AI Dipicu oleh Kinerja Manus

Baru-baru ini, Manus mencapai prestasi terobosan dalam pengujian benchmark GAIA, dengan kinerjanya melampaui model bahasa besar sekelasnya. Manus menunjukkan kemampuan untuk menyelesaikan tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara, yang melibatkan analisis klausul kontrak, perumusan strategi, dan pembuatan rencana di berbagai tahap. Dibandingkan dengan sistem tradisional, keunggulan Manus terletak pada pemecahan tujuan dinamis, penalaran lintas moda, dan kemampuan pembelajaran yang diperkuat oleh ingatan. Ia dapat memecah tugas kompleks menjadi ratusan sub-tugas yang dapat dieksekusi, sekaligus memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.

Terobosan Manus sekali lagi memicu diskusi di industri tentang jalur perkembangan AI: Apakah masa depan menuju kecerdasan buatan umum (AGI) yang mendominasi, atau sistem multi-agensi (MAS) yang berkolaborasi untuk memimpin?

Konsep desain Manus mengandung dua kemungkinan:

1. Jalur AGI: Meningkatkan tingkat kecerdasan individu secara terus-menerus, mendekati kemampuan pengambilan keputusan manusia yang komprehensif.

2. Jalur MAS: Sebagai koordinator super, mengarahkan ribuan agen cerdas di berbagai bidang untuk bekerja sama.

Secara superficial, ini adalah perbedaan jalur teknologi yang berbeda, namun sebenarnya mencerminkan kontradiksi mendalam tentang bagaimana menyeimbangkan efisiensi dan keamanan dalam perkembangan AI. Semakin dekat kecerdasan tunggal ke AGI, semakin tinggi risiko ketidaktransparan dalam proses pengambilan keputusannya; sementara kolaborasi multi-agen dapat menyebar risiko, namun mungkin kehilangan momen pengambilan keputusan yang krusial karena keterlambatan komunikasi.

Kemajuan Manus juga menyoroti risiko inheren dari perkembangan AI:

1. Masalah privasi data: Dalam konteks medis, perlu mengakses data sensitif pasien; dalam negosiasi keuangan, mungkin melibatkan informasi yang tidak dipublikasikan oleh perusahaan.

2. Bias algoritma: Dalam negosiasi perekrutan, mungkin ada saran gaji yang tidak adil untuk kelompok tertentu; dalam pemeriksaan kontrak hukum, ada kemungkinan tingkat kesalahan yang lebih tinggi dalam penilaian ketentuan industri baru.

3. Serangan adversarial: Hacker dapat mengganggu penilaian sistem AI dengan menyisipkan sinyal tertentu.

Tantangan ini menyoroti kenyataan yang keras: semakin cerdas sistem AI, semakin luas pula potensi permukaan serangannya.

Untuk menghadapi tantangan ini, industri sedang menjelajahi berbagai strategi keamanan:

1. Model keamanan zero trust: mengharuskan otentikasi dan otorisasi yang ketat untuk setiap permintaan akses.

2. Identitas Terdesentralisasi (DID): Mewujudkan identifikasi yang dapat diverifikasi dan tahan lama, tanpa bergantung pada registri terpusat.

3. Enkripsi homomorfik penuh (FHE): memungkinkan perhitungan data dalam keadaan terenkripsi, melindungi privasi data.

Di antaranya, FHE dianggap sebagai teknologi kunci untuk menyelesaikan masalah keamanan di era AI. Ini dapat berfungsi dalam hal-hal berikut:

• Tingkat data: Semua informasi yang dimasukkan oleh pengguna diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.

• Tingkat algoritma: Mewujudkan "pelatihan model terenkripsi" melalui FHE, memastikan proses pengambilan keputusan AI tidak dapat disusupi.

• Tingkat kolaborasi: Komunikasi antara beberapa agen menggunakan enkripsi ambang untuk mencegah kegagalan titik tunggal yang dapat menyebabkan kebocoran data global.

Meskipun perkembangan teknologi keamanan Web3 mungkin tidak memiliki hubungan langsung dengan pengguna biasa, namun itu sangat penting untuk perkembangan sehat seluruh ekosistem. Di era perkembangan AI yang cepat ini, pentingnya teknologi keamanan tidak perlu diragukan lagi.

Dengan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, kita memerlukan sistem pertahanan yang lebih maju. Teknologi keamanan seperti FHE tidak hanya dapat menyelesaikan masalah saat ini, tetapi juga membuka jalan menuju era AI yang lebih kuat di masa depan. Di jalan menuju AGI, teknologi keamanan ini tidak lagi menjadi pilihan, tetapi menjadi kebutuhan untuk bertahan hidup.