Kebangkitan "budidaya udang lobster" secara nasional, lembaga keuangan tetap berpikir "dingin"

Dalam waktu dekat, seiring dengan viralnya di internet agen AI sumber terbuka “OpenClaw” (karena ikon berupa udang merah, yang dijuluki “memelihara udang”), pihak berwenang terus mengeluarkan peringatan risiko.

Pada 10 Maret, Pusat Respon Darurat Internet Nasional merilis peringatan risiko terkait aplikasi aman OpenClaw; sebelumnya, Kementerian Industri dan Teknologi Informasi juga mengeluarkan pernyataan bahwa “Udang (OpenClaw)” dalam konfigurasi default atau yang tidak tepat sangat rentan menyebabkan serangan siber, kebocoran informasi, dan masalah keamanan lainnya.

Perlu dicatat bahwa dibandingkan dengan antusiasme di pasar umum, tanggapan dari lembaga keuangan tampak jauh lebih “tenang”.

Secara umum, lembaga keuangan belum melakukan penerapan

Seorang karyawan dari sebuah bank kota di wilayah Utara China mengatakan kepada wartawan, “Saat ini, belum pernah melakukan pengujian integrasi agen ini dalam operasional bisnis, secara keseluruhan masih berhati-hati.” Ia menambahkan, “Ada pelanggan yang menanyakan, tetapi perusahaan saat ini tidak mengintegrasikan OpenClaw dalam bisnisnya dan tidak mengizinkan penggunaannya.” Seorang pegawai dari sebuah perusahaan sekuritas di wilayah Utara China juga menyatakan hal yang sama.

Seorang pegawai dari sebuah bank saham di wilayah Selatan China mengatakan kepada wartawan, “Terminal kantor departemen dilarang memasang agen sumber terbuka seperti ini, sementara ponsel pribadi belum diawasi.” Ia menambahkan bahwa di departemennya ada rekan yang menginstal dan mencoba OpenClaw di perangkat pribadi, merasa ada risiko keamanan tertentu, dan kemudian menghapusnya.

Dari berbagai tanggapan dari bank dan perusahaan sekuritas, secara umum lembaga keuangan bersikap menunggu dan melihat terhadap agen sumber terbuka seperti OpenClaw.

“OpenClaw membutuhkan izin yang mencakup, tetapi tidak terbatas pada, akses ke sistem file lokal, panggilan API layanan eksternal, izin tingkat sistem dan ekstensi, yang jauh lebih tinggi daripada AI percakapan. Baik institusi maupun individu harus berhati-hati,” kata seorang teknisi dari departemen teknologi keuangan sebuah bank saham.

“Alasan utama adalah karena industri keuangan memiliki regulasi yang ketat dan persyaratan garis dasar risiko tinggi. Eksekusi otomatis end-to-end dari OpenClaw saat ini sangat tidak sesuai dengan persyaratan kepatuhan keuangan,” kata Wang Pengbo, analis senior di Broadcom Consulting. Ia menambahkan bahwa keseriusan dan keamanan di bidang keuangan, serta pengawasan yang ketat, adalah garis merah yang tidak boleh dilanggar dan berbeda secara mendasar dari bidang lain.

Perkembangan aplikasi agen cerdas yang berbeda-beda di industri

Faktanya, sebelum OpenClaw menjadi viral, industri perbankan sudah melakukan eksplorasi dan penerapan agen cerdas. Bank Industri dan Komersial, Bank Pudong, dan WeBank pernah mengumumkan perkembangan agen cerdas yang dikembangkan secara internal, yang dapat digunakan dalam berbagai skenario keuangan seperti perkantoran, pengembangan pelanggan, dan manajemen risiko.

Laporan tahunan industri perbankan global 2025 yang dirilis oleh McKinsey menyebutkan bahwa di masa depan, agen cerdas akan menyusuri seluruh rantai kerja bank: satu agen cerdas menjalankan tugas dan menghasilkan output; agen cerdas kedua melakukan verifikasi hasil, mengidentifikasi celah, dan memberikan saran perbaikan; agen cerdas ketiga menyerahkan hasil kepada manusia untuk peninjauan akhir.

Dari laporan tersebut, terlihat bahwa kolaborasi manusia dan mesin tetap tidak dapat diabaikan: manusia harus memegang tanggung jawab utama dalam pengambilan keputusan akhir, pengendalian kualitas, penanganan anomali, serta pengelolaan risiko dan kepatuhan.

Tren ini juga sejalan dengan praktik yang saat ini dilakukan di industri.

“Kami mengamati bahwa saat ini, transformasi digital di bank, perusahaan pembiayaan konsumen, dan lembaga pembayaran semuanya berjalan secara asistif, tanpa mengejar otomatisasi penuh seluruh proses, dan lebih bersifat pragmatis. Ini sesuai dengan karakter industri keuangan yang memiliki regulasi ketat dan juga sesuai dengan kondisi teknologi serta lingkungan bisnis saat ini,” kata Wang Pengbo.

Ia menambahkan bahwa saat ini, berbagai lembaga keuangan menerapkan aplikasi cerdas di berbagai bagian yang berbeda, seperti bank yang utamanya digunakan untuk persetujuan risiko, pemasaran pelanggan, manajemen pasca-pinjaman, dan layanan pelanggan cerdas; perusahaan pembiayaan konsumen lebih fokus menggunakan AI untuk mengoptimalkan model risiko, meningkatkan efisiensi pemberian kredit, dan akurasi penagihan pasca-pinjaman; sedangkan lembaga pembayaran utamanya digunakan untuk pencegahan penipuan transaksi, anti pencucian uang, serta melakukan penyaringan risiko secara real-time dan pemantauan transaksi.

“Bagian-bagian ini adalah bagian yang tidak utama dan bersifat pendukung, atau bidang di mana AI dapat berperan secara dasar dan risikonya dapat dikendalikan. Dengan demikian, mereka menghindari risiko kepatuhan dan keamanan yang telah disebutkan sebelumnya, serta menghindari konflik inti dalam pembukaan bisnis,” ujarnya. Dari sudut pandang industri keuangan, nilai utama dari agen cerdas sumber terbuka adalah pengurangan biaya dan peningkatan efisiensi, dengan mengotomatisasi proses yang berulang dan rumit seperti respons layanan pelanggan, penulisan iklan, entri data, dan pemeriksaan kepatuhan dasar, sehingga menghemat biaya tenaga kerja dan meningkatkan efisiensi kerja.

Eksplorasi harus berjalan bersamaan dengan kepatuhan dan keamanan

Sementara teknologi cerdas memberikan kekuatan efisiensi tinggi bagi lembaga keuangan, hal ini juga menimbulkan kekhawatiran teknis.

Baru-baru ini, cabang Provinsi Sichuan dari Bank Rakyat Tiongkok mengeluarkan surat sanksi administratif, di mana sebuah bank diperingatkan dan didenda lebih dari 300.000 yuan karena melanggar peraturan pengelolaan teknologi keuangan.

Seorang peneliti khusus di Bank Sushang, Xue Hongyan, menganalisis bahwa dalam penerapan agen sumber terbuka, kekhawatiran utama lembaga keuangan berkisar pada privasi data, kepatuhan, dan biaya pengembangan.

“Di bidang privasi data, sensitivitas tinggi data keuangan bertentangan dengan kebutuhan pengumpulan data masif oleh agen, dan celah dalam kode sumber terbuka mudah dimanfaatkan; dari sisi regulasi dan kepatuhan, ketidakjelasan agen dan persyaratan ‘dapat dilacak dan diaudit’ bertentangan, serta sulit melakukan pelacakan komponen pihak ketiga; dari sisi biaya pengembangan, adaptasi lokal, penguatan keamanan, dan biaya koreksi akibat ilusi model dapat melebihi manfaat yang diperoleh,” kata Xue Hongyan.

Dapat diperkirakan bahwa industri perbankan yang mempercepat transformasi digital dan cerdas akan terus mendorong kolaborasi mendalam dengan agen cerdas.

Sebagai contoh, Bank Nanjing bekerja sama dengan vendor eksternal untuk mengimplementasikan stasiun kerja agen cerdas satu atap, HiAgent, dan telah mengimplementasikan lebih dari 20 agen cerdas berkualitas tinggi. Bank ini juga meluncurkan “Program Dua Ratus Model Besar”, yang mendorong agen cerdas untuk memberikan kekuatan penuh dalam bisnis lini depan dan melatih karyawan lini depan menjadi “pengguna berat” agen cerdas.

Wang Pengbo berpendapat bahwa jika agen AI sumber terbuka ingin masuk ke skenario inti keuangan, mereka harus menyelesaikan enam masalah:

1. Algoritma harus dapat dijelaskan dan dilacak, tanpa kotak hitam, memenuhi persyaratan regulasi ketat dan keamanan tinggi di keuangan.

2. Menetapkan batas tanggung jawab secara jelas, mendefinisikan tanggung jawab masing-masing pihak, dan sesuai dengan keseriusan industri keuangan.

3. Mengatasi kekurangan model besar AI sendiri, mengurangi kesalahan pengetahuan umum, meningkatkan tingkat kecerdasan mendalam, dan memastikan eksekusi instruksi yang akurat.

4. Memastikan kepatuhan data, melindungi kerahasiaan informasi sensitif pengguna.

5. Menyeimbangkan kebutuhan bisnis, menemukan titik keseimbangan antara sumber terbuka dan kepentingan inti lembaga, agar lembaga termotivasi untuk membuka lingkungan dan API.

6. Menyimpan hak intervensi manusia untuk menghindari risiko yang tidak dapat dibalikkan.