Dialog dengan Amazon Cloud Technology News: Jadikan keamanan sebagai penghubung inti dalam pengembangan strategi AI perusahaan

Sumber: Rumah Model Besar

Penulis: Qiao Zhibin

Saat ini, AI generatif telah digunakan secara luas di semua lapisan masyarakat, menghadirkan inovasi dan peningkatan efisiensi yang belum pernah terjadi sebelumnya bagi perusahaan. Dari pemrosesan bahasa alami hingga visi komputer, AI generatif telah menunjukkan potensi besar di bidang medis, keuangan, ritel, manufaktur, dan bidang lainnya.

Namun, seiring dengan semakin maraknya AI generatif, bisnis dan organisasi tidak hanya perlu fokus pada privasi dan keamanan data, namun juga memastikan bahwa model dan aplikasi terlindungi secara memadai dari potensi serangan dan kebocoran data. Masalah keamanan kecerdasan buatan juga semakin menarik perhatian industri, mendorong semua lapisan masyarakat untuk mencari solusi yang dapat diandalkan untuk menyeimbangkan inovasi dan keamanan.

Sumber: Teknologi Cloud Amazon 2023 re:Inforce China Station

Pada konferensi "Amazon Cloud Technology re:Inforce China" 2023 yang berakhir baru-baru ini, Amazon Cloud Technology menyatakan: "Keamanan adalah masalah yang tidak dapat dihindari dan penting dalam membangun AI generatif. Perusahaan hanya dapat melakukan data, model, dan aplikasi yang baik dalam AI​ ​Perjalanan. Hanya dengan perlindungan keamanan yang lebih baik kita dapat menggunakan AI dengan lebih baik untuk mempercepat inovasi bisnis."

Dai Wen, Director of Solution Architecture Department, Amazon Cloud Technology Greater China, menekankan: "Sejak awal konstruksi, kita perlu menganggap keamanan sebagai penghubung inti dalam pengembangan strategi AI perusahaan. Hal ini mengharuskan kita tidak hanya fokus pada Aplikasi AI itu sendiri, tetapi dari perspektif full-stack, kita perlu memeriksa secara komprehensif spesifikasi keamanan, strategi teknis, dan alat platform aplikasi, model, data, dan infrastruktur. Aplikasi AI generatif seperti gunung es di laut . Kami ingin mengendalikan teknologi baru ini dengan aman di perusahaan. Teknologi, kami juga perlu memperhatikan gletser di bawah laut.”

Selain itu, Amazon Cloud Technology juga secara resmi meluncurkan "Solusi Perlindungan Data Sensitif", yang dapat mewujudkan penemuan otomatis dan pengelolaan terpadu atas data sensitif perusahaan, sehingga memberikan kemudahan dalam tata kelola data. Pada saat yang sama, mereka juga memperkenalkan sejumlah layanan dan fitur keamanan baru, seperti Izin Terverifikasi Amazon, Keamanan Amazon CodeGuru, Grup Temuan untuk Amazon Detective, dll. Alat dan layanan ini membantu pelanggan membangun manajemen aplikasi tanpa kepercayaan dan meningkatkan penemuan dan respons kerentanan, tingkat kecerdasan.

Setelah pertemuan tersebut, orang-orang terkait yang bertanggung jawab di bidang keamanan kecerdasan buatan dari Big Model House dan Amazon Cloud Technology membahas secara lebih mendalam situasi baru keamanan cloud dalam ledakan kemampuan dan aplikasi AI generatif saat ini, dan bagaimana menghadapi hal baru. situasi, pola, dan tata letak masa depan yang dibuat oleh Amazon Cloud Technology.

Keamanan data dan model adalah kunci dalam membangun aplikasi AI

Saat ini, AI generatif telah bertransformasi dari era +AI (AI yang diberdayakan) ke era AI+ (AI native). Perubahan permintaan yang dipimpin oleh departemen bisnis merupakan tren yang jelas. AI Generatif telah membawa efisiensi yang lebih tinggi bagi perusahaan dan bisnis. nilai, namun juga membawa tantangan keamanan baru. Organisasi keamanan global OWASP mencantumkan sepuluh ancaman teratas yang dihadapi model bahasa besar pada tahun 2023, termasuk kebocoran data dan masalah lainnya. Pada saat yang sama, AI generatif dan model bahasa yang besar juga membawa tantangan baru bagi mekanisme manajemen dan kontrol internal perusahaan.

Sumber: Teknologi Cloud Amazon 2023 re:Inforce China Station

Dalam hal ini, Daiwen menunjukkan bahwa ketika menghadapi tantangan baru ini, perlu menerapkan prinsip "AI yang Bertanggung Jawab" dan menggunakan alat dan solusi yang tepat untuk menyelesaikan masalah, termasuk perlindungan data, pemrosesan data privasi, pengoperasian, keamanan lingkungan, dll. Daiwen juga berbicara tentang menggabungkan kemampuan AI ke dalam proses audit keamanan untuk mencapai keamanan dan kepatuhan.

Dalam proses pengembangan AI generatif yang diwakili oleh model berukuran besar, keamanan data dan model menjadi kunci dalam membangun aplikasi AI. Dalam hal keamanan data, Amazon Cloud Technology menyediakan tata kelola data siklus penuh, mulai dari akuisisi sumber data hingga penyimpanan dan kueri data, hingga transmisi data ke platform AI untuk pelatihan model, penyetelan dan penalaran, serta klasifikasi data. dan pemerintahan. Mereka menekankan pentingnya data berkualitas tinggi untuk membangun AI generatif dan mengadopsi langkah-langkah perlindungan data berlapis, termasuk manajemen kunci penyimpanan data yang aman, enkripsi transmisi data, dan perlindungan data yang digunakan untuk mencegah kebocoran dan gangguan data.

Dalam hal keamanan model, keamanan model yang memasuki lingkungan produksi setelah pelatihan juga sama pentingnya. Amazon Cloud Technologies telah meluncurkan Amazon Bedrock, menawarkan beragam model dasar dan memastikan pelanggan dapat memilih model yang sesuai dengan kebutuhan mereka. Amazon Bedrock mengelola infrastruktur dasar sambil bekerja sama dengan mitra untuk menyediakan model dasar yang paling tepat dan kuat. Mereka menekankan privasi dan keamanan data pelanggan, memastikan bahwa data hanya digunakan dalam akun pelanggan dan tidak akan dibagikan dengan model lain. Selain itu, Amazon Cloud Technology menyediakan serangkaian fitur keamanan, seperti Amazon KMS dan Amazon IAM, untuk mengelola enkripsi, kontrol izin, dan log perilaku. Mereka juga menawarkan model besar mereka sendiri, Amazon Titan, yang mendukung penerapan AI yang bertanggung jawab untuk mengurangi dan menghilangkan konten yang tidak pantas atau berbahaya.

Keamanan aplikasi adalah jaminan untuk mewujudkan nilai AI

Dalam proses mewujudkan nilai AI, keamanan aplikasi merupakan mata rantai yang tidak dapat diabaikan. Pertama, ini menjamin privasi dan integritas data pengguna, mencegah akses dan kebocoran yang tidak sah, dan memastikan bahwa informasi sensitif terlindungi dengan baik. Kedua, keamanan aplikasi menahan serangan berbahaya, termasuk gangguan data, serangan penolakan layanan, dll., menjaga ketersediaan dan kinerja aplikasi serta mengurangi potensi kerusakan. Selain itu, dengan membangun keamanan yang kuat, aplikasi dapat memperoleh kepercayaan pengguna, menjaga reputasi, menghindari churn pengguna, dan dengan demikian mempertahankan kesuksesan komersial. Persyaratan kepatuhan juga memerlukan keamanan aplikasi untuk memastikan kepatuhan terhadap peraturan internasional, industri, atau regional dan menghindari risiko hukum. Terakhir, keamanan aplikasi berkontribusi terhadap keberlanjutan jangka panjang, mengurangi biaya pemeliharaan di masa depan dan memperbaiki kerentanan, serta mengurangi risiko tindakan hukum dan kerugian.

Dengan pertumbuhan layanan cloud load, keamanan cloud yang komprehensif menjadi tren umum di industri. Bai Fan, Product Director of Security Compliance and Governance, Amazon Cloud Technology Greater China, menyatakan bahwa bisnis cloud sedang berkembang dari batasan fisik ke batasan logis, yang berdampak signifikan pada keamanan cloud. Oleh karena itu, keamanan harus dipertimbangkan sejak tahap awal. desain produk, dan itu bukan sebuah renungan.

Oleh karena itu, dalam tahap keamanan (DevSecOps) dari proses pengembangan, Amazon Cloud Technology memastikan keamanan aplikasi dengan mengintegrasikan keamanan ke dalam seluruh siklus hidup pengembangan perangkat lunak, mulai dari pengembangan, integrasi berkelanjutan, penerapan berkelanjutan, produksi, pemantauan hingga umpan balik. Kemampuan keamanan pengembangan AI-nya mencakup Amazon CodeWhisperer, asisten pemrograman AI yang menghasilkan saran kode secara real-time, dengan pemindaian keamanan kode bawaan untuk membantu menemukan dan memperbaiki kerentanan, dan Amazon CodeGuru Security, yang dapat digunakan untuk memindai kode untuk menemukan kerentanan. Ini juga secara otomatis mengurangi tingkat positif palsu selama proses CICD dan mudah diintegrasikan ke dalam alur kerja pengembangan.

Selain itu, selama fase keamanan operasional, Amazon Cloud Technology mengadopsi kebijakan akses keamanan aplikasi zero-trust untuk memastikan bahwa hanya aplikasi dengan izin khusus yang dapat mengakses atau memanggil API spesifik dari model besar. Amazon Cloud Technology menyediakan berbagai alat untuk membantu pelanggan membangun mekanisme ini, termasuk Amazon Verified Access, yang digunakan untuk membangun saluran jaringan bebas VPN yang tepercaya, Amazon Verified Permissions, yang memberikan otorisasi dan manajemen izin yang terperinci, dan bahasa sumber terbuka CEDAR , digunakan untuk menulis dan menegakkan kebijakan otorisasi.

Selain itu, dalam hal kontrol jaringan, Amazon Cloud Technology menyediakan serangkaian alat untuk menangani perlindungan jaringan dan identifikasi ancaman.Di antaranya, Amazon GuardDuty menggunakan kecerdasan buatan dan teknologi pembelajaran mesin untuk mengurangi tingkat alarm palsu pada peristiwa keamanan dan mencapai tingkat awal deteksi dan analisis berkelanjutan. Rekomendasi cerdas untuk tindakan.

Bai Fan mengungkapkan kepada Big Model House bahwa dalam Amazon Cloud Technology, istilah "zero trust" telah ada sejak lama dan telah berkembang menjadi mekanisme lengkap berdasarkan alat, metodologi, dan praktik. Amazon Cloud Technology telah secara aktif mempromosikan ketiga aspek ini. Zero trust melibatkan banyak alat, seperti Izin Terverifikasi Amazon dan Akses Terverifikasi Amazon, serta manajemen dan kontrol izin berdasarkan IAM. Alat-alat ini bersama-sama membentuk ekosistem alat zero trust. Selain itu, maraknya AI generatif dan model-model besar telah membuat lebih banyak perusahaan terpapar teknologi AI, namun mereka mungkin tidak memiliki landasan TI dan keamanan yang lengkap. Oleh karena itu, Amazon Cloud Technology menyediakan alat seperti Amazon CodeWhisperer untuk menghasilkan kode aman dan mendeteksi kerentanan keamanan, serta memberikan Izin Terverifikasi untuk mengelola izin internal dan mendukung manajemen kebijakan, audit, dan fungsi lainnya untuk membantu perusahaan merespons kontrol izin dan persyaratan keamanan dengan mudah. Amazon Cloud Technology menghadirkan konsep zero-trust dengan cara yang lebih ramah pengguna, memungkinkan pengembang dan perusahaan membangun kemampuan zero-trust sesuai dengan kebutuhan mereka. Oleh karena itu, layanan dan kemampuan ini dapat dipecah dan digunakan sesuai kebutuhan, bukan hanya sekedar solusi menyeluruh yang tertutup. Praktik tanpa kepercayaan ini membantu membuat aplikasi lebih aman dan mudah dikelola.

Untuk produk keamanan cloud, Bai Fan juga menekankan pentingnya skalabilitas dan otomatisasi untuk beradaptasi dengan kebutuhan bisnis yang terus berkembang. Dia menunjukkan bahwa semua kemampuan Amazon Cloud Technology juga menganut jangka panjang, dan harus dipoles dan digunakan sendiri sebelum dipasarkan, dan sangat merekomendasikan otomatisasi untuk meminimalkan kesalahan manusia. Otomatisasi ini diterapkan pada kontrol izin, kemampuan deteksi, dan arsitektur teknis yang mendasarinya untuk memastikan bahwa kemampuan keamanan dapat diperluas secara otomatis tanpa memerlukan penempatan ulang atau penyesuaian manual, yang sangat penting untuk mengatasi lonjakan bisnis. **

Perkembangan teknologi AI harus dibarengi dengan keselamatan, dan keselamatan harus dianggap sebagai prioritas pertama dan tertinggi. Amazon Cloud Technology juga menyerukan pada pertemuan tersebut bahwa pelanggan harus selalu menjadi inti aplikasi AI, dan keamanan harus tertanam di setiap tautan. Hanya dengan cara ini kita dapat bersama-sama membangun masa depan AI yang lebih aman, andal, dan bermanfaat.

Dalam pandangan Big Model House, dengan kemajuan teknologi AI generatif yang berkelanjutan, sementara perusahaan mengejar inovasi, hanya dengan sepenuhnya mempertimbangkan masalah keamanan, AI generatif dapat sepenuhnya mewujudkan potensinya dan memberikan manfaat berkelanjutan bagi perusahaan. masa depan yang lebih baik. **