Amazon Bulut Teknolojisi Haberleri ile Diyalog: Güvenliği, kurumsal yapay zeka stratejilerinin geliştirilmesinde temel bağlantı haline getirin

Kaynak: Büyük Model Ev

Yazar: Qiao Zhibin

Günümüzde üretken yapay zeka hayatın her alanında yaygın olarak kullanılmakta ve işletmelere benzeri görülmemiş bir yenilik ve verimlilik artışı sağlamaktadır. Üretken yapay zeka, doğal dil işlemeden bilgisayarlı görmeye kadar tıbbi, finans, perakende, üretim ve diğer alanlarda güçlü bir potansiyel göstermektedir.

Ancak üretken yapay zeka daha yaygın hale geldikçe, işletmelerin ve kuruluşların yalnızca veri gizliliği ve güvenliğine odaklanması gerekmeyecek, aynı zamanda modellerin ve uygulamaların potansiyel saldırılara ve veri sızıntılarına karşı yeterince korunmasını da sağlamaları gerekecek. Yapay zekanın güvenlik sorunları da sektörde giderek daha fazla ilgi çekerek hayatın her kesimini yenilik ve güvenliği dengelemek için güvenilir çözümler aramaya teşvik etti.

Kaynak: 2023 Amazon Cloud Technology re:Inforce China Station

Yakın zamanda sonuçlanan "2023 Amazon Cloud Technology re:Inforce China" konferansında Amazon Cloud Technology şunları belirtti: "Güvenlik, üretken yapay zeka oluşturmada kaçınılmaz ve önemli bir konudur. İşletmeler yapay zekada yalnızca iyi veriler, modeller ve uygulamalar yapabilirler Yolculuk. Yalnızca daha iyi güvenlik korumasıyla, iş inovasyonunu hızlandırmak için yapay zekayı daha iyi kullanabiliriz."

Amazon Bulut Teknolojisi Büyük Çin Çözüm Mimarisi Departmanı Direktörü Dai Wen şunları vurguladı: "İnşaatın başlangıcından itibaren güvenliği, kurumsal yapay zeka stratejisinin geliştirilmesinde temel bir bağlantı olarak görmemiz gerekiyor. Bu, yalnızca Yapay zeka uygulamasının kendisi, ancak tam yığın perspektifinden bakıldığında uygulamaların, modellerin, verilerin ve altyapının güvenlik özelliklerini, teknik stratejilerini ve platform araçlarını kapsamlı bir şekilde incelememiz gerekiyor. Üretken yapay zeka uygulamaları denizdeki buzdağları gibidir. İşletmedeki bu yeni teknolojiyi güvenli bir şekilde kontrol etmek istiyoruz. Teknoloji, deniz altındaki buzullara da dikkat etmemiz gerekiyor.”

Ayrıca Amazon Cloud Technology, kurumsal hassas verilerin otomatik olarak keşfedilmesini ve birleşik yönetimini gerçekleştirerek veri yönetimine kolaylık sağlayan "Hassas Veri Koruma Çözümü"nü de resmi olarak başlattı. Aynı zamanda, Amazon Doğrulanmış İzinler, Amazon CodeGuru Güvenliği, Amazon Detective için Bulgular Grupları vb. gibi bir dizi yeni güvenlik hizmeti ve özelliğini de tanıttılar. Bu araçlar ve hizmetler, müşterilerin uygulamalarda sıfır güven yönetimi oluşturmasına ve iyileştirmelerine yardımcı oluyor. güvenlik açığı keşfi ve tepkisi zeka derecesi.

Toplantının ardından Big Model House ve Amazon Cloud Technology'nin yapay zeka güvenliği alanında sorumlu ilgilileri, günümüzün üretken yapay zeka yetenekleri ve uygulamalarında yaşanan patlamada bulut güvenliğinin yeni durumunu ve yeni durumla nasıl yüzleşileceğini daha derinlemesine ele aldı. durum, model ve Amazon Cloud Technology'nin ileriye dönük düzeni.

Veri ve model güvenliği yapay zeka uygulamaları oluşturmanın anahtarıdır

Günümüzde üretken yapay zeka, +AI (AI destekli) döneminden AI+ (AI native) dönemine dönüştü. İş departmanlarının yönlendirdiği talep değişikliği bariz bir trend. Üretken yapay zeka, işletmelere ve işletmelere daha yüksek verimlilik getirdi. değer sağlar, ancak aynı zamanda yeni güvenlik zorluklarını da beraberinde getirir. Küresel güvenlik kuruluşu OWASP, veri sızıntısı ve diğer sorunlar da dahil olmak üzere 2023'te büyük dil modellerinin karşı karşıya kalacağı ilk on tehdidi listeliyor. Aynı zamanda üretken yapay zeka ve büyük dil modelleri, işletmelerin iç yönetim ve kontrol mekanizmalarına da yeni zorluklar getiriyor.

Kaynak: 2023 Amazon Cloud Technology re:Inforce China Station

Bu bağlamda Daiwen, bu yeni zorluklarla karşı karşıya kalındığında "Sorumlu Yapay Zeka" ilkesini uygulamanın ve veri koruma, gizlilik verilerinin işlenmesi, operasyon Çevre güvenliği vb. dahil sorunları çözmek için uygun araç ve çözümlerin kullanılmasının gerekli olduğuna dikkat çekti. Daiwen ayrıca güvenlik ve uyumluluğu sağlamak için yapay zekanın yeteneklerini güvenlik denetimi sürecine dahil etmekten de bahsetti.

Büyük modellerle temsil edilen üretken yapay zekanın geliştirme sürecinde veri ve model güvenliği, yapay zeka uygulamaları oluşturmanın anahtarıdır. Veri güvenliği açısından Amazon Bulut Teknolojisi, veri kaynaklarının edinilmesinden veri depolama ve sorgulamaya, model eğitimi, ayarlama ve akıl yürütmenin yanı sıra veri sınıflandırması için yapay zeka platformuna veri aktarımına kadar tam döngülü veri yönetimi sağlar. ve yönetişim. Üretken yapay zeka oluşturmak için yüksek kaliteli verilerin önemini vurguladılar ve veri depolamanın güvenli anahtar yönetimi, veri iletiminin şifrelenmesi ve veri sızıntısını ve kurcalamayı önlemek için kullanımda veri koruma dahil olmak üzere çok katmanlı veri koruma önlemlerini benimsediler.

Model güvenliği açısından eğitim sonrasında üretim ortamına giren modelin güvenliği de aynı derecede kritiktir. Amazon Cloud Technologies, geniş bir temel model yelpazesi sunan ve müşterilerin ihtiyaçlarına uygun modeli seçebilmelerini sağlayan Amazon Bedrock'u piyasaya sürdü. Amazon Bedrock, en uygun ve güçlü temel modeli sağlamak için iş ortaklarıyla birlikte çalışırken temel altyapıyı yönetir. Müşteri verilerinin gizliliğini ve güvenliğini vurgulayarak verilerin yalnızca müşteri hesabında kullanılmasını ve diğer modellerle paylaşılmamasını sağlarlar. Ayrıca Amazon Bulut Teknolojisi, şifrelemeyi, izin kontrolünü ve davranış günlüklerini yönetmek için Amazon KMS ve Amazon IAM gibi bir dizi güvenlik özelliği sağlar. Ayrıca, uygunsuz veya zararlı içeriği azaltmak ve ortadan kaldırmak için sorumlu yapay zekanın uygulanmasını destekleyen kendi büyük modelleri olan Amazon Titan'ı da sunuyorlar.

Uygulama güvenliği yapay zekanın değerinin farkına varmanın garantisidir

Yapay zekanın değerini anlama sürecinde uygulama güvenliği göz ardı edilemeyecek bir bağlantıdır. Birincisi, kullanıcı verilerinin gizliliğini ve bütünlüğünü garanti eder, yetkisiz erişimi ve sızıntıyı önler ve hassas bilgilerin uygun şekilde korunmasını sağlar. İkinci olarak, uygulama güvenliği, veri tahrifatı, hizmet reddi saldırıları vb. gibi kötü niyetli saldırılara karşı direnç göstererek uygulamanın kullanılabilirliğini ve performansını korur ve potansiyel hasarı azaltır. Ayrıca uygulamalar, güçlü güvenlik oluşturarak kullanıcıların güvenini kazanabilir, itibarını koruyabilir, kullanıcı kaybını önleyebilir ve böylece ticari başarıyı koruyabilir. Uyumluluk gereksinimleri aynı zamanda uluslararası, sektörel veya bölgesel düzenlemelere uyumu sağlamak ve yasal risklerden kaçınmak için uygulama güvenliğini de gerektirir. Son olarak, uygulama güvenliği uzun vadeli sürdürülebilirliğe katkıda bulunur, gelecekteki bakım maliyetlerini azaltır, güvenlik açıklarını giderir ve yasal işlem ve kayıp riskini azaltır.

Bulut yük hizmetlerinin büyümesiyle birlikte kapsamlı bulut güvenliği sektörde genel bir trend haline geliyor. Amazon Bulut Teknolojisi Büyük Çin'in Güvenlik Uyumluluğu ve Yönetişimi Ürün Direktörü Bai Fan, bulut işinin fiziksel sınırlardan mantıksal sınırlara doğru evrildiğine ve bunun bulut güvenliği üzerinde önemli bir etkiye sahip olduğuna dikkat çekti. Bu nedenle güvenliğin erken aşamalarda dikkate alınması gerektiğine dikkat çekti. ürün tasarımı ve bu sonradan akla gelen bir düşünce değildir.

Bu nedenle, geliştirme sürecinin güvenlik (DevSecOps) aşamasında Amazon Bulut Teknolojisi, güvenliği geliştirme, sürekli entegrasyon, sürekli dağıtım, üretim, izleme ve geri bildirime kadar tüm yazılım geliştirme yaşam döngüsüne entegre ederek uygulamaların güvenliğini sağlar. Yapay zeka geliştirme güvenliği yetenekleri arasında, güvenlik açıklarını bulmaya ve düzeltmeye yardımcı olan yerleşik kod güvenliği taramasıyla gerçek zamanlı olarak kod önerileri üreten bir yapay zeka programlama asistanı olan Amazon CodeWhisperer ve kodu güvenlik açıklarına karşı taramak için kullanılabilen Amazon CodeGuru Security yer alıyor. Ayrıca CICD süreci sırasında hatalı pozitiflik oranını otomatik olarak azaltır ve geliştirme iş akışına entegre edilmesi kolaydır.

Ayrıca operasyonel güvenlik aşamasında Amazon Bulut Teknolojisi, yalnızca belirli izinlere sahip uygulamaların büyük modelin belirli API'lerine erişebilmesini veya bunları çağırabilmesini sağlamak için sıfır güven uygulama güvenliği erişim politikasını benimser. Amazon Bulut Teknolojisi, müşterilerin bu mekanizmayı oluşturmasına yardımcı olacak çok sayıda araç sağlar; bunlara güvenilir VPN içermeyen ağ kanalları oluşturmak için kullanılan Amazon Verified Access, ayrıntılı yetkilendirme ve izin yönetimi sağlayan Amazon Verified Permissions ve açık kaynak dili CEDAR dahildir. Yetkilendirme ilkelerini yazmak ve uygulamak için kullanılır.

Buna ek olarak, ağ kontrolü açısından, Amazon Bulut Teknolojisi, ağ koruması ve tehdit tanımlamayla başa çıkmak için bir dizi araç sağlar. Bunların arasında Amazon GuardDuty, güvenlik olaylarının yanlış alarm oranını azaltmak ve ilk hedeflere ulaşmak için yapay zeka ve makine öğrenimi teknolojisini kullanır. tespit ve sürekli analiz Eylem için akıllı öneriler.

Bai Fan, Big Model House'a Amazon Bulut Teknolojisinde "sıfır güven" teriminin uzun süredir var olduğunu ve araçlara, metodolojilere ve uygulamalara dayalı eksiksiz bir mekanizmaya dönüştüğünü açıkladı. Amazon Bulut Teknolojisi bu üç hususu aktif olarak desteklemektedir. Sıfır güven, Amazon Doğrulanmış İzinler ve Amazon Doğrulanmış Erişim gibi birçok aracın yanı sıra IAM'e dayalı izin yönetimi ve kontrolünü içerir. Bu araçlar birlikte bir sıfır güven aracı ekosistemi oluşturur. Ayrıca, üretken yapay zekanın ve büyük modellerin yükselişi, daha fazla şirketin yapay zeka teknolojisine maruz kalmasına neden oldu, ancak bunlar tam bir BT ve güvenlik temeline sahip olmayabilir. Bu nedenle Amazon Bulut Teknolojisi, güvenli kod oluşturmak ve güvenlik açıklarını tespit etmek için Amazon CodeWhisperer gibi araçlar sağlar ve kuruluşların izin kontrolü ve güvenlik gereksinimlerine kolayca yanıt vermesine yardımcı olmak amacıyla dahili izinleri yönetmek ve politika yönetimi, denetim ve diğer işlevleri desteklemek için Doğrulanmış İzinler sağlar. Amazon Bulut Teknolojisi, sıfır güven kavramını daha kullanıcı dostu bir şekilde sunarak geliştiricilerin ve kuruluşların kendi ihtiyaçlarına göre sıfır güven yetenekleri geliştirmelerine olanak tanıyor. Dolayısıyla bu hizmetler ve yetenekler, bir araya getirilmek yerine ihtiyaç halinde bölünerek kullanılabilir. kapalı bir genel çözüm. Bu sıfır güven uygulaması, uygulamaların daha güvenli ve yönetilebilir olmasına yardımcı olur.

Bulut güvenlik ürünleri konusunda Bai Fan, artan iş ihtiyaçlarına uyum sağlamak amacıyla ölçeklenebilirlik ve otomasyonun önemini de vurguladı. Amazon Bulut Teknolojisinin tüm yeteneklerinin de uzun vadeye bağlı olduğunu, bunların pazara çıkmadan önce cilalanıp kendileri tarafından kullanılması gerektiğine dikkat çekerek, insan hatalarını en aza indirmek için otomasyonu şiddetle tavsiye ediyor. Bu otomasyon, iş dalgalanmalarıyla başa çıkmak için kritik önem taşıyan manuel yeniden dağıtım veya ayarlamaya gerek kalmadan güvenlik özelliklerinin otomatik olarak genişletilebilmesini sağlamak için izin kontrolüne, algılama yeteneklerine ve temel teknik mimariye uygulanır. **

Yapay zeka teknolojisinin gelişimi güvenlikle el ele gitmeli ve güvenlik ilk ve en yüksek öncelik olarak görülmelidir. Amazon Cloud Technology ayrıca toplantıda müşterilerin her zaman yapay zeka uygulamalarının merkezinde yer alması ve güvenliğin her bağlantıya yerleştirilmesi gerektiği çağrısında bulundu. Ancak bu şekilde ortaklaşa daha güvenli, daha güvenilir ve faydalı bir yapay zeka geleceği inşa edebiliriz.

Big Model House'un görüşüne göre, üretken yapay zeka teknolojisinin sürekli gelişmesiyle birlikte, işletmeler inovasyon peşinde koşarken, yalnızca güvenlik konularını tam olarak dikkate alarak üretken yapay zeka potansiyelini tam olarak gerçekleştirebilir ve işletmelere sürdürülebilir faydalar sağlayabilir. daha iyi gelecek. **