Đối thoại với Tin tức công nghệ đám mây của Amazon: Biến bảo mật thành mắt xích cốt lõi trong quá trình phát triển chiến lược AI của doanh nghiệp

Nguồn: Nhà mẫu lớn

Tác giả: Kiều Chí Bân

Ngày nay, Generative AI đã được sử dụng rộng rãi trong mọi tầng lớp xã hội, mang lại sự đổi mới và cải thiện hiệu quả chưa từng có cho các doanh nghiệp. Từ xử lý ngôn ngữ tự nhiên đến thị giác máy tính, AI sáng tạo đã cho thấy tiềm năng mạnh mẽ trong y tế, tài chính, bán lẻ, sản xuất và các lĩnh vực khác.

Tuy nhiên, khi AI tổng quát trở nên phổ biến hơn, các doanh nghiệp và tổ chức sẽ không chỉ cần tập trung vào quyền riêng tư và bảo mật dữ liệu mà còn đảm bảo rằng các mô hình và ứng dụng được bảo vệ đầy đủ trước các cuộc tấn công và rò rỉ dữ liệu tiềm ẩn. Các vấn đề bảo mật của trí tuệ nhân tạo cũng ngày càng thu hút sự chú ý của ngành, thúc đẩy mọi tầng lớp xã hội tìm kiếm các giải pháp đáng tin cậy để cân bằng giữa đổi mới và bảo mật.

Nguồn: 2023 Amazon Cloud Technology re:Inforce China Station

Tại hội nghị "2023 Amazon Cloud Technology re:Inforce China" kết thúc gần đây, Amazon Cloud Technology đã chỉ ra: "Bảo mật là vấn đề quan trọng và không thể tránh khỏi trong việc xây dựng AI tổng quát. Doanh nghiệp chỉ có thể tạo ra dữ liệu, mô hình và ứng dụng tốt trong AI cuộc hành trình. Chỉ với sự bảo vệ an ninh tốt hơn, chúng ta mới có thể sử dụng AI tốt hơn để tăng tốc đổi mới kinh doanh."

Dai Wen, Giám đốc Bộ phận Kiến trúc Giải pháp của Amazon Cloud Technology Greater Trung Quốc, nhấn mạnh: "Ngay từ khi bắt đầu xây dựng, chúng tôi cần coi bảo mật là mắt xích cốt lõi trong quá trình phát triển chiến lược AI của doanh nghiệp. Điều này đòi hỏi chúng tôi không chỉ tập trung vào Bản thân ứng dụng AI, nhưng từ góc độ toàn diện, chúng ta cần kiểm tra toàn diện các thông số bảo mật, chiến lược kỹ thuật và công cụ nền tảng của ứng dụng, mô hình, dữ liệu và cơ sở hạ tầng. . Chúng ta muốn kiểm soát an toàn công nghệ mới này trong doanh nghiệp. Về công nghệ, chúng ta cũng cần chú ý đến các sông băng dưới biển ”.

Ngoài ra, Amazon Cloud Technology cũng chính thức ra mắt "Giải pháp bảo vệ dữ liệu nhạy cảm", có thể thực hiện việc phát hiện tự động và quản lý thống nhất dữ liệu nhạy cảm của doanh nghiệp, mang lại sự thuận tiện cho việc quản trị dữ liệu. Đồng thời, họ cũng giới thiệu một số dịch vụ và tính năng bảo mật mới như Quyền được xác minh của Amazon, Bảo mật của Amazon CodeGuru, Nhóm tìm kiếm cho Amazon Detective, v.v. Những công cụ và dịch vụ này giúp khách hàng xây dựng khả năng quản lý ứng dụng không tin cậy và cải thiện phát hiện và ứng phó lỗ hổng.

Sau cuộc họp, những người phụ trách liên quan trong lĩnh vực bảo mật trí tuệ nhân tạo của Big Model House và Amazon Cloud Technology đã thảo luận sâu hơn về tình hình bảo mật đám mây mới trong sự bùng nổ của các khả năng và ứng dụng AI tổng hợp ngày nay cũng như cách đối mặt với những thách thức mới. tình hình, mô hình và cách bố trí hướng tới tương lai mà Công nghệ đám mây Amazon đã thực hiện.

Bảo mật dữ liệu và mô hình là chìa khóa để xây dựng ứng dụng AI

Ngày nay, Generative AI đã chuyển đổi từ kỷ nguyên +AI (AI được trao quyền) sang kỷ nguyên AI+ (AI gốc). Sự thay đổi về nhu cầu do các bộ phận kinh doanh dẫn dắt là một xu hướng rõ ràng. AI tạo ra đã mang lại hiệu quả cao hơn cho doanh nghiệp và doanh nghiệp giá trị, nhưng nó cũng mang đến những thách thức bảo mật mới. Tổ chức bảo mật toàn cầu OWASP liệt kê mười mối đe dọa hàng đầu mà các mô hình ngôn ngữ lớn phải đối mặt vào năm 2023, bao gồm rò rỉ dữ liệu và các vấn đề khác. Đồng thời, Generative AI và các mô hình ngôn ngữ lớn cũng mang đến những thách thức mới cho cơ chế quản lý và kiểm soát nội bộ của doanh nghiệp.

Nguồn: 2023 Amazon Cloud Technology re:Inforce China Station

Về vấn đề này, Daiwen chỉ ra rằng khi đối mặt với những thách thức mới này, cần thực hiện nguyên tắc "AI có trách nhiệm" và sử dụng các công cụ, giải pháp phù hợp để giải quyết các vấn đề, bao gồm bảo vệ dữ liệu, xử lý dữ liệu riêng tư, vận hành An toàn môi trường, v.v. Daiwen cũng nói về việc kết hợp các khả năng của AI vào quy trình kiểm tra bảo mật để đạt được bảo mật và tuân thủ.

Trong quá trình phát triển AI tổng quát được thể hiện bằng các mô hình lớn, bảo mật dữ liệu và mô hình là chìa khóa để xây dựng các ứng dụng AI. Về mặt bảo mật dữ liệu, Amazon Cloud Technology cung cấp khả năng quản trị dữ liệu toàn chu trình, từ việc thu thập nguồn dữ liệu đến lưu trữ và truy vấn dữ liệu, đến truyền dữ liệu đến nền tảng AI để đào tạo, điều chỉnh và lý luận mô hình cũng như phân loại dữ liệu. và quản trị. Họ nhấn mạnh tầm quan trọng của dữ liệu chất lượng cao trong việc xây dựng AI tổng hợp và áp dụng các biện pháp bảo vệ dữ liệu nhiều lớp, bao gồm quản lý khóa an toàn cho việc lưu trữ dữ liệu, mã hóa truyền dữ liệu và bảo vệ dữ liệu đang sử dụng để ngăn chặn rò rỉ dữ liệu và giả mạo.

Về mặt bảo mật mô hình, việc bảo mật mô hình khi đưa vào môi trường sản xuất sau khi đào tạo cũng quan trọng không kém. Amazon Cloud Technologies đã ra mắt Amazon Bedrock, cung cấp nhiều mô hình cơ sở và đảm bảo khách hàng có thể chọn mô hình phù hợp với nhu cầu của mình. Amazon Bedrock quản lý cơ sở hạ tầng cơ bản trong khi hợp tác với các đối tác để cung cấp mô hình cơ bản phù hợp và mạnh mẽ nhất. Họ nhấn mạnh đến quyền riêng tư và bảo mật dữ liệu khách hàng, đảm bảo dữ liệu chỉ được sử dụng trong tài khoản khách hàng và sẽ không được chia sẻ với các mô hình khác. Ngoài ra, Amazon Cloud Technology còn cung cấp một loạt tính năng bảo mật, chẳng hạn như Amazon KMS và Amazon IAM, để quản lý mã hóa, kiểm soát quyền và nhật ký hành vi. Họ cũng cung cấp mô hình lớn của riêng mình, Amazon Titan, hỗ trợ triển khai AI có trách nhiệm nhằm giảm thiểu và loại bỏ nội dung không phù hợp hoặc có hại.

Bảo mật ứng dụng là sự đảm bảo cho việc hiện thực hóa giá trị của AI

Trong quá trình hiện thực hóa giá trị của AI, bảo mật ứng dụng là mắt xích không thể bỏ qua. Đầu tiên, nó đảm bảo quyền riêng tư và tính toàn vẹn của dữ liệu người dùng, ngăn chặn truy cập và rò rỉ trái phép, đồng thời đảm bảo rằng thông tin nhạy cảm được bảo vệ đúng cách. Thứ hai, bảo mật ứng dụng chống lại các cuộc tấn công độc hại, bao gồm giả mạo dữ liệu, tấn công từ chối dịch vụ, v.v., duy trì tính khả dụng và hiệu suất của ứng dụng cũng như giảm thiệt hại tiềm ẩn. Ngoài ra, bằng cách xây dựng mức độ bảo mật mạnh mẽ, các ứng dụng có thể lấy được lòng tin của người dùng, duy trì danh tiếng, tránh tình trạng người dùng rời bỏ và do đó duy trì được thành công về mặt thương mại. Các yêu cầu tuân thủ cũng yêu cầu bảo mật ứng dụng để đảm bảo tuân thủ các quy định quốc tế, ngành hoặc khu vực và tránh rủi ro pháp lý. Cuối cùng, bảo mật ứng dụng góp phần mang lại sự bền vững lâu dài, giảm chi phí bảo trì và sửa chữa các lỗ hổng trong tương lai, đồng thời giảm rủi ro kiện tụng và tổn thất.

Với sự phát triển của các dịch vụ tải đám mây, bảo mật đám mây toàn diện đang trở thành xu hướng chung trong ngành. Bai Fan, Giám đốc sản phẩm về Tuân thủ và quản trị bảo mật của Amazon Cloud Technology Greater Trung Quốc, đã chỉ ra rằng hoạt động kinh doanh trên nền tảng đám mây đang phát triển từ ranh giới vật lý sang ranh giới logic, điều này có tác động đáng kể đến bảo mật đám mây. về thiết kế sản phẩm và đó không phải là suy nghĩ lại.

Do đó, trong giai đoạn bảo mật (DevSecOps) của quá trình phát triển, Amazon Cloud Technology đảm bảo tính bảo mật của ứng dụng bằng cách tích hợp bảo mật vào toàn bộ vòng đời phát triển phần mềm, từ phát triển, tích hợp liên tục, triển khai liên tục, sản xuất, giám sát đến phản hồi. Các khả năng bảo mật phát triển AI của nó bao gồm Amazon CodeWhisperer, trợ lý lập trình AI tạo ra các đề xuất mã trong thời gian thực, với chức năng quét bảo mật mã tích hợp để giúp tìm và sửa các lỗ hổng, cũng như Amazon CodeGuru Security, có thể được sử dụng để quét mã để tìm lỗ hổng. Nó cũng tự động giảm tỷ lệ dương tính giả trong quá trình CICD và dễ dàng tích hợp vào quy trình phát triển.

Ngoài ra, trong giai đoạn bảo mật vận hành, Amazon Cloud Technology áp dụng chính sách truy cập bảo mật ứng dụng không tin cậy để đảm bảo rằng chỉ những ứng dụng có quyền cụ thể mới có thể truy cập hoặc gọi các API cụ thể của mô hình lớn. Amazon Cloud Technology cung cấp nhiều công cụ để giúp khách hàng xây dựng cơ chế này, bao gồm Quyền truy cập được xác minh của Amazon, được sử dụng để xây dựng các kênh mạng đáng tin cậy không có VPN, Quyền được xác minh của Amazon, cung cấp quản lý quyền và ủy quyền chi tiết cũng như ngôn ngữ nguồn mở CEDAR , được sử dụng để viết và thực thi các chính sách ủy quyền.

Ngoài ra, về mặt kiểm soát mạng, Amazon Cloud Technology cung cấp một loạt công cụ để xử lý việc bảo vệ mạng và xác định mối đe dọa, trong số đó, Amazon GuardDuty sử dụng trí tuệ nhân tạo và công nghệ máy học để giảm tỷ lệ cảnh báo sai về các sự kiện bảo mật và đạt được mục tiêu ban đầu. phát hiện và phân tích liên tục. Khuyến nghị hành động thông minh.

Bai Fan tiết lộ với Big Model House rằng trong Amazon Cloud Technology, thuật ngữ "không tin cậy" đã có từ lâu và đã phát triển thành một cơ chế hoàn chỉnh dựa trên các công cụ, phương pháp và thực tiễn. Amazon Cloud Technology đã tích cực thúc đẩy ba khía cạnh này. Zero Trust bao gồm nhiều công cụ, chẳng hạn như Quyền được xác minh của Amazon và Quyền truy cập được xác minh của Amazon, cũng như quản lý và kiểm soát quyền dựa trên IAM. Các công cụ này cùng nhau tạo thành một hệ sinh thái công cụ không tin cậy. Ngoài ra, sự nổi lên của AI thế hệ mới và các mô hình lớn đã giúp nhiều công ty tiếp cận công nghệ AI hơn, nhưng họ có thể thiếu nền tảng bảo mật và CNTT hoàn chỉnh. Do đó, Amazon Cloud Technology cung cấp các công cụ như Amazon CodeWhisperer để tạo mã bảo mật và phát hiện các lỗ hổng bảo mật, đồng thời cung cấp Quyền đã xác minh để quản lý các quyền nội bộ và hỗ trợ quản lý chính sách, kiểm tra cũng như các chức năng khác để giúp doanh nghiệp dễ dàng đáp ứng các yêu cầu về bảo mật và kiểm soát quyền. Công nghệ đám mây của Amazon trình bày khái niệm không tin cậy theo cách thân thiện hơn với người dùng, cho phép các nhà phát triển và doanh nghiệp xây dựng khả năng không tin cậy theo nhu cầu riêng của họ. Do đó, các dịch vụ và khả năng này có thể được phân chia và sử dụng khi cần thiết, thay vì được một giải pháp tổng thể khép kín. Nguyên tắc không tin cậy này giúp làm cho các ứng dụng trở nên an toàn và dễ quản lý hơn.

Đối với các sản phẩm bảo mật đám mây, Bai Fan cũng nhấn mạnh tầm quan trọng của khả năng mở rộng và tự động hóa để thích ứng với nhu cầu kinh doanh ngày càng tăng. Ông chỉ ra rằng tất cả các khả năng của Amazon Cloud Technology cũng tuân theo chủ nghĩa lâu dài và chúng phải được tự trau chuốt và sử dụng trước khi đưa ra thị trường, đồng thời đặc biệt khuyến khích tự động hóa để giảm thiểu lỗi của con người. Quá trình tự động hóa này được áp dụng cho việc kiểm soát quyền, khả năng phát hiện và kiến trúc kỹ thuật cơ bản để đảm bảo rằng khả năng bảo mật có thể được tự động mở rộng mà không cần triển khai lại hoặc điều chỉnh thủ công, điều này rất quan trọng để đối phó với các biến động kinh doanh. **

Sự phát triển của công nghệ AI phải đi đôi với an toàn, trong đó an toàn phải được đặt lên hàng đầu và ưu tiên cao nhất. Amazon Cloud Technology cũng kêu gọi cuộc họp rằng khách hàng phải luôn là cốt lõi của các ứng dụng AI và bảo mật phải được đưa vào mọi liên kết. Chỉ bằng cách này, chúng ta mới có thể cùng nhau xây dựng một tương lai AI an toàn hơn, đáng tin cậy hơn và có lợi hơn.

Theo quan điểm của Big Model House, với sự tiến bộ không ngừng của công nghệ Generative AI, trong khi các doanh nghiệp đang theo đuổi sự đổi mới, chỉ khi xem xét đầy đủ các vấn đề bảo mật, AI mới có thể phát huy hết tiềm năng của nó và mang lại lợi ích bền vững cho doanh nghiệp. tương lai tốt hơn. **