حوار مع Amazon Cloud Technology News: اجعل الأمان رابطًا أساسيًا في تطوير استراتيجيات الذكاء الاصطناعي للمؤسسات

المصدر: بيج موديل هاوس

المؤلف: تشياو زيبين

اليوم، يتم استخدام الذكاء الاصطناعي التوليدي على نطاق واسع في جميع مناحي الحياة، مما يوفر ابتكارات غير مسبوقة وتحسينات في الكفاءة للمؤسسات. من معالجة اللغة الطبيعية إلى رؤية الكمبيوتر، أظهر الذكاء الاصطناعي التوليدي إمكانات قوية في المجالات الطبية والمالية وتجارة التجزئة والتصنيع وغيرها من المجالات.

ومع ذلك، مع تزايد انتشار الذكاء الاصطناعي، لن تحتاج الشركات والمؤسسات إلى التركيز على خصوصية البيانات وأمنها فحسب، بل ستحتاج أيضًا إلى ضمان حماية النماذج والتطبيقات بشكل مناسب ضد الهجمات المحتملة وتسرب البيانات. كما اجتذبت القضايا الأمنية للذكاء الاصطناعي المزيد والمزيد من الاهتمام من الصناعة، مما دفع جميع مناحي الحياة إلى البحث عن حلول موثوقة لتحقيق التوازن بين الابتكار والأمن.

المصدر: 2023 Amazon Cloud Technology re:Inforce China Station

في مؤتمر "2023 Amazon Cloud Technology re:Inforce China" الذي اختتم مؤخرًا، أشارت Amazon Cloud Technology إلى أن "الأمن هو قضية مهمة لا مفر منها في بناء الذكاء الاصطناعي التوليدي. لا يمكن للشركات سوى تقديم البيانات والنماذج والتطبيقات الجيدة في الذكاء الاصطناعي​ ​رحلة. فقط من خلال حماية أمنية أفضل يمكننا استخدام الذكاء الاصطناعي بشكل أفضل لتسريع ابتكار الأعمال.

وأكد داي وين، مدير قسم هندسة الحلول في شركة Amazon Cloud Technology الصين الكبرى: "منذ بداية البناء، نحتاج إلى اعتبار الأمن رابطًا أساسيًا في تطوير استراتيجية الذكاء الاصطناعي للمؤسسات. وهذا يتطلب منا ليس فقط التركيز على تطبيق الذكاء الاصطناعي نفسه، ولكن من منظور متكامل، نحتاج إلى إجراء فحص شامل للمواصفات الأمنية والاستراتيجيات التقنية وأدوات النظام الأساسي للتطبيقات والنماذج والبيانات والبنية التحتية. إن تطبيقات الذكاء الاصطناعي التوليدية تشبه الجبال الجليدية في البحر ". نريد التحكم بأمان في هذه التكنولوجيا الجديدة في المؤسسة. التكنولوجيا، نحتاج أيضًا إلى الاهتمام بالأنهار الجليدية تحت البحر. "

بالإضافة إلى ذلك، أطلقت Amazon Cloud Technology أيضًا رسميًا "حل حماية البيانات الحساسة"، والذي يمكنه تحقيق الاكتشاف الآلي والإدارة الموحدة للبيانات الحساسة للمؤسسة، مما يوفر الراحة لإدارة البيانات. وفي الوقت نفسه، قدموا أيضًا عددًا من خدمات وميزات الأمان الجديدة، مثل Amazon Verified Permissions، وAmazon CodeGuru Security، وFindings Groups for Amazon Detective، وما إلى ذلك. وتساعد هذه الأدوات والخدمات العملاء على بناء إدارة الثقة المعدومة للتطبيقات وتحسينها. اكتشاف الضعف والاستجابة له درجة الذكاء.

بعد الاجتماع، ناقش الأشخاص المعنيون المسؤولون عن مجال أمن الذكاء الاصطناعي في Big Model House وAmazon Cloud Technology بمزيد من التعمق الوضع الجديد للأمن السحابي في الانفجار الذي نشهده اليوم في قدرات وتطبيقات الذكاء الاصطناعي التوليدية، وكيفية مواجهة الجديد الوضع والنمط، والتخطيط التطلعي الذي صنعته تقنية Amazon Cloud Technology.

يعد أمان البيانات والنماذج أمرًا أساسيًا لبناء تطبيقات الذكاء الاصطناعي

اليوم، تحول الذكاء الاصطناعي التوليدي من عصر الذكاء الاصطناعي (المدعوم بالذكاء الاصطناعي) إلى عصر الذكاء الاصطناعي+ (الذكاء الاصطناعي الأصلي). ويعد التغيير في الطلب الذي تقوده أقسام الأعمال اتجاهًا واضحًا. وقد جلب الذكاء الاصطناعي التوليدي كفاءة أعلى للمؤسسات. والأعمال التجارية ذات قيمة، ولكنها تجلب أيضًا تحديات أمنية جديدة. تسرد منظمة الأمن العالمية OWASP أهم عشرة تهديدات تواجه نماذج اللغات الكبيرة في عام 2023، بما في ذلك تسرب البيانات ومشكلات أخرى. وفي الوقت نفسه، يجلب الذكاء الاصطناعي التوليدي ونماذج اللغات الكبيرة أيضًا تحديات جديدة للإدارة الداخلية وآلية المراقبة للمؤسسات.

المصدر: 2023 Amazon Cloud Technology re:Inforce China Station

وفي هذا الصدد، أشار دايوين إلى أنه عند مواجهة هذه التحديات الجديدة، من الضروري تطبيق مبدأ "الذكاء الاصطناعي المسؤول" واستخدام الأدوات والحلول المناسبة لحل المشكلات، بما في ذلك حماية البيانات ومعالجة بيانات الخصوصية وتشغيل السلامة البيئية وغيرها. تحدث Daiwen أيضًا عن دمج قدرات الذكاء الاصطناعي في عملية التدقيق الأمني لتحقيق الأمان والامتثال.

في عملية تطوير الذكاء الاصطناعي التوليدي المتمثل في النماذج الكبيرة، يعد أمان البيانات والنماذج هو المفتاح لبناء تطبيقات الذكاء الاصطناعي. فيما يتعلق بأمن البيانات، توفر تقنية Amazon Cloud حوكمة البيانات بدورة كاملة، بدءًا من الحصول على مصادر البيانات وحتى تخزين البيانات والاستعلام عنها، وحتى نقل البيانات إلى منصة الذكاء الاصطناعي للتدريب النموذجي والضبط والاستدلال، فضلاً عن تصنيف البيانات. والحكم. وشددوا على أهمية البيانات عالية الجودة لبناء الذكاء الاصطناعي التوليدي واعتمدوا تدابير متعددة الطبقات لحماية البيانات، بما في ذلك الإدارة الرئيسية الآمنة لتخزين البيانات، وتشفير نقل البيانات، وحماية البيانات المستخدمة لمنع تسرب البيانات والتلاعب بها.

فيما يتعلق بأمان النموذج، فإن أمان النموذج الذي يدخل بيئة الإنتاج بعد التدريب أمر بالغ الأهمية بنفس القدر. أطلقت Amazon Cloud Technologies Amazon Bedrock، حيث تقدم مجموعة واسعة من النماذج الأساسية وتضمن أن العملاء يمكنهم اختيار النموذج الذي يناسب احتياجاتهم. تدير Amazon Bedrock البنية التحتية الأساسية أثناء العمل مع الشركاء لتوفير النموذج الأساسي الأكثر ملاءمة وقوة. وهي تؤكد على خصوصية وأمان بيانات العميل، مما يضمن استخدام البيانات فقط داخل حساب العميل ولن تتم مشاركتها مع النماذج الأخرى. بالإضافة إلى ذلك، توفر Amazon Cloud Technology سلسلة من ميزات الأمان، مثل Amazon KMS وAmazon IAM، لإدارة التشفير والتحكم في الأذونات والسجلات السلوكية. كما أنها توفر نموذجًا كبيرًا خاصًا بها، Amazon Titan، الذي يدعم تنفيذ الذكاء الاصطناعي المسؤول لتقليل المحتوى غير المناسب أو الضار والقضاء عليه.

أمان التطبيق هو الضمان لتحقيق قيمة الذكاء الاصطناعي

وفي عملية إدراك قيمة الذكاء الاصطناعي، يعد أمان التطبيقات رابطًا لا يمكن تجاهله. أولاً، يضمن خصوصية وسلامة بيانات المستخدم، ويمنع الوصول غير المصرح به والتسرب، ويضمن حماية المعلومات الحساسة بشكل صحيح. ثانيًا، يقاوم أمان التطبيق الهجمات الضارة، بما في ذلك التلاعب بالبيانات وهجمات رفض الخدمة وما إلى ذلك، مما يحافظ على توفر التطبيق وأدائه وتقليل الأضرار المحتملة. بالإضافة إلى ذلك، من خلال بناء أمان قوي، يمكن للتطبيقات أن تكتسب ثقة المستخدمين، وتحافظ على سمعتها، وتتجنب تقلب المستخدمين، وبالتالي تحافظ على النجاح التجاري. تتطلب متطلبات الامتثال أيضًا أمان التطبيق لضمان الامتثال للوائح الدولية أو الصناعية أو الإقليمية وتجنب المخاطر القانونية. وأخيرًا، يساهم أمان التطبيق في الاستدامة على المدى الطويل، مما يقلل من تكلفة الصيانة المستقبلية وإصلاح نقاط الضعف، ويقلل من مخاطر الإجراءات القانونية والخسائر.

مع نمو خدمات التحميل السحابي، أصبح الأمن السحابي الشامل اتجاهًا عامًا في الصناعة. وأشار باي فان، مدير المنتجات للامتثال الأمني والحوكمة في شركة أمازون كلاود تكنولوجي بالصين الكبرى، إلى أن الأعمال السحابية تتطور من الحدود المادية إلى الحدود المنطقية، وهو ما له تأثير كبير على أمن السحابة، لذلك يجب مراعاة الأمن في المراحل المبكرة. لتصميم المنتج، وهي ليست فكرة لاحقة.

لذلك، في مرحلة الأمان (DevSecOps) من عملية التطوير، تضمن Amazon Cloud Technology أمان التطبيقات من خلال دمج الأمان في دورة حياة تطوير البرامج بأكملها، بدءًا من التطوير والتكامل المستمر والنشر المستمر والإنتاج والمراقبة إلى الملاحظات. تشمل قدراتها الأمنية لتطوير الذكاء الاصطناعي Amazon CodeWhisperer، وهو مساعد برمجة يعمل بالذكاء الاصطناعي يقوم بإنشاء اقتراحات التعليمات البرمجية في الوقت الفعلي، مع مسح أمان التعليمات البرمجية المدمج للمساعدة في العثور على نقاط الضعف وإصلاحها، وAmazon CodeGuru Security، الذي يمكن استخدامه لمسح التعليمات البرمجية بحثًا عن نقاط الضعف. كما أنه يقلل تلقائيًا من المعدل الإيجابي الخاطئ أثناء عملية CICD ويسهل دمجه في سير عمل التطوير.

بالإضافة إلى ذلك، أثناء مرحلة الأمان التشغيلي، تتبنى Amazon Cloud Technology سياسة الوصول الآمن للتطبيقات ذات الثقة المعدومة لضمان أن التطبيقات التي لديها أذونات محددة فقط هي التي يمكنها الوصول إلى واجهات برمجة التطبيقات المحددة للنموذج الكبير أو الاتصال بها. توفر Amazon Cloud Technology أدوات متعددة لمساعدة العملاء على بناء هذه الآلية، بما في ذلك Amazon Verified Access، والذي يُستخدم لإنشاء قنوات شبكة موثوقة خالية من VPN، وAmazon Verified Permissions، الذي يوفر تفويضًا دقيقًا وإدارة الأذونات، ولغة CEDAR مفتوحة المصدر. ، يُستخدم لكتابة سياسات الترخيص وتنفيذها.

بالإضافة إلى ذلك، فيما يتعلق بالتحكم في الشبكة، توفر Amazon Cloud Technology سلسلة من الأدوات للتعامل مع حماية الشبكة وتحديد التهديدات، من بينها، تستخدم Amazon GuardDuty الذكاء الاصطناعي وتكنولوجيا التعلم الآلي لتقليل معدل الإنذارات الكاذبة للأحداث الأمنية وتحقيق النتائج الأولية. الكشف والتحليل المستمر توصيات ذكية للعمل.

كشف باي فان لـ Big Model House أنه في Amazon Cloud Technology، كان مصطلح "الثقة المعدومة" موجودًا منذ فترة طويلة وتطور إلى آلية كاملة تعتمد على الأدوات والمنهجيات والممارسات. تعمل Amazon Cloud Technology بنشاط على الترويج لهذه الجوانب الثلاثة. تتضمن الثقة المعدومة العديد من الأدوات، مثل Amazon Verified Permissions وAmazon Verified Access، بالإضافة إلى إدارة الأذونات والتحكم فيها استنادًا إلى IAM. وتشكل هذه الأدوات معًا نظامًا بيئيًا لأداة الثقة المعدومة. بالإضافة إلى ذلك، أدى ظهور الذكاء الاصطناعي التوليدي والنماذج الكبيرة إلى تعريض المزيد من الشركات لتكنولوجيا الذكاء الاصطناعي، لكنها قد تفتقر إلى أساس كامل لتكنولوجيا المعلومات والأمن. لذلك، توفر Amazon Cloud Technology أدوات مثل Amazon CodeWhisperer لإنشاء تعليمات برمجية آمنة واكتشاف الثغرات الأمنية، وتوفر أذونات تم التحقق منها لإدارة الأذونات الداخلية ودعم إدارة السياسات والتدقيق والوظائف الأخرى لمساعدة المؤسسات على الاستجابة بسهولة للتحكم في الأذونات ومتطلبات الأمان. تقدم تقنية Amazon Cloud مفهوم الثقة المعدومة بطريقة أكثر سهولة في الاستخدام، مما يسمح للمطورين والمؤسسات ببناء قدرات الثقة المعدومة وفقًا لاحتياجاتهم الخاصة. وبالتالي، يمكن تقسيم هذه الخدمات والقدرات واستخدامها حسب الحاجة، بدلاً من تقسيمها حل شامل مغلق. تساعد ممارسة الثقة المعدومة هذه في جعل التطبيقات أكثر أمانًا وقابلية للإدارة.

بالنسبة لمنتجات الأمان السحابية، أكد باي فان أيضًا على أهمية قابلية التوسع والأتمتة للتكيف مع احتياجات الأعمال المتزايدة. وأشار إلى أن جميع قدرات أمازون كلاود تكنولوجي تلتزم أيضا بالمدى الطويل، ويجب صقلها واستخدامها بنفسها قبل طرحها في السوق، ويوصي بشدة بالأتمتة لتقليل الأخطاء البشرية. يتم تطبيق هذه الأتمتة على التحكم في الأذونات، وقدرات الكشف، والبنية التقنية الأساسية لضمان إمكانية توسيع قدرات الأمان تلقائيًا دون الحاجة إلى إعادة النشر أو التعديل يدويًا، وهو أمر بالغ الأهمية للتعامل مع طفرات الأعمال. **

يجب أن يسير تطوير تكنولوجيا الذكاء الاصطناعي جنبًا إلى جنب مع السلامة، وينبغي اعتبار السلامة الأولوية الأولى والأعلى. كما دعت أمازون كلاود تكنولوجي الاجتماع إلى ضرورة أن يكون العملاء دائمًا في صميم تطبيقات الذكاء الاصطناعي، ويجب تضمين الأمن في كل رابط، وبهذه الطريقة فقط يمكننا أن نبني بشكل مشترك مستقبلًا أكثر أمانًا وموثوقية وإفادة للذكاء الاصطناعي.

من وجهة نظر Big Model House، مع التقدم المستمر لتكنولوجيا الذكاء الاصطناعي التوليدي، بينما تسعى الشركات إلى الابتكار، فقط من خلال النظر الكامل في القضايا الأمنية يمكن للذكاء الاصطناعي التوليدي أن يحقق إمكاناته بالكامل ويجلب فوائد مستدامة للمؤسسات. مستقبل افضل. **