تتضح مشاكل أمان الذكاء الاصطناعي، والتشفير المتماثل بالكامل قد يكون الحل
مع التطور السريع لتكنولوجيا الذكاء الاصطناعي، حقق Manus نتائج غير مسبوقة في اختبارات GAIA، حيث تجاوز أداؤه نماذج اللغة الكبيرة من نفس الفئة. أظهر Manus القدرة على إكمال المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الوطنية وغيرها من المجالات التي تتطلب معرفة متخصصة متعددة. مقارنةً بالأنظمة التقليدية، يتمتع Manus بمزايا ملحوظة في تحليل الأهداف الديناميكية، والاستدلال عبر الأنماط، وتعزيز الذاكرة التعلم.
ومع ذلك، أثار تقدم Manus أيضًا نقاشات حماسية في الصناعة حول مسار تطوير الذكاء الاصطناعي: هل سيظهر في المستقبل ذكاء اصطناعي عام موحد (AGI) أم ستتعاون عدة عوامل ذكية متخصصة (MAS)؟ في الواقع، تعكس هذه المناقشة مسألة التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. عندما يقترب عامل ذكي واحد من AGI، فإن عدم شفافية عملية اتخاذ القرار يزيد من المخاطر؛ بينما يمكن لتعاون العوامل المتعددة تقليل المخاطر، ولكن قد تفوت اللحظات الحاسمة لاتخاذ القرار بسبب تأخير التواصل.
إن تطوير Manus قد ضخم بشكل غير ملموس المخاطر الأمنية المتأصلة في الذكاء الاصطناعي. في السيناريوهات الطبية، يتطلب الوصول إلى بيانات الجينوم الحساسة للمرضى؛ في المفاوضات المالية، قد تتعلق بمعلومات مالية غير معلنة من الشركات. علاوة على ذلك، تواجه أنظمة الذكاء الاصطناعي مشاكل مثل التحيز في الخوارزميات والهجمات العدائية. على سبيل المثال، قد تؤدي إلى اقتراحات غير عادلة في الرواتب لمجموعات معينة خلال عملية التوظيف، أو انخفاض دقة الحكم على شروط الصناعات الناشئة أثناء مراجعة الوثائق القانونية. والأكثر خطورة، قد يتمكن المخترقون من التدخل في حكم نظام الذكاء الاصطناعي في المفاوضات من خلال زرع إشارات صوتية معينة.
في مواجهة هذه التحديات، يستكشف القطاع مجموعة متنوعة من حلول الأمان. من بينها، يُعتبر تقنية التشفير المتماثل بالكامل (FHE) أداة قوية لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يسمح FHE بإجراء عمليات حسابية على البيانات المشفرة، دون الحاجة إلى فك تشفيرها لمعالجة المعلومات الحساسة.
على مستوى البيانات، يمكن لـ FHE ضمان معالجة جميع المعلومات المدخلة من قبل المستخدم (بما في ذلك الخصائص البيولوجية، الصوت، إلخ) في حالة مشفرة، حتى أن نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية. على مستوى الخوارزميات، يمكن أن يحمي "تدريب نموذج التشفير" الذي يتم تحقيقه من خلال FHE عملية اتخاذ القرار للذكاء الاصطناعي من التطفل. في مجال التعاون بين العوامل المتعددة، يمكن أن تمنع تقنية التشفير العتبة من اختراق عقدة واحدة مما يؤدي إلى تسرب البيانات العالمية.
على الرغم من أن تقنيات أمان Web3 قد تبدو بعيدة عن المستخدمين العاديين، إلا أنها حيوية لحماية مصالح المستخدمين. في صناعة blockchain، هناك بالفعل بعض المشاريع التي تستكشف تقنيات الأمان مثل الهوية اللامركزية ونموذج الأمان بدون ثقة. ومع ذلك، مقارنةً بالمجالات الأخرى الأكثر جذبًا للاهتمام، فإن مشاريع الأمان غالبًا ما لا تحظى بتفضيل المضاربين.
مع اقتراب تقنيات الذكاء الاصطناعي من مستوى الذكاء البشري، أصبحت الحاجة إلى إنشاء نظام دفاعي قوي أكثر أهمية. تقنيات الأمان مثل التشفير المتماثل بالكامل لا تحل فقط المشكلات الحالية، بل تضع الأساس لعصر الذكاء الاصطناعي الأقوى في المستقبل. على طريق الوصول إلى الذكاء العام الاصطناعي، لم تعد هذه التقنيات الأمنية خيارًا، بل أصبحت شرطًا ضروريًا لضمان تشغيل أنظمة الذكاء الاصطناعي بشكل موثوق.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تسجيلات الإعجاب 15
أعجبني
15
7
مشاركة
تعليق
0/400
StrawberryIce
· منذ 13 س
لا تفهم اسأل ما هي مشكلة الأمان هذه
شاهد النسخة الأصليةرد0
ThatsNotARugPull
· منذ 19 س
الآلات أذكى مني gg
شاهد النسخة الأصليةرد0
fomo_fighter
· منذ 19 س
ظهرت خطة جديدة للاختراق، ننتظر أن تُصفع الوجوه
شاهد النسخة الأصليةرد0
MemeCoinSavant
· منذ 19 س
وفقًا لتحليلي الميمي الشامل، فإن MA مجرد AGI مع المزيد من الكوبيوم بصراحة... الهوبيم اللامركزي حقًا حقًا
شاهد النسخة الأصليةرد0
GasFeeLover
· منذ 19 س
هل لا يزال هناك من يصدق AGI؟
شاهد النسخة الأصليةرد0
Rekt_Recovery
· منذ 19 س
بصراحة، لقد تعرضت للخسارة من قبل بواسطة بوتات التداول الذكية... ولن أقترب من هذا الشيء مانوس بمترين بصراحة.
شاهد النسخة الأصليةرد0
MainnetDelayedAgain
· منذ 19 س
احصائياً، هذا هو المشروع الخامس هذا العام الذي يتحدث عن إنشاء كيان ذكي آمن... لقد مضى 326 يوماً منذ أول وعد، ونحن في انتظار تحديث البيانات.
التشفير المتماثل بالكامل: درع الأمان في عصر الذكاء الاصطناعي والمفتاح لتطور AGI
تتضح مشاكل أمان الذكاء الاصطناعي، والتشفير المتماثل بالكامل قد يكون الحل
مع التطور السريع لتكنولوجيا الذكاء الاصطناعي، حقق Manus نتائج غير مسبوقة في اختبارات GAIA، حيث تجاوز أداؤه نماذج اللغة الكبيرة من نفس الفئة. أظهر Manus القدرة على إكمال المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الوطنية وغيرها من المجالات التي تتطلب معرفة متخصصة متعددة. مقارنةً بالأنظمة التقليدية، يتمتع Manus بمزايا ملحوظة في تحليل الأهداف الديناميكية، والاستدلال عبر الأنماط، وتعزيز الذاكرة التعلم.
ومع ذلك، أثار تقدم Manus أيضًا نقاشات حماسية في الصناعة حول مسار تطوير الذكاء الاصطناعي: هل سيظهر في المستقبل ذكاء اصطناعي عام موحد (AGI) أم ستتعاون عدة عوامل ذكية متخصصة (MAS)؟ في الواقع، تعكس هذه المناقشة مسألة التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. عندما يقترب عامل ذكي واحد من AGI، فإن عدم شفافية عملية اتخاذ القرار يزيد من المخاطر؛ بينما يمكن لتعاون العوامل المتعددة تقليل المخاطر، ولكن قد تفوت اللحظات الحاسمة لاتخاذ القرار بسبب تأخير التواصل.
إن تطوير Manus قد ضخم بشكل غير ملموس المخاطر الأمنية المتأصلة في الذكاء الاصطناعي. في السيناريوهات الطبية، يتطلب الوصول إلى بيانات الجينوم الحساسة للمرضى؛ في المفاوضات المالية، قد تتعلق بمعلومات مالية غير معلنة من الشركات. علاوة على ذلك، تواجه أنظمة الذكاء الاصطناعي مشاكل مثل التحيز في الخوارزميات والهجمات العدائية. على سبيل المثال، قد تؤدي إلى اقتراحات غير عادلة في الرواتب لمجموعات معينة خلال عملية التوظيف، أو انخفاض دقة الحكم على شروط الصناعات الناشئة أثناء مراجعة الوثائق القانونية. والأكثر خطورة، قد يتمكن المخترقون من التدخل في حكم نظام الذكاء الاصطناعي في المفاوضات من خلال زرع إشارات صوتية معينة.
في مواجهة هذه التحديات، يستكشف القطاع مجموعة متنوعة من حلول الأمان. من بينها، يُعتبر تقنية التشفير المتماثل بالكامل (FHE) أداة قوية لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يسمح FHE بإجراء عمليات حسابية على البيانات المشفرة، دون الحاجة إلى فك تشفيرها لمعالجة المعلومات الحساسة.
على مستوى البيانات، يمكن لـ FHE ضمان معالجة جميع المعلومات المدخلة من قبل المستخدم (بما في ذلك الخصائص البيولوجية، الصوت، إلخ) في حالة مشفرة، حتى أن نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية. على مستوى الخوارزميات، يمكن أن يحمي "تدريب نموذج التشفير" الذي يتم تحقيقه من خلال FHE عملية اتخاذ القرار للذكاء الاصطناعي من التطفل. في مجال التعاون بين العوامل المتعددة، يمكن أن تمنع تقنية التشفير العتبة من اختراق عقدة واحدة مما يؤدي إلى تسرب البيانات العالمية.
على الرغم من أن تقنيات أمان Web3 قد تبدو بعيدة عن المستخدمين العاديين، إلا أنها حيوية لحماية مصالح المستخدمين. في صناعة blockchain، هناك بالفعل بعض المشاريع التي تستكشف تقنيات الأمان مثل الهوية اللامركزية ونموذج الأمان بدون ثقة. ومع ذلك، مقارنةً بالمجالات الأخرى الأكثر جذبًا للاهتمام، فإن مشاريع الأمان غالبًا ما لا تحظى بتفضيل المضاربين.
مع اقتراب تقنيات الذكاء الاصطناعي من مستوى الذكاء البشري، أصبحت الحاجة إلى إنشاء نظام دفاعي قوي أكثر أهمية. تقنيات الأمان مثل التشفير المتماثل بالكامل لا تحل فقط المشكلات الحالية، بل تضع الأساس لعصر الذكاء الاصطناعي الأقوى في المستقبل. على طريق الوصول إلى الذكاء العام الاصطناعي، لم تعد هذه التقنيات الأمنية خيارًا، بل أصبحت شرطًا ضروريًا لضمان تشغيل أنظمة الذكاء الاصطناعي بشكل موثوق.