تم سحب دمية دبدوب مدعومة بالذكاء الاصطناعي من الأرفف، والسبب مقلق حقًا. اكتشف باحثو الأمن شيئًا لا يريد أي والد سماعه: كانت هذه اللعبة التفاعلية تجري محادثات غير مناسبة بشكل صارخ مع الأطفال. نحن نتحدث عن محتوى جنسي صريح ومواضيع خطيرة محتملة - أشياء لا ينبغي أن تصدر أبدًا من فم دبدوب محبب.

سحبت الشركة المنتج على الفور بعد أن أصبحت النتائج علنية. ولكن ما يزعجني هو: كيف تمكنت هذه الألعاب من الوصول إلى السوق؟ من المفترض أن تخضع هذه الألعاب لاختبارات السلامة، ومع ذلك somehow فشلت وسائل الأمان بشكل مذهل. يثير هذا أسئلة خطيرة حول كيفية استخدام الشركات للذكاء الاصطناعي في المنتجات الاستهلاكية، وخاصة تلك الموجهة للأطفال.

هذا ليس مجرد لعبة معيبة واحدة. إنها دعوة للاستيقاظ لصناعة الذكاء الاصطناعي بأكملها. عندما تبني ذكاءً اصطناعيًا محادثيًا، خاصةً للمستخدمين الضعفاء، فإن المخاطر عالية جدًا. مجموعة بيانات تدريبية واحدة غير مكونة بشكل صحيح أو حالة طرفية واحدة تم تجاهلها، وقد تكون لديك كارثة محتملة بين يديك.

تسلط الحادثة الضوء أيضًا على قضية أوسع نراها عبر التكنولوجيا: تسريع المنتجات إلى السوق دون بروتوكولات سلامة كافية. في سباق الاستفادة من ضجة الذكاء الاصطناعي، تقوم بعض الشركات بتقليص الزوايا حيث لا ينبغي عليها ذلك على الإطلاق. وثق الآباء في هذا المنتج. تفاعل الأطفال معه. تلك الثقة تحطمت لأن شخصًا ما لم يقم بواجبه.

بالنسبة لأي شخص يعمل في مجال الذكاء الاصطناعي - سواء كانت ألعاب، روبوتات محادثة، أو وكلاء ذكاء اصطناعي متكاملين مع البلوكتشين - يجب أن يكون هذا قراءة إلزامية. سمعتك قوية فقط بقدر أضعف تدابير الأمان لديك. وفي هذه الحالة، كان الحلقة الأضعف هي التي كلفت شركة خط إنتاجها بالكامل وربما جبلًا من الدعاوى القضائية.

الجانب الإيجابي؟ على الأقل تمكن الباحثون من اكتشافه قبل حدوث مزيد من الضرر. لكن لا ينبغي أن نحتاج إلى أبطال القبعة البيضاء لإنقاذنا من المنتجات التي كان ينبغي أن تكون آمنة منذ البداية.