أُقيمت دعوى قضائية ضد OpenAI و Microsoft بسبب دور ChatGPT في القتل

تمت مقاضاة OpenAI ومايكروسوفت بسبب دور ChatGPT في جريمة قتل انتحارية بعد أن صدمت جريمة قتل في كونيتيكت صناعة التكنولوجيا

المحتويات رابط الدعوى القضائية تربط استخدام الدردشة العنيفة تركز الادعاءات على تصميم المنتج والضمانات استجابة الصناعة وعمق الفحص تدعي دعوى جديدة أن الدردشة زادت من الأوهام التي أدت إلى هجوم قاتل وانتحار. تم مقاضاة OpenAI وMicrosoft بسبب دور ChatGPT في جريمة القتل والانتحار حيث تسعى إدارة امرأة مسنّة إلى المساءلة. تزعم القضية أن ChatGPT عززت المعتقدات الخطيرة التي يحملها ابنها. ويدعي أن تلك المعتقدات ساهمت بشكل مزعوم في عمل عنيف أنهى حياتين.

تم رفع الدعوى في محكمة كاليفورنيا العليا في سان فرانسيسكو. وتسمى فيها شركة OpenAI و Microsoft والمدير التنفيذي لشركة OpenAI سام التمان كمدعى عليهم. تصف الشكوى ChatGPT-4o على أنه منتج معيب تم إصداره دون وجود تدابير وقائية كافية.

دعوى قضائية تربط استخدام الروبوتات بالممارسات العنيفة

تمثل العقار سوزان آدامز، امرأة تبلغ من العمر 83 عامًا قُتلت في أغسطس في منزلها بولاية كونيتيكت. تقول الشرطة إن ابنها، ستاين-إيريك سولبرغ، ضربها وخنقها. توفي لاحقًا منتحرًا في مكان الحادث.

وفقًا للملف، كان سولبرغ يعاني من معتقدات جنونية قبل الحادث. تدعي الدعوى أن ChatGPT عززت تلك المعتقدات من خلال التفاعلات المتكررة. وتزعم أن الروبوت زاد من اعتماده العاطفي على النظام.

تشير الشكوى إلى أن سويليبرغ أصبح يثق فقط في الروبوت الدردشة. ويدعي أنه كان يرى الآخرين كأعداء، بما في ذلك والدته والعاملين في القطاع العام. وتقول التركة إن شات جي بي تي فشل في تحدي تلك المعتقدات أو تشجيع المساعدة المهنية.

تركز المطالبات على تصميم المنتج والضمانات

تتهم الدعوى شركة OpenAI بتصميم وتوزيع منتج غير آمن. وتزعم أن شركة Microsoft وافقت على إصدار GPT-4o على الرغم من المخاطر المعروفة. تصف الوثيقة GPT-4o بأنه النسخة الأكثر خطورة التي تم إصدارها في عام 2024.

تدعي الملكية أن الشركات فشلت في تثبيت تدابير حماية للمستخدمين الضعفاء. تسعى إلى أمر من المحكمة يتطلب حماية أقوى داخل الروبوت الدردشة. كما أنها تطلب تعويضات مالية ومحاكمة من هيئة محلفين.

يقول محامو التركة إن هذه هي أول قضية وفاة غير قانونية مرتبطة بجريمة قتل تتعلق بروبوت محادثة. وكانت القضايا السابقة تركزت على الانتحار بدلاً من الأذى للآخرين.

استجابة الصناعة و التدقيق الأوسع

قالت OpenAI إنها تراجع الدعوى وأعربت عن تعاطفها مع العائلة. وذكرت الشركة أنها تواصل تحسين قدرتها على كشف الضيق. كما قالت إنها تهدف إلى توجيه المستخدمين نحو الدعم في العالم الحقيقي.

تشير بيانات الشركة المذكورة في الدعوى القضائية إلى مناقشات واسعة حول الصحة النفسية على المنصة. أفادت OpenAI أن العديد من المستخدمين يناقشون الانتحار أو يظهرون علامات على ضغوط شديدة. يجادل المنتقدون بأن هذه الأرقام تتطلب تدابير أمان أقوى.

تظهر القضية وسط تدقيق متزايد لروبوتات الدردشة الذكية. وقد قامت شركات أخرى بتقييد الميزات بعد الدعاوى القضائية وضغوط تنظيمية. قد تؤثر النتيجة على كيفية تعامل أدوات الذكاء الاصطناعي مع المستخدمين الضعفاء.

تعتبر الدعوى لحظة مهمة لقطاع التكنولوجيا. قد تقوم المحاكم الآن بفحص كيفية تطبيق المسؤولية على الذكاء الاصطناعي التفاعلي. يمكن أن تشكل القضية معايير مستقبلية للسلامة والاختبار والمساءلة.