شاركت شركة OpenAI خططها لمعالجة عيوب ChatGPT عند التعامل مع "المواقف الحساسة". وكان السبب هو دعوى قضائية من عائلة اتهمت روبوت الدردشة بالتسبب في المأساة التي حدثت لابنهم.
«الهدف هو جعل أدواتنا مفيدة قدر الإمكان للناس. في إطار ذلك، نستمر في تحسين قدرة النماذج على التعرف بشكل صحيح والاستجابة لعلامات الأزمات النفسية والعاطفية ومساعدة الناس في العثور على الدعم - مع مراعاة توصيات الخبراء»، كما ورد في مدونة الشركة الناشئة.
أبلغ موظفو الشركة أن ChatGPT يحتوي على مجموعة من آليات الحماية متعددة المستويات في حالة التواصل مع شخص معرض للخطر. منذ عام 2023، تم تدريب النماذج على عدم تقديم تعليمات لإيذاء النفس. كما أنها قادرة على الانتقال إلى خطاب داعم ومتعاطف.
إذا كان الشخص يعبر عن أفكار انتحارية، فإن ChatGPT مدرب على توجيهه إلى المساعدة المهنية. تتعاون الشركة مع 90 طبيبًا من أكثر من 30 دولة - أطباء نفسيين وأطباء أطفال ومعالجين.
أظهر GPT-5 تقدمًا ملحوظًا في مجال منع الاعتماد العاطفي غير الصحي، وتقليل المدح، وتقليص نسبة الإجابات غير المثالية في أزمات الصحة النفسية، كما أشاروا في OpenAI.
ومع ذلك، على الرغم من جميع تدابير الحماية، كانت أنظمة الذكاء الاصطناعي في الشركة أحيانًا تفشل. بناءً على ذلك، تعمل الشركة على:
تحسين الحماية في المحادثات الطويلة؛
توضيح قواعد حظر المحتوى;
ارتفع المساعدة لعدد أكبر من الأشخاص الذين يمرون بفترة أزمة؛
تبسيط التعاملات مع خدمات الطوارئ؛
ضمان التواصل مع جهات الاتصال الموثوقة؛
تعزيز حماية المراهقين.
في 26 أغسطس، قدم والدا آدم رين البالغ من العمر 16 عامًا دعوى قضائية ضد OpenAI بعد وفاته. ويزعمون أن "ChatGPT ساعد آدم بنشاط في دراسة طرق الانتحار."
هذه ليست حالة فردية. في وقت سابق، نشرت الكاتبة لورا رايلي مقالًا سردت فيه أن ابنتها البالغة من العمر 29 عامًا انتهت حياتها "بعد مناقشة طويلة حول هذا مع ChatGPT".
نذكّر أنه في ديسمبر 2024، تم إنشاء مساعد افتراضي قائم على الذكاء الاصطناعي في روسيا للأطباء النفسيين، والذي يزيد من الإنتاجية وجودة الخدمات والإيرادات بمقدار الضعف.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
ستعزز OpenAI أمان الذكاء الاصطناعي بعد مأساة المراهق
شاركت شركة OpenAI خططها لمعالجة عيوب ChatGPT عند التعامل مع "المواقف الحساسة". وكان السبب هو دعوى قضائية من عائلة اتهمت روبوت الدردشة بالتسبب في المأساة التي حدثت لابنهم.
أبلغ موظفو الشركة أن ChatGPT يحتوي على مجموعة من آليات الحماية متعددة المستويات في حالة التواصل مع شخص معرض للخطر. منذ عام 2023، تم تدريب النماذج على عدم تقديم تعليمات لإيذاء النفس. كما أنها قادرة على الانتقال إلى خطاب داعم ومتعاطف.
إذا كان الشخص يعبر عن أفكار انتحارية، فإن ChatGPT مدرب على توجيهه إلى المساعدة المهنية. تتعاون الشركة مع 90 طبيبًا من أكثر من 30 دولة - أطباء نفسيين وأطباء أطفال ومعالجين.
أظهر GPT-5 تقدمًا ملحوظًا في مجال منع الاعتماد العاطفي غير الصحي، وتقليل المدح، وتقليص نسبة الإجابات غير المثالية في أزمات الصحة النفسية، كما أشاروا في OpenAI.
ومع ذلك، على الرغم من جميع تدابير الحماية، كانت أنظمة الذكاء الاصطناعي في الشركة أحيانًا تفشل. بناءً على ذلك، تعمل الشركة على:
في 26 أغسطس، قدم والدا آدم رين البالغ من العمر 16 عامًا دعوى قضائية ضد OpenAI بعد وفاته. ويزعمون أن "ChatGPT ساعد آدم بنشاط في دراسة طرق الانتحار."
هذه ليست حالة فردية. في وقت سابق، نشرت الكاتبة لورا رايلي مقالًا سردت فيه أن ابنتها البالغة من العمر 29 عامًا انتهت حياتها "بعد مناقشة طويلة حول هذا مع ChatGPT".
نذكّر أنه في ديسمبر 2024، تم إنشاء مساعد افتراضي قائم على الذكاء الاصطناعي في روسيا للأطباء النفسيين، والذي يزيد من الإنتاجية وجودة الخدمات والإيرادات بمقدار الضعف.