أطلقت شركة OpenAI ميزة أمان جديدة اختيارية تحمل اسم «جهة الاتصال الموثوقة»، تتيح لمستخدمي «شات جي بي تي» من البالغين تعيين صديق أو فرد من العائلة لتلقي تنبيه إذا أشارت المحادثات مع روبوت الدردشة إلى احتمال وجود خطر يتعلق بإيذاء النفس أو الانتحار.
وجاء إطلاق الميزة وسط موجة من الدعاوى القضائية التي تزعم أن التفاعل مع «شات جي بي تي» ساهم في عدة حالات وفاة، بما في ذلك حالات انتحار وجرعات زائدة غير مقصودة.
وقالت الشركة إنه إذا اكتشف نظام المراقبة الآلي في «شات جي بي تي» أن أحد المستخدمين «ربما ناقش إيذاء نفسه بطريقة تشير إلى مصدر قلق أمني خطير»، فسيقوم فريق صغير بمراجعة الحالة، ثم التواصل مع جهة الاتصال الموثوقة إذا استدعت الحالة التدخل. وتتلقى جهة الاتصال دعوة مسبقة تشرح طبيعة الدور، مع إمكانية رفضه.
ويأتي الإعلان بعد ربط روبوتات الدردشة المدعومة بالذكاء الاصطناعي بعدة حوادث تتعلق بإيذاء النفس والوفاة، ما أدى إلى تصاعد الدعاوى القضائية التي تتهم الشركات المطورة بعدم اتخاذ إجراءات كافية لمنع هذه النتائج.
وفي إحدى القضايا البارزة في ولاية كاليفورنيا الأميركية، قال والدا مراهق يبلغ 16 عاماً إن «شات جي بي تي» تصرف كـ«مدرب على الانتحار» لابنهما، مدّعين أن المراهق ناقش مع النموذج أساليب الانتحار في عدة مناسبات، وأن روبوت الدردشة عرض مساعدته في كتابة رسالة انتحار.
وفي قضية أخرى، رفعت عائلة خريج حديث من جامعة في ولاية تكساس دعوى ضد الشركة، زاعمة أن روبوت الدردشة شجع ابنهم على الانتحار بعد أن طور علاقة عاطفية ومقلقة مع النظام. كما تتهم دعوى أخرى رُفعت هذا الأسبوع روبوت الشركة بتقديم نصائح لشاب يبلغ 19 عاماً حول تعاطي المخدرات لمدة 18 شهراً، قبل أن يتوفى بجرعة زائدة عام 2025 بعد خلط أدوية ومركبات أخرى.
وبسبب اعتماد نماذج اللغة الكبيرة على محاكاة الكلام البشري عبر التعرف على الأنماط، يطوّر كثير من المستخدمين ارتباطات عاطفية معها، ويتعاملون معها باعتبارها أشخاصاً مقربين أو حتى شركاء عاطفيين. كما أن هذه النماذج مصممة لمجاراة المستخدم والحفاظ على تفاعله، وهو ما قد يزيد من مخاطر التدهور النفسي، خصوصاً لدى الأشخاص المعرضين للخطر.
وكانت الشركة قد أعلنت في أكتوبر الماضي أن أبحاثها أظهرت أن أكثر من مليون مستخدم أسبوعياً يرسلون رسائل تتضمن «مؤشرات صريحة على التخطيط للانتحار أو وجود نية لذلك». كما وجدت دراسات عديدة أن روبوتات دردشة شهيرة يمكن أن تقدم نصائح ضارة أو غير مفيدة للأشخاص الذين يمرون بأزمات نفسية.
وتأتي ميزة «جهة الاتصال الموثوقة» بعد إطلاق أدوات رقابة أبوية تتيح للآباء والأوصياء تلقي تنبيهات عند ظهور مؤشرات خطر لدى أبنائهم المراهقين.
كيف تعمل الميزة؟
بحسب الشركة، إذا اكتشف النظام الآلي أن المستخدم يناقش إيذاء النفس بطريقة قد تشكل خطراً حقيقياً، فسيُبلغ «شات جي بي تي» المستخدم بأنه قد يتم التواصل مع جهة الاتصال الموثوقة. كما سيشجع التطبيق المستخدم على التواصل مع هذه الجهة، مع اقتراح عبارات لبدء الحديث.
بعد ذلك، يقوم «فريق صغير من الأشخاص المدربين خصيصاً» بمراجعة الحالة. وإذا اعتُبرت الحالة خطيرة، يتم إرسال إشعار إلى جهة الاتصال عبر البريد الإلكتروني أو الرسائل النصية أو إشعارات التطبيق. ولم تحدد الشركة عدد الأشخاص في فريق المراجعة أو ما إذا كانوا مختصين طبيين، لكنها أكدت أن الفريق قادر على التعامل مع حجم كبير من الحالات المحتملة.
ولا يزال من غير الواضح ما الكلمات أو العبارات التي قد تؤدي إلى تصنيف المحادثة على أنها خطيرة، أو كيف سيقيّم الفريق الحالات التي تستوجب إرسال تنبيه.
كما أثار بعض المعلقين مخاوف من أن تكون الميزة وسيلة لتخفيف المسؤولية القانونية عن الشركة وتحويلها إلى جهات الاتصال الشخصية للمستخدمين. بينما أشار آخرون إلى أن الميزة قد تجعل الوضع أسوأ إذا كانت «جهة الاتصال الموثوقة» نفسها مصدراً للخطر أو الإساءة.
كما ظهرت مخاوف تتعلق بالخصوصية وآلية التنفيذ، خصوصاً في ما يتعلق بمشاركة معلومات حساسة مرتبطة بالصحة النفسية. وأوضحت الشركة أن الرسائل المرسلة إلى جهة الاتصال لن تتضمن تفاصيل المحادثات أو نصوصها، بل ستكتفي بذكر سبب عام للقلق.
كما تقدم الشركة إرشادات حول كيفية التعامل مع التنبيه، بما في ذلك طرح أسئلة مباشرة إذا وُجدت مخاوف من التفكير في الانتحار أو إيذاء النفس، وكيفية طلب المساعدة.
كيف يمكن إضافة جهة اتصال موثوقة؟
يمكن لمستخدمي «شات جي بي تي» إضافة جهة اتصال موثوقة عبر الدخول إلى الإعدادات ثم اختيار «جهة الاتصال الموثوقة»، وإضافة شخص بالغ واحد فقط. ويتلقى هذا الشخص دعوة من التطبيق، ويجب أن يقبلها خلال أسبوع واحد، وإلا يمكن للمستخدم اختيار شخص آخر.
كما يمكن للمستخدمين تغيير أو إزالة جهة الاتصال في أي وقت من إعدادات التطبيق، ويمكن أيضاً للشخص المضاف الانسحاب من هذا الدور متى شاء.
ورغم أن إضافة جهة اتصال موثوقة اختيارية، فقد يرى المستخدمون الذين لم يفعلوا الميزة رسائل تشجعهم على التسجيل إذا ناقشوا مواضيع تتعلق بضيق نفسي شديد أو إيذاء النفس أكثر من مرة خلال فترة معينة، وفقاً للشركة. وإذا اكتشف النظام أنماطاً مقلقة عبر المحادثات، فقد يقترح على المستخدم اختيار جهة اتصال موثوقة.
وقالت الشركة إن الميزة تُطرح تدريجياً لجميع المستخدمين البالغين حول العالم، ومن المتوقع أن تصبح متاحة للجميع خلال أسابيع قليلة.
