وبحسب شبكة "سي إن بي سي"، تأتي الخطوة وسط تدقيق متزايد في المخاطر التي قد تشكلها روبوتات الدردشة المدعومة بالذكاء الاصطناعي على المستخدمين صغار السن، ومدى مسؤولية الشركات عن رصد التهديدات المحتملة والتعامل معها.
وتشمل الإجراءات الجديدة تقييد المعلومات العملية المتعلقة بالأسلحة والأنظمة الأمنية التي قد تُستخدم لأغراض ضارة، على أن تُطبق هذه القيود على المراهقين حتى في غياب أي مؤشرات إلى نيات عنيفة.
كذلك، سيتمكن "تشات جي بي تي" من إنهاء المحادثات تلقائياً لدى جميع المستخدمين عند رصد انشغال مفرط ومتكرر بموضوعات العنف، مع إمكانية تعليق الحسابات مؤقتاً في حال تكرار هذه المحادثات.
وأوضحت الشركة أنها طورت نظام تقدير أعمار المستخدمين، بهدف تحويل من يُرجح أن أعمارهم تقل عن 18 عاماً إلى النسخة المخصصة للمراهقين، مع التخطيط لإبلاغ أولياء الأمور في حال تعليق حسابات أبنائهم بسبب تكرار المحادثات المتعلقة بالعنف.
وستشمل القيود أيضاً الحد من إتاحة التفاصيل المرتبطة بالهجمات الجماعية السابقة لجميع المستخدمين، بما فيها أنواع الأسلحة المستخدمة وطرق الحصول عليها.
وأكدت "أوبن إيه آي" أن تطبيق الإجراءات الجديدة سيبدأ خلال الأسابيع المقبلة، على أن تخضع للتطوير والتحسين بصورة مستمرة.

