عمانيات - أعلنت شركة "أوبن إيه آي" حزمة جديدة من إجراءات السلامة في "شات جي بي تي" تستهدف المستخدمين دون 18 عامًا، وتتضمن تحسين آليات تقدير العمر، وإضافة أدوات رقابة أبوية، وتخصيص تجربة الاستخدام بما يتناسب مع الفئات العمرية الأصغر.

وتأتي الخطوة في ظل تصاعد المخاوف بشأن تأثير روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في الأطفال والمراهقين، خصوصًا ما يتعلق بالتعرض لمحتوى غير مناسب، والاعتماد العاطفي على أنظمة المحادثة، والتعامل مع الأزمات النفسية.

وتعمل الشركة على تطوير نظام يقدّر عمر المستخدم اعتمادًا على مؤشرات مرتبطة بطريقة استخدام الحساب. وفي حال وجود شك بشأن العمر الحقيقي، يمكن تحويل الحساب تلقائيًا إلى إعدادات الحماية المخصصة للمستخدمين دون 18 عامًا.

وأوضحت "أوبن إيه آي" أنها قد تطلب في بعض الحالات وسائل إضافية للتحقق من العمر، مؤكدة أن الهدف هو تحقيق توازن بين حماية القُصّر والحفاظ على خصوصية المستخدمين البالغين.

وتشمل التحديثات أدوات جديدة للرقابة الأبوية، من بينها إمكانية تفعيل "وضع الدراسة" عن بُعد، وهو نمط يوجّه المستخدم خطوة بخطوة أثناء حل المسائل، بدلًا من الاكتفاء بتقديم الإجابات النهائية، بهدف تعزيز التعلم وتنمية مهارات التفكير.

وقالت الشركة إن تطوير هذه الميزة استند إلى مشاورات مع تربويين وخبراء في التعليم، استجابة للمخاوف من أن يؤدي الاعتماد المفرط على الذكاء الاصطناعي إلى إضعاف التفكير النقدي لدى الطلاب.

وتبني الإجراءات الجديدة على نظام أُطلق في سبتمبر/أيلول الماضي، يتيح للوالدين ربط حساباتهم بحسابات أبنائهم، وتحديد حدود زمنية للاستخدام، وتعطيل ميزة إنشاء الصور، وتلقي تنبيهات عند رصد مشكلات خطيرة.

كما ستُرسل الشركة إشعارات محدودة إلى أولياء الأمور في حالات ترى فيها أن المستخدم المراهق قد يحتاج إلى تدخل شخص بالغ، مثل بعض الحالات المرتبطة بالسلوك العنيف أو المخاطر العاجلة، مع التأكيد أن هذه التنبيهات لا تشمل المحادثات اليومية أو الأسئلة التعليمية أو النقاشات العامة.

وسيُخطر الوالدان أيضًا إذا قررت الشركة تعليق حساب الطفل، من دون إتاحة الوصول إلى محتوى المحادثات، حفاظًا على خصوصية المستخدم.

وتتضمن التحديثات فرض قيود إضافية على بعض أنواع المحتوى الحساس، مع تكييف الاستجابات بما يتناسب مع عمر المستخدم، إلى جانب تعزيز معايير السلامة والشفافية في تعامل نماذج الذكاء الاصطناعي مع المستخدمين دون 18 عامًا.

وتأتي هذه الإجراءات في وقت تواجه فيه شركات الذكاء الاصطناعي ضغوطًا متزايدة من الجهات التنظيمية ومنظمات حماية الطفل والأسر، للموازنة بين توسيع استخدام هذه التقنيات وتوفير ضمانات أكبر لسلامة المستخدمين الأصغر سنًا.

وأكدت "أوبن إيه آي" أن هدفها ليس الحد من استخدام المراهقين للذكاء الاصطناعي، وإنما توفير بيئة أكثر أمانًا تدعم التعلم والبحث والإبداع مع تقليل المخاطر المحتملة.

ورغم الترحيب بهذه الخطوات، لا تزال آليات التحقق من العمر والرقابة الأبوية تثير نقاشًا بشأن تأثيرها في خصوصية المستخدمين، إذ يرى خبراء أن التحدي الرئيسي يتمثل في تحقيق توازن بين حماية الأطفال وعدم توسيع نطاق جمع البيانات الشخصية أو المراقبة.