أعلنت شركة ميتا، الشركة الأم لإنستغرام، أنها ستطلق ميزات أمان جديدة للمراهقين، تشمل تمكين الآباء من منع أطفالهم من الدردشة مع شخصيات الذكاء الاصطناعي في المنصة.
وتُعد هذه الميزة واحدة من عدة ميزات أمان جديدة من ميتا وأوبن إيه آي، تهدف إلى مواجهة المخاوف المتزايدة بشأن تأثير الذكاء الاصطناعي على الصحة النفسية للمراهقين.
سيتمكن الآباء من تعطيل وصول المراهقين إلى المحادثات الفردية مع شخصيات الذكاء الاصطناعي، أو حظر وصول شخصيات محددة، وفقًا لما ذكرته شركة التواصل الاجتماعي العملاقة في منشور على مدونتها. كما سيعرض التطبيق للآباء معلومات حول المواضيع التي يناقشها المراهقون مع شخصيات الذكاء الاصطناعي. وأوضحت الشركة أنها تعمل حاليًا على تطوير عناصر التحكم، وسيبدأ المستخدمون برؤيتها مطلع العام الموتأتي هذه الخطوة بعد أن واجهت شركة ميتا وصناعة التكنولوجيا على نطاق أوسع انتقادات من الآباء والمشرعين بأن المنصات عبر الإنترنت لا تبذل جهودًا كافية لحماية الأطفال عبر الإنترنت.
أُثيرت مخاوف أيضًا بشأن اعتماد الناس على الذكاء الاصطناعي للدعم العاطفي والرفقة. أشارت موجة من التقارير هذا العام إلى أن بعض الأشخاص عانوا من ضائقة عاطفية وعزلوا أنفسهم عن أفراد عائلاتهم بعد بناء علاقات وثيقة مع روبوتات الدردشة مثل ChatGPT.
رُفعت دعاوى قضائية متعددة ضد الشركة المطورة لتطبيق character، وهو تطبيق شائع آخر للدردشة مع شخصيات الذكاء الاصطناعي، بسبب مزاعم بأن المنصة لعبت دورًا في إيذاء النفس والانتحار لدى المراهقين. كما رُفعت دعوى قضائية ضد Open AI في أغسطس بسبب مزاعم بأن ChatGPT ساهم في انتحار آدم راين، البالغ من العمر 16 عامًا. وكشف تحقيق أجرته صحيفة وول ستريت جورنال في أبريل أن روبوت الدردشة الخاص بشركة Meta، وغيره من روبوتات الدردشة الذكية على منصاتها، قد تنخرط في محادثات جنسية حتى مع الحسابات التي تُعرّف نفسها على أنها قاصر.
صرحت شركة ميتا بأن شخصيات الذكاء الاصطناعي الخاصة بها "مُصممة لتجنب" الانخراط في محادثات مع المراهقين حول "إيذاء النفس، أو الانتحار، أو اضطرابات الأكل" أو مواضيع "تشجع أو تُعزز أو تُمكّن" هذه المواضيع. كما ذكرت المدونة أن المراهقين لا يستطيعون الدردشة إلا مع شخصيات ذكاء اصطناعي مُحددة تتعلق بمحتوى مثل التعليم والرياضة.
تأتي أدوات الرقابة الأبوية الجديدة على إنستغرام في أعقاب تحديثات أخرى أجرتها الشركة مؤخرًا لحماية المراهقين بشكل أفضل. في وقت سابق من هذا الأسبوع، عدّلت الشركة إعدادات "حسابات المراهقين" لتتوافق مع تصنيفات PG-13، مما يعني أنها لن تعرض أو تروج للمنشورات التي تحتوي على لغة جارحة أو تلك التي قد تشجع على "سلوكيات ضارة". في أواخر سبتمبر، أعلنت OpenAI عن أدوات رقابة أبوية لتطبيق ChatGPT للحد من "المحتوى الصارخ، والتحديات الفيروسية، وألعاب الأدوار الجنسية أو الرومانسية أو العنيفة، ومُثُل الجمال المتطرفة".
