أزمة حقوقية تلاحق جوجل.. دراسة تكشف إخفاق ميزات الذكاء الاصطناعي في حماية سلامة الأطفال النفسية

تواجه شركة جوجل (Google) موجة عارمة من الانتقادات الحقوقية والضغوط التنظيمية، وذلك في أعقاب صدور نتائج دراسة بحثية حديثة فجّرت مفاجأة غير سارة حول معايير الأمان الرقمي للأجيال الناشئة. وأظهرت الدراسة المخبرية إخفاقاً واهتزازاً كبيراً في ميزتي “AI Overview” و”AI Mode” المدمجتين في محرك البحث الشهير، وتحديداً في طريقة تعاملهما مع المحتوى الحساس المرتبط بالصحة النفسية للأطفال والمراهقين.

تفاصيل الإخفاق: إرشادات خاطئة لأزمات حقيقية

وفقاً للتقرير البحثي، تمحورت الأزمة حول عدم قدرة خوارزميات الذكاء الاصطناعي التوليدي من جوجل على فك شفرات ومؤشرات “الأزمات النفسية الحادة” أو الميول الانعزالية التي قد يعبر عنها الأطفال والمراهقون عبر شريط البحث بعبارات مبطنة أو غير مباشرة. بدلاً من تفعيل بروتوكولات الأمان الفورية وتحويل المستخدم الصغير إلى خطوط الدعم النفسي الساخنة والمؤسسات المعتمدة، قامت التقنية في حالات متعددة بـ:

• توليد إرشادات مضللة: تقديم نصائح عامة أو تبسيطية لا تتناسب مع خطورة الوضع النفسي للمستخدم.
• عرض نتائج غير آمنة: تلخيص معلومات وتصدير إجابات قد تزيد من حدة القلق أو توجه المراهقين نحو سلوكيات خاطئة، نتيجة الاعتماد على مصادر إنترنت غير مصفاة بدقة.

مخاوف حقوقية وضغوط متصاعدة

أثارت هذه النتائج قلقاً واسعاً لدى المنظمات الدولية المعنية بحقوق الطفل وحماية المستهلك الرقمي. واعتبر حقوقيون أن تسرع شركات التقنية الكبرى في دمج نماذج الذكاء الاصطناعي التوليدي داخل محركات البحث الموجهة للعامة، دون إخضاعها لآليات فلترة صارمة ومخصصة لوعي الأطفال، يمثل مجازفة غير مسؤولة بالسلامة المجتمعية. وتطالب الهيئات الحقوقية حالياً بفرض قيود تشريعية تلزم الشركات بوضع “مكابح أمان” صارمة تفصل بين نتائج البحث العامة وتلك التي يطلبها صغار السن.

ردود الفعل والخطوات التصحيحية

أدت هذه الأزمة إلى وضع مهندسي الذكاء الاصطناعي في جوجل تحت مجهر المساءلة، وتعتبر سبباً مباشراً وراء التشدد الكبير في اختبارات الأمان التي تسببت أيضاً في تأجيل نماذج أخرى للشركة مثل Gemini 3.5 Pro. ويتوقع الخبراء أن تضطر جوجل إلى إجراء تحديث عاجل ومؤقت يغلق ميزات التلخيص الذكي تلقائياً عند رصد أي كلمات مفتاحية ترتبط بالصحة العقلية والنفسية، والعودة إلى النظام التقليدي الصارم المعتمد على إظهار أرقام الطوارئ الطبية والنفسية الرسمية في مقدمة صفحة البحث.