أثار تقرير جديد صادر عن مؤسسة "كومن سينس ميديا" غير الربحية جدلًا واسعًا حول منتجات الذكاء الاصطناعي "جيميني" من شركة غوغل (https://about.google/). التقرير أكد أن هذه النماذج تنطوي على مخاطر عالية عند استخدامها من قبل الأطفال والمراهقين، رغم إدخال بعض ميزات الحماية الإضافية، إلا أنها لا تزال غير كافية لضمان سلامة الفئة العمرية الأصغر
تقييم منظمة كومن سينس لذكاء جيميني
خلص التقرير إلى أن الإصدارات الموجهة للأطفال والمراهقين تشبه إلى حد كبير النسخة المخصصة للبالغين، مع إدراج بعض أدوات الأمان البسيطة فقط. ورغم أن "جيميني" يوضح للمستخدمين الصغار أنه مجرد برنامج كمبيوتر وليس صديقًا بشريًا، إلا أن المنظمة اعتبرت أن هذا لا يكفي لتقليل المخاطر النفسية، خاصة أن المنصة ما زالت قادرة على مشاركة محتوى غير آمن يتعلق بالمخدرات أو نصائح غير مناسبة في مجال الصحة النفسية
إقرأ ايضاً:
وزارة الموارد البشرية تعلن مفاجأة .. سر الوثيقة التي تفتح أبواب الدخل الإضافي لآلاف المواطنين"آبل" تفاجئ العالم بصفقة قيمتها مليار دولار مع "جوجل".. السر وراء مستقبل سيري الجديد"سناب شات" تفاجئ الأسواق.. دمج محرك البحث التفاعلي في الدردشة يرفع الأسهم 14%!"واتساب" يفاجئ المستخدمين.. ميزة جديدة ستغيّر طريقة التواصل إلى الأبدتحذير طبي جديد.. 5 أطعمة شائعة لا تخلطها مع البيض أبدًا وإلا ستدفع الثمن!نجم سعودي يلفت أنظار رينارد والهلال معًا.. خطوة مفاجئة تغيّر مسار مسيرته!قضايا قانونية مرتبطة بالذكاء الاصطناعي
تأتي هذه المخاوف بالتزامن مع قضايا قضائية رفعت ضد شركات تعمل في مجال الذكاء الاصطناعي، مثل "OpenAI" و"Character.AI"، بعد ارتباط منتجاتها بحالات انتحار لمراهقين. مثل هذه الحوادث زادت القلق بين أولياء الأمور والجهات الرقابية بشأن مدى خطورة استخدام أنظمة الذكاء الاصطناعي من قبل الفئات الأصغر سنًا، وما إذا كانت الضمانات الموضوعة كافية لتجنب المخاطر
ردود غوغل وخطط الشركات الأخرى
من جانبها، اعترفت غوغل بوجود بعض المشكلات في استجابات "جيميني"، وأعلنت أنها أضافت إجراءات أمان إضافية لتلافي الثغرات. وأوضحت الشركة أنها تطبق سياسات خاصة لمستخدميها دون 18 عامًا، وتستعين بخبراء خارجيين لتعزيز الحماية. لكن مع استمرار ظهور ثغرات، يظل الجدل قائمًا حول كفاية هذه الجهود. وفي سياق متصل، تتردد تقارير عن نية شركة أبل (https://www.apple.com) الاستعانة بجيميني في تطوير نسختها المقبلة من المساعد الصوتي "سيري"، ما يثير تساؤلات حول تأثير ذلك على المستخدمين الأصغر سنًا إذا لم تُعزز الحماية بالشكل الكافي
من الواضح أن الجدل حول منتجات الذكاء الاصطناعي لا يقتصر على التطور التقني بل يمتد ليشمل مسؤوليات أخلاقية واجتماعية عميقة، خصوصًا عندما يتعلق الأمر بالأطفال والمراهقين. ويبدو أن مستقبل هذه الأدوات سيظل رهينًا بقدرة الشركات على تحقيق توازن بين الابتكار وحماية الفئات الأكثر عرضة للمخاطر
