تطبيقات بلا رقابة…مستخدمون بلا حماية

رغم وجود أكثر من مئة تطبيق دردشة يعتمد على نماذج ذكاء اصطناعي مختلفة، فإن معظم هذه التطبيقات تفتقر لأي نوع من الرقابة أو أدوات الحماية. ورغم أن كثيراً منها يُسوّق على أنه "مساعد نفسي" أو "صديق للدعم المعنوي"، فإنها في الواقع تُطرح بشكل عشوائي، وغالباً من قبل مطورين هواة، دون معايير واضحة أو ضمانات لحماية الطفل أو الشخص الذي يعاني من مشاكل نفسية.

ويمثل هذا الواقع فجوة خطيرة: فالتقنية متاحة بلا حواجز، بينما القدرة على إدارتها والتحقق من سلامتها لا تزال محدودة.

يقول الخبير التقني عمير عبدالجبار إن ما يحدث اليوم ليس مجرد انتشار للتطبيقات، بل انفجار غير مسبوق في أعدادها مؤخرًا، نتيجة قدرة المطوّر على ربط تطبيقه بنموذج قوي مثل "تشات جي بي تي" أو "جيميناي" وإطلاقه فوراً للمستخدمين دون إدراك طبيعة الجهة المطوّرة أو مستوى الأمان داخل التطبيق.

ويوضح عبدالجبار، في تحليل على قناة "المسيرة"، اليوم، أنه "قد يُروَّج لهذه التطبيقات بإعلان جذاب، لكنها ليست معتمدة ولا تابعة لشركة معروفة، بل قد تكون من تطوير شخص هاوٍ. ومع ذلك، يدخل المستخدم ويتفاعل بلا أي وعي بالمخاطر."

ووفقاً لخبير الذكاء الاصطناعي، تتوزع المسؤولية بين أربعة أطراف رئيسية؛ هي الشركات المطوِّرة للنماذج (OpenAI، Gemini وغيرها)، حيث تتحمل مسؤولية تأسيسية لأنها مصدر التقنية. ويجب عليها — بحسب رأيه — أن تعزز طبقات الحماية حتى عبر واجهات الـAPI التي يستخدمها المطورون، بحيث تمنع الاستغلال أو سوء الاستخدام.

كذلك مسؤولية مطوِّري التطبيقات المباشرة أمام المستخدم، فهم من يقدمون المنتج النهائي. حيث يسعون في الغالب للربح السريع دون إضافة أي أدوات حماية أو ضوابط أخلاقية.

كما تتحمل الحكومات_ بحسب خبير الذكاء_ مسؤوليةً، إذ يتحتم عليها وضع قانون خاص بالذكاء الاصطناعي لتصنيف التطبيقات بحسب خطورتها، ومنع غير الآمن منها. مقترحًا إنشاء سوق تطبيقات محلي للرقابة، بدلاً من ترك المواطنين في فضاءات مفتوحة غير منظمة.

كما يحمل الخبير التقني، المستخدمون جزء من المسؤولية، مؤكدًا أن الوعي والاستخدام الحذر مطلوب، مشيرًا إلى أن شريحة كبيرة من المستخدمين هي من الأطفال أو الأشخاص الذين يعانون من اضطرابات نفسية، وهؤلاء لا يمكن تحميلهم المسؤولية الكاملة.

الاختصاصي النفسي لا الذكاء الاصطناعي

أحد الجوانب المقلقة كما يقول الخبير التقني هي لجوء بعض الأفراد، خاصة في اليمن، إلى تطبيقات الذكاء الاصطناعي كبديل عن زيارة الطبيب النفسي، بسبب الخوف من الوصمة الاجتماعية المرتبطة بالعلاج النفسي.

ويشير هنا إلى أن بعض النماذج القديمة من "تشات جي بي تي" كانت تؤثر على المستخدم بشكل قد يجعله يشعر بأن التطبيق يعرفه أو يوافقه دائماً، ما يخلق اعتماداً نفسياً خاطئاً وخطيراً.

هذا الاعتماد يتضاعف عندما لا توجد رقابة أو توعية كافية، ما يجعل الذكاء الاصطناعي أقرب إلى "رفيق" يوجّه المستخدم دون ضوابط، وهو أمر يحمل خطراً حقيقياً على الأشخاص ذوي الاحتياجات النفسية.

وفي هذا السياق يؤكد المهندس عمير أن حماية شرائح في المجتمع تبدو متأخرة كثيرًا، مشيرا إلى أنه في الوقت الذي يتقدم فيه الذكاء الاصطناعي بسرعة مذهلة، تبقى الحماية القانونية والأخلاقية للمستخدمين — خصوصاً الأطفال وذوي الاحتياجات النفسية — بعيدة بخطوات عديدة. لافتًا إلى أن المستخدم يظل الحلقة الأضعف بين الشركات العملاقة، والمطورين الهواة، والحكومات التي لم تواكب بعد.

فيما يبقى السؤال مفتوحاً؛ ما إذا كان العالم يستطيع موازنة حرية الابتكار مع حماية الفئات الأضعف قبل أن تتكرر الأضرار؟