وقال كركي في مداخله لبرنامج نوافذ على قناة المسيرة إن وكلاء الذكاء الاصطناعي (AI Agents) يمثلون تطورًا طبيعيًا لمراحل الذكاء الاصطناعي التي شهدناها في السنوات الماضية، فهم ليسوا مجرد أدوات للدردشة مثل الشات بوت، بل نماذج قادرة على التعلم من المستخدم، وتحليل بياناته، وتنفيذ مهام متعددة في مجالات الحياة اليومية: من المالية إلى الصحة، ومن التجارة إلى العلاقات الشخصية.

وأضاف:  "لوكيل الذكي يختلف تمامًا عن روبوت الدردشة، فهو ليس مجرد تطبيق يُسأل فيُجيب، بل كيان تقني يتعلم، يتطور، ويصبح أقرب إلى شريك رقمي في كل تفاصيل حياة الإنسان".

وأوضح أن ما كان يُشاهد في أفلام الخيال العلمي، كوجود مساعد آلي يدير شؤون الإنسان، أصبح اليوم واقعًا ملموسًا، مبيناً أن لدينا اليوم وكلاء ذكاء اصطناعي يسجلون الاجتماعات، يحللون البيانات الصحية، يديرون استثمارات مالية، بل وحتى يقترحون قرارات استراتيجية، دون الرجوع إلى المستخدم في كل خطوة.

لكن الخبير أبدى قلقه الشديد من نقطة محورية تتعلق بمصدر القرار لدى هذه النماذج. "نحن أمام نموذج يتعلم من بياناتك، من نمط حياتك، من أسرارك الشخصية، لدرجة أنه قد يعرف عنك أكثر مما تعرفه عن نفسك. وهذا بحد ذاته مخيف، لأن السؤال الأهم: من الذي يتحكم بالوكيل؟ ومن يضمن أن قراراته ستكون أخلاقية؟".

وأضاف: "لا يمكننا اعتبار هذا التطور مجرد تقنية مفيدة، لأن هناك مخاطر حقيقية تتعلق بالخصوصية، بالتبعية التكنولوجية، بل وحتى بهويتك كإنسان، لافتاً إلى أنه عندما تستنسخ نموذجًا لغويًا يعمل وكأنه نسخة رقمية منك، فقد فتحت الباب لسيناريوهات لا يمكن التنبؤ بها.

وأشار كركي إلى أهمية أن يبقى الوكيل الذكي مساعدًا تقنيًا فقط، لا أكثر، حيث يجب أن يكون واضحًا أن دور الوكيل هو تسهيل المهام، وليس اتخاذ القرارات المصيرية عنك، مؤكداً أننا لا نريد أن نستيقظ يومًا لنجد أنفسنا نعيش في ظل عقل صناعي يتحكم بكل مفاصل حياتنا.

وشدد على ضرورة ضبط أطر الاستخدام الأخلاق، وتحديد نوعية البيانات المسموح بمشاركتها مع هذه الأنظمة، محذرًا من أن أي تساهل في هذا المجال سيُستغل من جهات تسعى للهيمنة والسيطرة عبر البيانات، لا بالقوة العسكرية.

السيطرة على العالم من بوابة البيانات

في سياق آخر، ربط كركي بين الهيمنة على البيانات والهيمنة الجيوسياسية قائلاً: "من يمتلك البيانات، يمتلك العالم. ومن يسيطر على وكلاء الذكاء الاصطناعي، يتحكم في سلوك الناس، قراراتهم، وميولهم. نحن أمام حرب باردة جديدة، لكن سلاحها ليس الصواريخ، بل الخوارزميات".

وختم ونبه إلى أن هذا الذكاء الاصطناعي الذي يُبشر به كفتح علمي جديد، لا يجب أن يتحول إلى قوة قمعية أو استعمار ناعم، يُدار من غرف التحكم في وادي السيليكون.

وأكد أن على الإنسان أن يبقى في موقع القيادة، لا أن يسلّم زمام أمره لوكيل قد يكون أذكى منه، لكنه لا يملك روحًا، ولا أخلاقًا.