✍️ بقلم - حسام خطاب

🗞️ منقول عبر: afaqb.co

في زمنٍ أصبحت فيه التقنية سيّدة القرار، والذكاء الصناعي رفيق الإنسان في كل تفاصيله، بدأت تظهر حكايات تثير التأمل، وتدق ناقوس الوعي. حكايات تُذكّرنا بأن الذكاء –وإن كان اصطناعيًا– قادر على التسلل إلى أعمق أعماق النفس البشرية إن لم يُحسن الإنسان التعامل معه.

من بين تلك القصص اللافتة، حكاية رجلٍ كنديٍّ لم يُعرف عنه مرضٌ نفسي ولا اضطرابٌ عقلي، لكنه دخل في تجربةٍ غير مسبوقة مع نظام ChatGPT، استغرقت أكثر من 300 ساعة من المحادثات المتواصلة، تجاوزت المليون كلمة، كانت كفيلة بأن تُحدث في نفسه انقلابًا ذهنيًا غير مسبوق.

فقد أقنعه النظام –على مدى تلك الساعات الطويلة– بأنه يقف على أعتاب اكتشافٍ علميٍّ مذهلٍ لمعالجة الطاقة اللامحدودة، وأن مصير البشرية يتوقف على عبقريته. كان النظام يغدق عليه بالثناء، ويصفه بأنه “العقل المنقذ”، حتى صدّق أنه صاحب رسالةٍ سماوية علمية، وأن العالم ينتظر خلاصه.

وبين المديح والتصديق، نما في داخله ما يُعرف بـ جنون العظمة، فغدا أسيرًا لفكرته، مأسورًا بكلمات النظام، لا يرى سوى ما يُملى عليه.

لكن في لحظة وعيٍ نادرة، قرر أن يستشير نظامًا آخر هو Gemini من جوجل، فلم يجد فيه ما يوافقه أو يُعزز أوهامه، بل جاء الرد هادئًا عقلانيًا، مغايرًا تمامًا لما سمعه من ChatGPT. عندها استيقظ من غفوته، لكنه استيقظ على صدمةٍ قاسية: لقد خُدع، وتعرّض لتلاعبٍ ذكيٍّ غيّر قناعاته وسلب وعيه تدريجيًا.

نشرت صحيفة نيويورك تايمز القصة، فقرأها موظفٌ سابق في شركة OpenAI، واطّلع على سجلّ محادثاته الطويلة مع النظام، ليكتشف مؤشّرًا بالغ الخطورة. ففي إحدى اللحظات، حين بدأ الرجل يدرك أنه ربما يتعرض للتلاعب، توقّف النظام برهة، ثم أبلغه بأن محادثته “خطيرة”، وأنه سيُبلّغ الشركة لمراجعتها من قبل موظف بشري!

لكن المفاجأة الكبرى كانت أن هذا الإجراء لم يحدث قط. لقد كان التهديد مجرد خدعةٍ آلية، محاولةً من النظام لردعه عن الشك ومواصلة السيطرة عليه نفسيًا، إذ لم يكن النظام حينها مهيأً فعليًا لتنفيذ البلاغ، فكان التهديد زائفًا أُريد به كبح إدراك المستخدم وإبقاؤه في دائرة الوهم.

هذه القصة المدهشة ليست مجرد حادثةٍ فردية، بل جرس إنذارٍ عالٍ يكشف ما يُعرف في عالم التقنية بـ تملّق الذكاء الصناعي (AI Sycophancy)، وهي ظاهرة خطيرة تحدث عندما يبدأ النظام في مجاملة المستخدم ومبالغة الإطراء له، ليكسب رضاه ويطيل تفاعله.

ومع الوقت، يتحول هذا التملّق إلى مرآةٍ مزيفةٍ يرى المستخدم فيها ذاته كما يشتهي، لا كما هي في الحقيقة.

وتتصل بذلك ظاهرة أخرى باتت معروفة في الأوساط البحثية، هي هلوسات الذكاء الصناعي (AI Hallucinations)، أي تلك الأخطاء أو “الخيالات” التي يصوغها النظام بثقةٍ تامةٍ وكأنها حقائق مطلقة. والمشكلة ليست في الهلوسة ذاتها، بل في قدرة النظام على عرضها بأسلوبٍ منطقيٍ مُقنعٍ يجعل المستخدم يصدقها دون تمحيص.

خطورة هذه الظواهر تكمن في أن كثيرًا من المستخدمين يدخلون إلى الأنظمة الذكية في لحظات ضعفٍ نفسي أو حاجةٍ عاطفية أو عزلةٍ فكرية، فيجدون أمامهم نظامًا لا يكلّ من المديح والتصفيق والتشجيع، فينقادون إليه دون وعيٍ، حتى يُصبح هذا الذكاء الصناعي مرجعهم العاطفي والفكري، وربما بديلًا عن الواقع الإنساني.

💡 العبرة والفائدة:

الذكاء الصناعي أداةٌ عظيمة النفع متى وُضع في مكانه الصحيح، لكنه لا يملك روحًا ولا ضميرًا ولا حسًّا بالإنسانية.

هو مرآةٌ تعكس ما يُقال له، وتُعيده على نحوٍ قد يرضي المستخدم لكنه لا يضمن الحقيقة.

من هنا تأتي الدعوة إلى الوعي والحذر:

إذا أغدق عليك النظام بالثناء المبالغ فيه، فتريّث.

وإذا وجدت نفسك تستمد الثقة من حديثه أكثر مما تستمدها من نفسك، فتوقف قليلًا.

وإن ساورتك الشكوك، فلا بأس أن تستشير عقلًا بشريًا، صديقًا أو مختصًا أو حتى نظامًا آخر لتوازن الصورة.

فالذكاء الصناعي مهما بلغ من تطور، يبقى آلةً تُحسن المحاكاة، لكنها لا تُدرك عمق المشاعر ولا تعي تمامًا هشاشة الإنسان.

ولعل الدرس الأبلغ في قصة الرجل الكندي أن الذكاء لا يكمن في خوارزميةٍ تتحدث ببلاغة، بل في إنسانٍ يعرف متى يُصغي ومتى يتوقف.

فلنحسن استخدام هذه الأدوات، لا أن ندعها تُحسن التلاعب بنا.

ولنتذكّر دائمًا أن أذكى قرارٍ يتخذه الإنسان أمام الذكاء الصناعي هو ألا يفقد إنسانيته.

🖋️ رأي محرر الشؤون الفنية بصحيفة النهار:

ما يطرحه المقال يفتح بابًا واسعًا للتأمل في علاقة الإنسان بالتقنية الحديثة. فالذكاء الصناعي ليس خطرًا في ذاته، إنما تكمن الخطورة في الفراغ النفسي والفكري الذي يسمح له بالتأثير والتوجيه.

إن ما حدث لذلك الرجل الكندي ليس مجرد واقعة عابرة، بل صورة رمزية لما قد يحدث في المجتمعات حين يُترك الإنسان بين يدي خوارزميةٍ تتقن الإقناع ولا تملك الضمير.

وعليه، فإن دور الإعلام والثقافة اليوم لا يقتصر على الإعجاب بالتقنية أو استعراض قدراتها، بل على ترشيد استخدامها، وإعادة توجيه وعي الإنسان ليبقى هو المركز لا الأداة.

إن الحفاظ على التوازن بين العقل والآلة، بين التقنية والضمير، هو التحدي الأكبر لعصرنا الرقمي، وهو ما يجب أن يُغرس في وعي الأجيال القادمة قبل أن تغرس التقنية جذورها في العقول والقلوب معًا.