بقلم الكاتبة / سهام فودة
في زمنٍ باتت فيه العدسات تراقبنا، والخوارزميات تُحلّلنا، لم يعد الخطأ البشري هو الأكثر خطرًا، بل الخطأ الآلي الذي يُصدر أحكامه الباردة في لحظات بلا وعيٍ ولا قلب.
إنها مفارقة العصر الذكي… حين تُخطئ الآلة في جزءٍ من الثانية، فيُدان الإنسان بالعار، وتُكبل البراءة بأغلال التقنية التي ظنناها منقذة، لا مُجرِّمة.
وبغرور الإنسان بتقنياته ظنّ أنه حين صنع الذكاء الاصطناعي، قد صنع نسخةً متفوّقة من نفسه. تغنّى بدقته، وافتخر بقدرته على الرؤية والتحليل والتنبؤ، حتى أوشك أن يمنحه سلطة القرار مكان العقل البشري. نسي أن الذكاء الاصطناعي بلا إحساس، وأن أعظم خوارزميات العالم لا تعرف معنى الدهشة أو الرحمة أو الشك… تلك المشاعر التي تُنقذ الإنسان من أن يظلم أخاه الإنسان. وهنا، وقع الغرور و في امتحانه الحقيقي
شهدت ولاية ماريلاند الأمريكية حادثة مؤلمة أعادت للعالم سؤالًا مؤرقًا:
هل يمكن للذكاء الاصطناعي أن يخطئ في التمييز بين الحقيقة والوهم؟
في ساحة مدرسة ثانوية، وبين دهشة الطلاب والمعلمين، اقتحمت الشرطة المكان واعتقلت الطالب “تاكي آلن” أمام زملائه، بتهمة حيازة سلاح ناري، بعد أن رصد نظام الإنذار الذكي عبر الكاميرات “شكلًا مريبًا” في يده.
كان “تاكي” ممسكًا بكيس رقائق “دوريتوس”، لكن الخوارزمية رأت فيه مسدسًا، فأطلقت صافرة الخطر، وجعلت من كيس التسالي “تهديدًا أمنيًا”!
اقتادوه مكبّل اليدين، وسط صدمةٍ وارتباك، ولم يجد أحد تفسيرًا لما يحدث. وبعد ساعات من التحقيق، تبيّن للمحققين أن الذكاء الاصطناعي قد أخطأ في قراءته للمشهد… لم يكن هناك سلاح، بل مجرد كيس رقائق ملون عكس الضوء بطريقة أربكت الكاميرا.
هذه الحادثة لم تكن مجرد خطأ تقني، بل فضيحة أخلاقية في وجه التطور الأعمى. فالآلة قد ترى بدقة، لكنها لا تُبصر بحكمة؛ تُحلل الأشكال، لكنها لا تدرك المشاعر والمعاني. إنّها عقل بلا ضمير، وعدسة بلا إحساس.
يقول “تاكي آلن” بعد إطلاق سراحه في اليوم نفسه: “لقد أطلقوا سراحي، لكنهم لم يطلقوا سمعتي.”
كلمات تختصر وجع عصرٍ جديدٍ من العدالة الرقمية، التي قد تجرّ الإنسان إلى الإهانة قبل أن تتأكد من ذنبه.
ولذلك لقد آن الأوان أن ندرك أن التكنولوجيا مهما بلغت من ذكاء، فهي لا تزال بحاجة إلى “الإنسان” ليهذبها.
ينبغي أن تُوضع قوانين واضحة تُلزم بمراجعة قرارات أنظمة الذكاء الاصطناعي قبل اتخاذ أي إجراء يخص حياة البشر، لأن العدالة لا يمكن أن تُبنى على احتمالات رقمية.
إن أخطاء الخوارزميات ليست مجرد أعطال، بل قد تكون جراحًا في كرامة الإنسان، لا تمحوها كلمات “عذرًا، لقد أخطأ النظام”.
وأخيرا ما بين “كيس دوريتوس” و“سلاح ناري” ضاعت الحقيقة، لكن تلك اللحظة العابرة كانت كافية لتُظهر هشاشة ثقتنا في الآلة.
لقد حان الوقت لنفهم أن الذكاء الاصطناعي لا يخطئ في الرؤية فحسب، بل قد يخطئ في العدالة نفسها، إن لم تُرافقه عين بشرية ترى بعاطفة، وعقلٌ إنسانيٌّ يزن الأمور بالضمير قبل المنطق.
فمهما بلغت التقنية من عبقرية… ستظل تجهل الفرق بين خطرٍ يُهدد الأمن، وإنسانٍ يحمل كيس رقائق دوريتوس.
