هل الذكاء الصناعي هيسبب نهاية البشرية؟

فكرة الـ AI Apocalypse.. وشغل فيلم تيرمينيتور وسكاي نت وايجل آي وآي روبوت وغيرها من الأفلام اللي بتتكلم عن الذكاء الصناعي اللي بيتصرف منه لنفسه وبيحاول يستعبد أو يقضي على البشر.. هل ممكن تحصل في ضوء الطريقة الحالية اللي بيشتغل بيها الذكاء الصناعي؟

في تقديري الشخصي.. عشان سيستم ذكاء صناعي يوصل للمرحلة دي لازم يتوفر له شرطين.. الشرط الأول هو الهدف.. والشرط التاني هو القدرة.

نماذج الذكاء الصناعي بشكلها الحالي.. هي مجرد نماذج رياضية مبنية على قوانين ونظريات الإحتمالات والإحصاء والرياضيات.. نماذج التعلم المعزز Reinforcement Learning هي النوع اللي النموذج بيحاول يوجد فيها طرق مختلفة لتحقيق هدف ما.. اللي بيحطله الهدف دا هو مصمم وكاتب الموديل.. في الأول والآخر البشر هما اللي بيحطوا أهداف لنماذج الذكاء الصناعي.. بكده ممكن الشرط الأولاني يتحقق لو فيه بني آدم بلغت منه الحماقة مبلغ يخليه يحط هدف لموديل شبه غريزة البقاء مثلا وإنه يحافظ على وجوده بأي وسيلة.. أو يحطله هدف شمال زي إنه يأذي بطريقة معينة.

بس وجود الهدف في حد ذاته ممكن يبقى خطر لكن يظل خطر محدود لحد ما يتوفر لنظام الذكاء الصناعي القدرة.. واللي ممكن يبقى لها أشكال مختلفة.. مثلا أبسطهم وأكثرهم وضوحا هو إنه يبقى له صلاحية التعامل مع الإنترنت نفسه.. أو إنه يبقى له أكسس على أنظمة مقفولة لها تعامل مع العالم الخارجي.. زي أنظمة تسليح أو أنظمة بنية تحتية زي الكهرباء والمياه أو أنظمة المرور.. الفكرة هنا إن كل ما تدي للنظام صلاحية وصول أعلى برة البيئة المغلقة اللي هو شغال فيها كل ما زادت قدراته في تحقيق الأهداف بتاعته.

شكل تاني من أشكال القدرة هو إمكانيات نماذج النظام نفسه.. يعني الـ LLMs مثلا بتتعامل مع اللغة بس.. فبكده تظل محدودة القدرة.. لكن تعمل نظام يقدر يتعامل ويفهم كلام وصور وأصوات فانت بتديها قدرات أعلى تمكنها من تحقيق أهدافها.. والخطوات حالية متسارعة في اتجاه الوصول لما يعرف بالـ AGN أو الذكاء الصناعي العام اللي قدرات النماذج فيها هتبقى أضعاف أضعاف اللي احنا شايفينه دلوقت.. وصولا للـ singularity اللي محدش يقدر يتخيل إيه اللي ممكن يحصل فيها!

بالرغم من إقتناعي الشخصي إن إحنا بعيد شويتين تلاتة عن سيناريو الذكاء الصناعي المطلوق اللي ممكن يستعبدنا.. لكن في الحقيقة إحنا أقرب من أي وقت فات للنقطة دي.. العالم في سباق محموم لزيادة قدرات أنظمة الذكاء الصناعي.. وشوفنا في GPT-4 نظام multi-modal يقدر يتعامل مع صوت وصورة وكلام.. وبيتهيألي في خلال وقت قريب هنشوف أنظمة ذكاء صناعي بتاخد أكسس على أنظمة تانية مقفولة لها تعامل مع العالم الخارجي (إن لم يكن دا حاصل فعلا في الوقت الحالي في تطبيقات أمنية وعسكرية!).. وثبت في مواقف تاريخية كتير إن البشر ممكن تبلغ بيهم الحماقة إنهم يبنوا تطبيقات بغرض الأذى!.. فممكن حد يصمم سيستم أهدافه شمال عادي!

لكن يظل دايما فيه مجموعات من البشر بتحاول تنبه وتضرب صفارات الإنذار وتحط قواعد منظمة عشان تمنع حاجات زي كده.. فيه أصوات كتيرة دلوقت بدأت تنادي بوضع قواعد حاكمة لأنظمة الذكاء الصناعي وقواعد دفاعية تمنع تطور الأنظمة دي في اتجاه مؤذي أو فيه نهايتنا في أسوء سيناريوهاته.

دي كانت وجهة نظر شخصية بحاول فيها استشراف المستقبل بناءا على شوية العلم والخبرة اللي عندي في المجال والكثير من الخيال وتنظيمك وربط المعلومات ببعضها.