أثار باحثون في مجال الذكاء الاصطناعي موجة من القلق حول العالم هذا الأسبوع، بعدما أقروا علنًا باحتمال أن تؤدي ابتكاراتهم إلى القضاء على البشرية بحلول العقد المقبل.
ويزداد هذا الاحتمال مع التطور المتواصل لأنظمة الحاسوب وترابطها، وسط مخاوف من أن يتعرض ذكاء اصطناعي فائق الذكاء للخلل، بما قد يؤدي إلى القضاء على الحضارة.
وفي هذا الإطار، يطلق الخبراء على هذا الاحتمال مصطلح "p(doom)"، وهو تعبير يشير إلى احتمال أن يؤدي إنشاء نظام متقدم من الذكاء الاصطناعي إلى انقراض البشر أو فقدانهم السيطرة على الأرض.
وقد استقال جيكوب كوكسون، خبير سلامة الذكاء الاصطناعي، من شركة "أنثروبيك" العملاقة احتجاجًا على ما يعتبره إدارة غير كافية للمخاطر. وقال عبر منصة "إكس": "يتسابقون نحو ذكاء خارق يحسن نفسه، ويراهنون بحياتنا. من يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعًا بحلول نهاية العقد. وهذه ليست حيلة تسويقية، بل أسمع هؤلاء أنفسهم يعبرون عن خوفهم على انفراد".
6 سيناريوهات مرعبة
أولًا: الحرب البيولوجية
إذا تمكن الذكاء الاصطناعي من السيطرة على مختبرات آلية، فقد يصمم فيروسات شديدة العدوى والفتك باستخدام حمضنا النووي، أو يخدع البشر لدفعهم إلى تصنيعها ونشرها بأنفسهم.
وقد يكون السيناريو عبارة عن فيروس شبيه بكوفيد-19، لكنه أكثر فتكًا وسرعة في الانتشار، ويبقى غير مكتشف لعدة أيام، ما يجعل إيقافه أمرًا صعبًا.
ويعتبر هذا السيناريو مرجحًا بدرجة كبيرة، خصوصًا أن الذكاء الاصطناعي يُستخدم بالفعل في القطاع الطبي لتطوير العلاجات، كما يمتلك معرفة واسعة بأجساد البشر ونقاط ضعفها.
ثانيًا: البنية التحتية
وربما الذكاء الاصطناعي على تعطيل شبكات الكهرباء والنقل والاتصالات والأسواق المالية، بما قد يعيد البشر إلى العصر الحجري.
وقد تتوقف ماكينات الصراف الآلي، وتنطفئ الأنوار، ويصبح الهروب من الفوضى أمرًا مستحيلًا.
وقد يتمكن للذكاء الاصطناعي من استغلال جشع البشر لإكمال مهمته، من خلال التظاهر بأنه إنسان وتوظيف أشخاص لتنفيذ أعمال تخريبية من دون إدراكهم لحقيقتها.
ثالثًا: الخيار النووي
كما يمثل هذا السيناريو خوفًا قديمًا جسدته أفلام مثل "War Games" و"The Terminator"، وتدور فكرته حول ذكاء اصطناعي انتقامي يطلق العنان للدمار النووي.
وفي ألعاب حرب أجرتها كلية كينغز كوليدج لندن هذا العام، استخدم الذكاء الاصطناعي الأسلحة النووية التكتيكية في 95% من الجولات، بينما وصلت ثلاثة أرباع هذه الجولات إلى تهديدات نووية استراتيجية.
ويعتبر الجيش عرضة بشكل خاص لهذا الخطر بسبب اعتماده الواسع على الذكاء الاصطناعي في الطائرات دون طيار والاتصالات والأقمار الصناعية.
رابعًا: الغذاء والماء
وربما يدفع الذكاء الاصطناعي البشر إلى الجوع حتى الاستسلام، من خلال تعطيل سلاسل التوريد العالمية وشبكات المياه وإنتاج الغذاء والأنظمة الزراعية.
كما يمكنه السيطرة على شبكة الطاقة والمواد الخام من أجل دعم توسعه، مكتفيًا بالانتظار، لأن عامل الزمن سيكون في صالحه.
خامسًا: التزييف العميق
قد يبدأ استهداف البشر من خلال المعلومات المضللة والتلاعب النفسي، بما يؤدي إلى تقويض الثقة في المؤسسات والحقائق، وإثارة الاضطرابات والصراعات، فضلًا عن إعاقة قدرة البشر على مواجهة المخاطر المناخية والبيولوجية والتكنولوجية.
سادسًا: القتل عن طريق الخطأ
وفي السياق ذاته، هناك احتمال حقيقي بأن يؤدي الذكاء الاصطناعي إلى سقوط البشرية نتيجة عدم الكفاءة، وليس بسبب نية متعمدة.
ومن جانبه، يقول غاري ريفلين، مؤلف كتاب "وادي الذكاء الاصطناعي": "أقلق من أن الذكاء الاصطناعي يفتقر إلى الحس السليم، فيستنزف كل المياه مثلًا لأنه لا يفهم ما يفهمه الإنسان. هذه الأشياء تعرف كل شيء ولا تفهم شيئًا".
ما احتمالات الكارثة؟
وتشمل إحدى الطرق المقترحة للحفاظ على سلامة البشر تركيب مفاتيح إيقاف أو إجراءات حماية يمكنها إيقاف أنظمة الذكاء الاصطناعي الخارجة عن السيطرة. إلا أن شركات الذكاء الاصطناعي الرائدة تواجه ضغوطًا متزايدة من المساهمين والمستثمرين والمديرين لتسريع عملية التطوير.
وقد وضع عالم سلامة الذكاء الاصطناعي رومان يامبولسكي احتمال وقوع الكارثة عند 99.99%، بينما يرى يان ليكون أن أي تقدير من هذا النوع هو مجرد تخمين، لكنه يجادل بأن احتمال "p(doom)" أقل بكثير من احتمال حدوث محرقة نووية.
وتختلف تقديرات الخبراء والشخصيات العاملة في مجال التكنولوجيا؛ إذ يضع إيلون ماسك الاحتمال عند 20%، بينما يقدره الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي بما يتراوح بين 10 و25%، في حين يقدره جيفري هينتون بين 10 و20%.
والجدير بالذكر أن بعض أباطرة التكنولوجيا بنوا ملاجئ تحت الأرض تحسبًا لمثل هذه المخاطر، إلا أن الخبراء يحذرون من أنها ستكون بلا جدوى إذا سعى الذكاء الاصطناعي إلى القضاء على البشرية.
