ملخص كتاب | عصر الذكاء الاصطناعي ومستقبلنا البشري | هنري كيسنجر | إريك شميدت | دانييل هوتنلوشر
ظلّ الكتاب منذ يوم صدوره على قائمة الكتب الأكثر مبيعاً، ولعلّ أسماء مؤلفيه ساهمت في هذا الأمر.
ينتمي الكتاب إلى حقل أدبيات الفكر العلمي وفلسفته بنفس القدر الذي ينتمي فيه إلى مبحث دراسات المستقبليات Future Studies، وقد تضافرت الحيوية الفكرية لكيسنجر مع القدرات العلمية والتقنية لزميليه في خلق كتاب متوسط الحجم (240 صفحة) سلس القراءة يتناول واحدة من أخطر المعضلات التي تواجه الإنسانية.
ينقسم الكتاب إلى مقدمة قصيرة و7 فصول
جاءت عناوين الفصول بالترتيب التالي:
- الانطلاق من حيث نحن
- كيف وصلنا إلى هنا..
- التكنولوجيا والفكر الإنساني
- مِن عهد تورينج إلى اليوم.. وما بعده
- المنصّات الشبكية العالمية
- الأمن والنظام العالميان
- الذكاء الاصطناعي والهوية البشرية
- الذكاء الاصطناعي والمستقبل
تعقبُ هذه الفصولَ السبعة ملاحظاتٌ تفصيلية دقيقة أضاءت متن الكتاب.
يُبرز الكتاب الحاجة إلى استجابة متكاملة من الدول والمجتمع الدولي كله؛ لمواجهة التأثير الثوري لتكنولوجيا الذكاء الاصطناعي.
يقول المؤلفون إن الذكاء الاصطناعي يسهم في تغيير تفكير الإنسان ومعارفه وإدراكه وواقعه، بما يجلبه من تطورات غير مسبوقة، وتهديدات جسيمة.
يبيِّن الكتاب تنامي قدرة الذكاء الاصطناعي على تقديم نتائج تفوق قدرة الإنسان، سواء في مجال الاكتشافات العلمية، أو الاستراتيجيات العسكرية، أو في عالم السياسة.
يرى المؤلفون أن أداء الذكاء الاصطناعي قد يفوق القدرات البشرية؛ لذا فالحاجة ماسَّة إلى إجراءات رقابية من شأنها كبح جماح هذه التكنولوجيا.
يتطرَّق الكتاب إلى “منصات الشبكات” مثل وسائل التواصل الاجتماعي، ومحركات البحث على شبكة الإنترنت، وأنظمة الملاحة التي تعتمد كلها على الذكاء الاصطناعي، وتُستخدَم على نطاق عالمي، واكتسبت أهمية جيوسياسية كبيرة حتى أوجدت ديناميكيات صعبة.
يقول المؤلفون إن اتكالنا على منصات الشبكات المعتمدة على الذكاء الاصطناعي -التي يطورها مجتمع ما؛ ثم تغدو جزءًا لا يتجزأ من اقتصاد مجتمع آخر وخطابه السياسي الوطني- قد وصل إلى مستويات غير مسبوقة.
ويناقش الكتاب التحديات المتعلقة بفرض رقابة على الأسلحة السيبرانية، وحالة الضبابية التي تكتنف جوانب أساسية مثل اشتعال فتيل صراع سيبراني من عدمه، والأطراف المشاركة فيه.
يبحث المؤلفون كذلك تأثير المنطق غير البشري في الأنظمة العسكرية، وخطر انسياق الإنسان وراء منظومات الأسلحة المعتمِدة على الذكاء الاصطناعي.
يشدِّد الكتاب على ضرورة وجود مُشغِّل بشري للتحكُّم في أي نظام ذكاء اصطناعي فتَّاك القدرات، ومراقبته، وضرورة استحداث قيود وأنظمة مراقبة تَلقَى قبول الجميع.
يدعو المؤلفون كل مجتمع يتوسَّع في تسخير الذكاء الاصطناعي إلى إنشاء هيئة وطنية تهتم بالجوانب العسكرية والأمنية لتلك التكنولوجيا.
يحثُّ الكتاب أبرز القوى في مجال الذكاء الاصطناعي، مثل الولايات المتحدة الأمريكية والصين، على اجتناب الدخول في أي مواجهات، أو صراعات، تُستَخدم فيها التكنولوجيا المتقدمة سلاحًا.
يرى المؤلفون ضرورة أن تسعى القوى الكبرى إلى انتهاج صيغة مسؤولة من العلاقات الدولية تنطوي على سبل واضحة لتهدئة الأجواء في تلك المواجهات، وتجنب أي تصعيد غير مُتعمَّد للأزمات.
يحذِّر الكتاب من حقيقة أن وقوع أزمة ما يعني أن أوان بدء مناقشة هذه القضايا قد فات، وأن التاريخ لن يرحمنا إذا لم نستطِع وضع قيود تكبح جماح هذه التكنولوجيا.
يناشد المؤلفون الأطراف كافةً -من العلماء والاستراتيجيين إلى رجال السياسة، والفلاسفة، ورجال الدين، والرؤساء التنفيذيين- ضرورة المشاركة في المناقشات لتحديد معايير الشراكة بين الإنسان والذكاء الاصطناعي.
يقول الكتاب في الختام إن المجتمعات التي ستتجاهل هذه القضايا ستتخلَّف عن ركب تلك التي تسعى إلى تقليل الاضطرابات التي يجلبها الذكاء الاصطناعي، وإلى الاستفادة القصوى من فوائده وحسناته.
المقدمة
إن التحولات الجذرية التي ينبئ بها الذكاء الاصطناعي -على صُعُد المجتمع، والاقتصاد، والسياسة، والسياسة الخارجية- ستفسح المجال أمام إيجاد معرفةٍ تتجاوز ما راكمته الإنسانية من تجارب.
فمن خلال موجة التحول التي ستطول كل شيء، ابتداءً من البحث العلمي والتعليم؛ وصولًا إلى الدفاع والسياسة والثقافة؛ فإن الذكاء الاصطناعي يغيِّر فعليًّا الفكر، والمعرفة، والإدراك، والواقع البشري.
شهد عام 2017 أحد أهم التطورات في الذكاء الاصطناعي؛ عندما تمكَّن البرنامج الحاسوبي “ألفا زيرو”، الذي طورته شركة “ديب مايند” التابعة لشركة “جوجل”، من هزيمة برنامج “ستوك فيش”، الذي كان في ذلك الوقت أقوى برنامج شطرنج في العالم.
زودت الجهة المصنعة برنامج “ألفا زيرو” بقوانين الشطرنج، وأصدرت له تعليمات بتطوير استراتيجية من أجل زيادة احتمالات فوزه.
تمكَّن البرنامج، بعد تدريب دام أربع ساعات فقط باللعب ضد نفسه، من أن يصبح أقوى برنامج شطرنج في العالم، وحتى كتابة هذه السطور لم يتمكَّن أي إنسان في العالم من هزيمته.
أعلن باحثون في معهد ماساتشوستس للتقنية، في عام 2020، اكتشاف مضاد حيوي جديد قادر على قتل سلالات بكتيريا كانت قادرة على مقاومة جميع أنواع المضادات الحيوية المعروفة.
استخدم المعهد برنامجًا للذكاء الاصطناعي؛ معتمدًا على مجموعة تدريب مكونة من 2000 جزيء معروف؛ فتمكن البرنامج من “معرفة” خصائص الجزيئات المتوقَّع أن تكون مضادة للبكتيريا، ومن ثم حدَّد السمات التي استعصت سابقًا على التصور البشري.
في كل حالة أنشأ المطورون برنامجًا، وأعطوه هدفًا، ووفَّروا له مدة تدريب قصيرة؛ بغية التوصل إلى نتائج تفوق قدرة العقل البشري.
لا تزال هذه الآلية القوية الجديدة لاستكشاف الواقع وتنظيمه غامضة بالنسبة إلينا من نواحٍ عدَّة.
يرى الذكاء الاصطناعي الواقع بطريقة تختلف عن الطريقة التي يراه بها البشر، كما قد يرى جوانب مختلفة منه؛ وهو ما يمثل تحديًا كبيرًا.
في مجال السياسة تعمل أنظمة الذكاء الاصطناعي، التي توظف بيانات ضخمة، على تصميم رسائل سياسية تستهدف تركيبات سكانية معينة؛ ما يفسح المجال أمام عمليات تضليل قد تضطلع بها جهات فاعلة خبيثة.
أمَّا في مجال الدفاع؛ فعندما تُصاغ استراتيجيات عسكرية بآلات قادرة على رؤية أنماط ليس بوسع واضعي الاستراتيجيات البشريين رؤيتها؛ فإن ذلك يمثل تحديات كبيرة.
كما أن المفاهيم التقليدية للدفاع والردع، وقوانين الحرب، قد تتعرَّض لتغيير جذري.
في حين يزداد عدد الأفراد القادرين على تطوير الذكاء الاصطناعي؛ فإن أعداد الذين يفكرون في تبعاته بالنسبة إلى البشرية لا يزال منخفضًا انخفاضًا يُنبئ بخطر كبير.
لا تزال مفاهيمنا الفلسفية والمؤسسات المجتمعية الحالية غير مستعدة، إلى حدٍّ كبير، لمواجهة الثورة المقبلة.
يعود المفهوم الغربي للعقل والمنطق إلى حقبة قدماء الرومان والإغريق، الذين استخدموا أولى المقاربات العلمية والعملية لمواجهة التحديات. وعندما واجهتهم ظواهر تتحدى العقل والمنطق؛ اُستُحدثت الآلهة والأساطير لاحقًا من أجل تفسير تلك الظواهر.
أدى ظهور الديانات المُوحِّدة إلى تغيير التوازن بين العقل والدين، في حين استمرت المؤسسات الدينية في احتكارها البحث العلمي قرونًا عدَّة.
في القرنين الخامس عشر والسادس عشر خضع العالم الغربي لثورتَين مزدوجتَين هما: اختراع الصحافة المكتوبة، والاستكشافات الجغرافية، اللتين مهَّدتا لدخول عصر النهضة.
أصبح نشر الأفكار بين مجموعات كبيرة من البشر ممكنًا بفضل الصحافة المكتوبة؛ ما أدى مرة أخرى إلى تغيير التوازن بين السلطة الفكرية والسلطة السياسية؛ إذ أصبح الوصول إلى المعرفة خارج سيطرة النخبة الدينية.
كما مثَّلت عمليات الاستكشاف تحديًا آخر لمركزية النخب الغربية؛ إذ اُكتُشفت مجتمعات تمكنت من تطوير هياكل سياسية واجتماعية؛ ولكن في ظل أنظمة دينية وقيادة مختلفة إلى حدٍّ كبير.
جمع الغربُ المعارفَ من شتَّى أنحاء العالم؛ ما أدى إلى اكتشافات مذهلة في الرياضيات، والفلك، والعلوم الطبيعية.
تغيَّرت العلاقة بين العقل والتديُّن والواقع، وباتت الابتكارات ممكنة بفضل الأساليب العلمية الحديثة التي ضاعفت القوة التدميرية للأسلحة.
أذِن ذلك بدخول عصر الحرب الشاملة، التي اتسم الصراع فيها بالتعبئة على المستوى المجتمعي، والتدمير على المستوى الصناعي.
مرةً أخرى أدَّت الثورات العلمية؛ ولا سيَّما في القرن العشرين، إلى تطورات تكنولوجية وفلسفية، غير أنَّ الفرضية المركزية للعالم القابل للمعرفة، الذي كشفت عنه العقول البشرية، ظلَّت باقية.
ها نحن ندخل عصرًا لم يَعُد فيه العقل البشري الذي يستخدم الاستدلال المنطقي هو المستكشف الوحيد للظواهر العالمية، والعارف الوحيد بها.
مع تجلِّي ملامح الثورة الرقمية يَمنح البشرُ التكنولوجيا مزيدًا ومزيدًا من سمات تفكيرهم.
في حين يغمر الإنترنت المستخدمينَ بملايين الآراء؛ فإنه يحرمنا المساحة اللازمة للتأمُّل المستمر؛ ما يجعل قيم العالم الرقمي تتكوَّن عن طريق البحث عن الإثبات بدل التأمُّل الذاتي.
في حين يمتدُّ الذكاء الاصطناعي إلى نواحٍ متزايدة من حياتنا؛ فإنَّه يُغيِّر الدور الذي اعتادت عقولنا أن تؤديه من قبل في تكوين خياراتنا وأفعالنا، وترتيبها، وتقييمها.
في عام 1950 اقترح آلان تورينج، عالم الرياضيات، أن الآلة تستحق أن تُوصَف بأنها ذكية إذا استطاعت العمل باحترافية شديدة تُقنع المشاهد بأن أداءها كان أداءً بشريًّا.
في عام 1956 اعتمد جون مكارثي، عالم الحاسوب، على “اختبار تورينج” (أو “لعبة المحاكاة”) في تعريف الذكاء الاصطناعي بأنَّه “آلات تستطيع أن تؤدي المهمات المميزة للذكاء البشري”؛ إلا أن الذكاء الاصطناعي بدأ في العقد الماضي يتجاوز الإنجاز البشري، وتمكَّنَ من استنباط ملاحظات من البيانات وتعديل استجاباته.
يتطور الذكاء الاصطناعي المعاصر و”يتعلم” استجابةً للظروف المتغيرة، ويستطيع تحديد الحلول غير المألوفة للبشر.
ينطوي التعلُّم الآلي على ثلاثة أشكال رئيسية: التعلُّم المراقَب، والتعلُّم غير المراقَب، والتعلُّم المعزَّز.
في التعلُّم المراقَب يستخدم الباحثون قواعد بيانات معقدة لتدريب البرامج؛ بهدف الوصول إلى نتيجة محددة، مثل تحديد مُكوِّن مضاد حيوي جديد.
لا يتمخض التعلُّم غير المراقَب عن نتائج، بل يُطلب من الذكاء الاصطناعي إيجاد الأنماط أو الاختلالات في مجموعة بيانات.
يمتد التعلم المعزز إلى ما هو أشمل من تحليل البيانات؛ إذ يُدرِّب فيه الباحثون الذكاءَ الاصطناعي على العمل في بيئات نشيطة.
لا يكتفي الذكاء الاصطناعي بتحديد العلاقات مع البيانات فقط، بل يؤدي دورَ “عنصر فاعل” في بيئة محكومة، يُلاحظ البيانات ويُسجِّلها بغية أن “يُدرِّب” نفسه.
تتيح تقنية أخرى، هي الشبكات العصبية التوليدية، للذكاء الاصطناعي الابتكار بعد أن يكون قد دُرِّب باستخدام النصوص أو الصور؛ إذ يستطيع الذكاء الاصطناعي وقتئذٍ أن يُنتج نصوصًا أو صورًا مُستحدَثة.
هذه التطورات تأخذ الذكاء الاصطناعي إلى ما هو أبعد من رؤية تورينج للأداء الذي لا يمكن تمييزه عن أداء الذكاء البشري؛ إذ تأخذه إلى الأداء الذي يتجاوز القدرات البشرية.
لكن الذكاء الاصطناعي ليس لديه وعي، ولا يستطيع تحديد بعض الأخطاء التي يراها البشر بوضوح؛ ما يؤكد أهمية أن يضع البشر حدودًا لهذه التكنولوجيا.
لا بد من وضع إجراءات لتقييم عمل الذكاء الاصطناعي على النحو المتوقع؛ ما سيجعل برامجَ الإشراف والاعتماد المهني للذكاء الاصطناعي مشروعًا مجتمعيًّا حاسمًا.
انتشر الذكاء الاصطناعي في كل مكان، وما كان لوسائل التواصل الاجتماعي، ومحركات البحث في الإنترنت، وأنظمة الملاحة، والخدمات الإلكترونية الأخرى، التي لا تعد ولا تحصى، أن تعمل بالطريقة نفسها من دون الاستخدام المكثف للذكاء الاصطناعي.
إننا ندمج الذكاء غير البشري في النسيج الأساسي للنشاط البشري، بكيان من نوع جديد يتمثل في “منصات الشبكات”.
تُعَدُّ منصات الشبكات خدماتٍ رقميةً تجمع على صفحاتها مستخدمين بأعدادٍ كبيرة على المستويَين الإقليمي والعالمي؛ ويصل عدد مستخدميها أحيانًا إلى مئات الملايين، وأحيانًا أخرى يتخطَّى ذلك ليبلغ المليارات.
تمكَّنت منصات الشبكات الناجحة من استقطاب أعداد كبيرة من المستخدمين، وتوسيع قواعدها الجماهيرية، التي أصبحت أكبر من التعداد السكاني لكثير من الدول؛ وقد تحقق ذلك كله في مدة وجيزة.
في المقابل، فإن أطرافًا تتضارب مصالحها مع مصالح الشعوب، تدير منصات هذه الشبكات المدعومة بتقنيات الذكاء الاصطناعي، وتشغلها.
أصبحت منصات الشبكات جهاتٍ فاعلة جدًّا على الصعيد الجيوسياسي؛ بسبب نطاق عملها، ودورها، ونفوذها.
غدتْ بعض منصات الشبكات جزءًا لا يتجزَّأ من حياة الأفراد، والخطاب السياسي الوطني، والمعاملات التجارية، ومنظومة عمل المؤسسات، وحتى الوظائف الحكومية.
عندما يدخل المستخدمون منصات الشبكات المدعومة بتقنيات الذكاء الاصطناعي للاستفادة من خدماتها؛ فإنهم يعيشون تجربة حوار لم تكُن موجودة من قبل بين الإنسان والآلة؛ فخوارزميات الذكاء الاصطناعي “حددت” كثيرًا من جوانب حياتنا.
أصبحنا نثق بمشاركة معلوماتنا مع منصات الشبكات، التي تتحكم فيها تقنيات الذكاء الاصطناعي؛ ولكننا نتردد إزاء مشاركتها مع أصدقائنا أو حكوماتنا؛ ومن الأمثلة على ذلك: مشاركة معلومات شاملة ومفصَّلة عن أماكن وجودنا، والأمور التي نبحث عنها ونتصفحها في شبكة الإنترنت.
يمنح هذا الواقع مشغلي منصات الشبكات والمشرفين عليها نفوذًا اجتماعيًّا وسياسيًّا؛ ما تجلَّى بوضوح إبَّان جائحة كورونا.
وسط حالة التباعد الجسدي والعمل من بُعد، صارت المجتمعات تعتمد على المنصات المدعومة بتقنيات الذكاء الاصطناعي؛ للتعبير عن أفكارها وآرائها، وإتمام معاملاتها التجارية، والحصول على احتياجاتها من الطعام، وغير ذلك كثير.
يبرز تحدٍّ كبير من جرَّاء الاعتماد على الذكاء الاصطناعي في تجميع محتوى هذه المنصات، وتنظيمه، ومراقبته؛ ولكن هذا العمل ضخمٌ جدًّا بالنسبة إلى مراقبي المحتوى من البشر.
ثمَّة ميول نحو الثقة بالقدرات التكنولوجية التي تبدو بعيدةً تمامًا عن التحيُّز والتدخُّل البشري؛ غير أن تقنيات الذكاء الاصطناعي المضادة للتضليل والمعلومات غير الصحيحة، على سبيل المثال، قد ترتكب أخطاءً أو قد تتسبب بحذف محتوًى صحيحٍ من صفحات الشبكات.
نحن بحاجة إلى إيجاد توازن بين التقييم البشري والأتمتة التي يديرها الذكاء الاصطناعي على كلا طرفَي المعادلة.
يتكوَّن واقع جيوسياسي جديد بسبب منصات الشبكات؛ وتنظر بعض الدول -مثل الولايات المتحدة الأمريكية- إلى هذه المنصات بصفتها جزءًا من الاستراتيجية العالمية في الوقت الراهن.
قيَّدت واشنطن نشاطات بعض المنصات الأجنبية في البلاد، وفرضت قيودًا على تصدير برمجياتها وتقنياتها المطوَّرة محليًّا إلى الخارج.
في ضوء توسُّع رقعة نفوذ منصات الشبكات الصينية، استطاعت بكين رسم ملامح معايير التكنولوجيا الدولية.
لا تزال الهند قوة ناشئة في مجال الذكاء الاصطناعي؛ ولكنها تملك أفكارًا مميزةً ورصيدًا ضخمًا من المواهب التكنولوجية والهندسية في هذا السياق.
برغم قلة المنتجات والخدمات الرقمية التي تُنتجها روسيا؛ فإنها تُعد واحدةً من أهم القوى التكنولوجية عالميًّا؛ بسبب قدراتها السيبرانية الضخمة.
في غمرة هذه الخلافات الجيوسياسية، تتكشف حالة من التنافس على الميزات الاقتصادية، والأمن الرقمي، والصدارة التكنولوجية، وتحقيق أهداف أخلاقية واجتماعية.
بالنسبة إلى الدول التي لا تُصمم وتُنشئ منصات شبكات محلية؛ فإن الخيارات المتاحة أمامها هي كالآتي:
تقليل اعتمادها على المنصات التي تمنح نفوذًا لمصلحة الحكومات غير الصديقة.
الاستمرار في عيش حالة من الضعف في مواجهة القدرات المحتملة للحكومات الأخرى على الوصول إلى بيانات المواطنين.
إيجاد حلول للتهديدات المحتملة؛ وذلك باتخاذ قرار يرفض الأخطار الناجمة عن السماح لمنصات شبكات أجنبية بعينها بالعمل داخل حدود أراضيها.
تُعَد منصات الشبكات المدعومة بتقنيات الذكاء الاصطناعي، التي تُنشئها بعض الدول للتأثير في اقتصادات الدول الأخرى وخطابها السياسي، تطوُّرًا غير مسبوق.
لما كان تأثير الذكاء الاصطناعي يطول كل المجالات، من الدفاع والدبلوماسية إلى التجارة والصحة، صارت المشكلات الاستراتيجية والأخلاقية التي جرَّها أعقد وأصعب من أن يتصدى لها طرف واحد أو مجال واحد من مجالات المعرفة؛ الأمر الذي يفرض على الأمم والأطراف المعنية التحاور فيما بينها من أجل التصدي لهذه المشكلات.
يستطيع الذكاء الاصطناعي أن يغير استراتيجية الأسلحة التقليدية والنووية والسيبرانية تغييرًا تامًّا؛ ما سيضفي على مشكلات الأسلحة النووية تعقيدًا إلى تعقيدها؛ إذ إن سباق التميز في الذكاء الاصطناعي الاستراتيجي قد انطلق فعلًا ولا سيَّما بين الولايات المتحدة والصين وروسيا.
كان الهدف الأكبر من الاستراتيجية النووية في أثناء الحرب الباردة هو تحقيق الردع، وهي استراتيجية نفسية لتحقيق أهداف وقائية.
عادة ما يقتضي تقييمُ قوة عسكرية ما وقدراتها الاستراتيجية الإجماعَ بشأن تحديد عناصر قوتها والحدود القانونية التي تحكم استخدام هذه القدرات. وقد دعم هذا التوجه الاستمرار في تقييم القدرات الأخرى للدول ونياتها وتداعيات أي اعتداء منها.
لكن هذه الحسابات أصبحت في يومنا هذا حسابات مُجردة؛ وخاصة فيما يتعلق بالأسلحة السيبرانية، التي تنطوي على مهمات مدنية؛ ومن ثم تصبح هذه الحسابات أكثر غموضًا.
تتوقف الاستفادة من الأسلحة السيبرانية بدرجة كبيرة على إخفاء وجودها؛ ما يجعل من الصعوبة بمكان نسبة الهجوم السيبراني إلى طرف فاعل أو تقييم قدرات المنافس.
إن عدم اليقين بشأن طبيعة الهجوم السيبراني، ومجاله، صاحبه عوامل تضفي غموضًا على الصراع بعد نشوبه؛ من حيث الأطراف المتورطة فيه ودرجة تورطها.
من التناقضات الخطرة أنه كلما زادت القدرات الرقمية لأمة ما كانت أكثر عُرضة للخطر؛ إذ يصبح كل شيء عُرضةً للتلاعب أو الهجوم السيبراني؛ بداية من الأسواق المالية وشبكات الكهرباء، وانتهاءً بإجراءات السياسات الديمقراطية.
لم تكشف قطُّ أي قوة سيبرانية رئيسية فاعلة –سواء من الدول أو غير الدول– عن كامل قدراتها، ولا حتى بهدف ردع الآخرين؛ ما يعني أن هذه الاستراتيجية تتطور يومًا بعد يوم من دون شفافية أو تعاون دولي.
لكي نتصدى لهذا التوجه نحتاج إلى تعزيز التعاون بين الحكومات والقطاعات الصناعية، وبين القوى العظمى نفسها لاستكشاف الضوابط والحدود التي تحكم أي صراع سيبراني.
حمل استخدام المنطق غير البشري في الآلات العسكرية تداعيات كبيرة على السياسات الأمنية.
استطاعت منظومات الذكاء الاصطناعي، مثل برنامج “مو زيرو” (μZero) التابع للقوات الجوية الأمريكية أن تُسيِّر الطائرات، وتشغل أنظمة الرادارات في أثناء الطلعات الجوية التجريبية.
صُمِّم هذا البرنامج بهدف إجراء “القرارات الأخيرة” من دون أي تدخل بشري؛ ولكن قدراته كانت مقصورة على تسيير الطائرات وتشغيل الرادارات، غير أن دولًا أخرى قد تسلك هذا الطريق إلى ما هو أبعد من ذلك.
كيف يمكننا إعداد استراتيجية لشيء يفهم أبعادَ محيط يستعصي فهمها على البشر، متجاوزًا سرعة التفكير البشري أو مداه؟
ستقف جميع الأطراف عاجزة عن توقع نتائج مجابهة سلاحين من أسلحة الذكاء الاصطناعي لبعضهما بعضًا توقعًا دقيقًا؛ ما يجعل هذه الصراعات أكثر خطورة.
سوف تعاني محاولات تنظيم منظومات الذكاء الاصطناعي المشكلات والعراقيل؛ لأن تقدم هذه التكنولوجيا سيتجاوز تلك الضوابط بسرعة، كما أن هذه المنظومات ستكون عُرضة للتغيير على أيدي أطراف خارجية.
إن أي ابتكار تجاري يبتكره مجتمع ما يمكن أن يغيره ويكيفه مجتمع آخر؛ خدمةً لأغراضه الأمنية، أو المعلوماتية، أو الحربية.
يُرجَّح أن تقع أكثر التداعيات التي يستعصي التنبؤ بها عندما يلتقي الذكاء الاصطناعي وجهًا لوجه مع الذكاء البشري.
طوَّر البشر مع أعدائهم على مر العصور إشارات وأعرافًا قد يسيء الذكاء الاصطناعي تفسيرها؛ ما يؤدي إلى تصعيد الصراعات.
إن تكيف الأسلحة السيبرانية المُعزَّزة بالذكاء الاصطناعي مع البيئة المحيطة قد ينذر بخطر زيادة معدلات تفويض البشر صلاحياتهم إلى أنظمة تتمتع بفهم أعمق من الفهم البشري.
يُشدِّد الكتاب على ضرورة وجود مُشغِّل بشري للتحكم في أي نظام ذكاء اصطناعي فتَّاك القدرات، ومراقبته. وبرغم أنَّ هذا قد لا يحول دون وقوع الأخطاء؛ فإنَّه سيسمح في الأقل بالمساءلة الأخلاقية والمحاسبة.
من منظور تقني، ونظرًا إلى السهولة النسبية في تغيير تعليمات برمجة أنظمة الذكاء الاصطناعي، فقد يسهل على أي طرف غير مصرح له أن يتجاوز الخطوط الفاصلة بين استخدام الذكاء الاصطناعي في مجال الاستطلاع، واستخدامه في مجالَي الاستهداف والقتل التلقائي.
كل هذا يجعل من استحداث قيود وأنظمة مراقبة تلقى قبول الجميع ضرورة لا غنى عنها.
تجنُّبًا لأي تصعيد غير مُتعمَّد للأزمات ينبغي للقوى الكبرى أن تسعى إلى المنافسة ضمن حدود يمكن مراقبتها.
نظرًا إلى سرعة الهجمات السيبرانية، وتعقيدها، قد لا يتوافر للدول وقت تُقيِّم فيه مؤشرات هجوم تتعرض له، وقد تستجيب على الفور؛ كما أنها دول قد تنشئ نظام ذكاء اصطناعي يملك صلاحيات هجوم مباشر.
ما لم يلقَ التوصل إلى فهم مشترك للتدابير الوقائية العنايةَ اللازمة؛ فإن الرغبة في التصرف أولًا قد تسبق الحاجة إلى التصرف بحكمة.
يجب على خبراء الذكاء الاصطناعي الاستراتيجيين انتهاج صيغة مسؤولة من العلاقات الدولية تنطوي على سبل واضحة لتهدئة الأجواء، وتجنُّب أي تصعيد.
ينبغي لكل مجتمع يتوسَّع في تسخير الذكاء الاصطناعي أن ينشئ هيئة وطنية، تهتم بالجوانب الدفاعية والأمنية لتلك التكنولوجيا، وتضطلع بوظيفتين رئيسيتين: ضمان القدرة التنافسية العالمية للذكاء الاصطناعي، وإجراء بحوث بشأن أفضل الممارسات لتجنُّب التصعيد غير المُتعمَّد.
ينبغي لأبرز قوتين عالميتين في مجال الذكاء الاصطناعي، وهما الولايات المتحدة، والصين، أن تتفقا على ألا تخوضا أي حرب تكنولوجية متقدمة ضد بعضهما بعضًا، بصرف النظر عن المنافسات القائمة بينهما؛ وحينئذٍ سيُكلَّف مسؤولون رفيعو المستوى في حكومتَي الطرفين رصد كل ما يمثِّل تهديدًا لهذا الاتفاق والسعي إلى تجنبه.
كلما تأخرت قوًى بارزة، مثل الولايات المتحدة والصين، في إدراك أهمية مثل هذه الاتفاقية، زادت فرصة وقوع حادث ستترتب عليه تداعيات عالمية.
يمكن أن يتطلع قادة هذا العصر إلى تحقيق ست مهمات أساسية فيما يتعلق بالتحكم في ترساناتهم السيبرانية:
وجود حوار مستمر بين بعضهم بعضًا.
إعادة التركيز على بعض التحديات المتعلقة بالاستراتيجية النووية، التي لم يجرِ التوصل إلى حلها؛ لعلَّها تُوجِد سبيلًا للمضي قُدُمًا.
وضع قواعد وحدود مُعدَّة خصيصًا للأسلحة السيبرانية والذكاء الاصطناعي بما يلائم جوانبها الفريدة.
ينبغي للدول التي تملك أسلحة نووية التزام مراجعة وتنقيح أنظمتها الخاصة بالقيادة والسيطرة والإنذار المبكر؛ بغية تقوية نظم مكافحة التهديدات السيبرانية.
وضع آليات رصينة تضمن إتاحة أطول وقت ممكن لاتخاذ القرار عندما تزداد التوترات الدولية.
مراعاة وضع آليات تحد من الانتشار المتواصل للذكاء الاصطناعي العسكري.
لكن وقت مناقشة هذه القضايا سيكون قد ولَّى إذا وقعت أزمة من هذا القبيل، وسوف تُسفر سرعة التكنولوجيا عن نتائج أسرع من أي نتائج يمكن التوصل إليها عبر الدبلوماسية.
برغم التنافس في صناعة الأسلحة الذكية؛ فإن التاريخ لن يرحمنا إذا فشلنا في وضع قيود تكبح جماح هذه التكنولوجيا.
اعتاد الناس فهمَ العالم من حولهم من منظورَي الإيمان والمنطق؛ ولكن الذكاء الاصطناعي يضيف منظورًا ثالثًا تديره الآلة؛ ما يُحدث تحولًا في افتراضاتنا الجوهرية بشأن العالم.
سيحمل الذكاء الاصطناعي أثرًا واضحًا سيمكّن مجالات كثيرة، مثل السيارات الذاتية القيادة في المجال الاستهلاكي، أو الفتوحات العلمية في المجال الأكاديمي؛ ولكن أثره سيكون غامضًا وباعثًا على القلق في مجالات كثيرة أخرى، مثل استبعاد نظام ذكاء اصطناعي أحد المتقدمين لشغل وظيفة ما.
بعد أن يصبح الذكاء الاصطناعي جزءًا لا يتجزأ من المجتمع، فإن محاولة الانفصال عنه لن تفضي إلى أي نتيجة، في ظل تحول المجتمع نحو مزيد من الرقمنة؛ ما يجعل الذكاء الاصطناعي أمرًا لا مفر منه؛ فكما انفصل “المواطنون الرقميون” عن الأجيال السابقة، سيظهر “مواطنو ذكاء اصطناعي” يحملون وجهات نظر مختلفة.
قد يكون مواطنو الذكاء الاصطناعي هم الأطفال الذين نشؤوا رفقة مساعدين يعملون بالذكاء الاصطناعي، يؤدون أدوار مربين، أو مدرسين، أو مرشدين، أو أصدقاء.
مع اعتماد التعليم المُعزَّز بالذكاء الاصطناعي سيزداد متوسط قدرات الإنسان، ولكنها ستواجه تحديات؛ والسؤال المطروح هنا: هل سينتهي بنا الحال، بمرور الوقت، بتفضيل المساعدين الرقميين على البشر؟
كيف ستؤثر هذه الأنظمة في علاقات الأطفال الاجتماعية، ولعبهم، وروابطهم العاطفية، وفي تطوير مخيلتهم؟
قد ينشأ الأطفال فعلًا مع آلات تتصرف كالمدرسين البشر؛ ولكن سيغيب عنها البصيرة والعواطف الإنسانية.
المفارقة أنه وسط تدفق المعلومات المتزايد، فالمساحة للتفكير والتركيز العميق آخذة في التناقص.
في يومنا هذا، أضحى التدفق المتواصل للنشرات الإعلامية يقف عقبة أمام التأمل، ويقلص المساحة المسموحة لذلك.
ستتخلف المجتمعات التي لا تعالج هذه المسائل أمام تلك التي تكيف مؤسساتها، أو تنشئ أخرى جديدة؛ للحد من الاختلالات وتحقيق أقصى قدر من الفوائد التي يقدمها الذكاء الاصطناعي.
عندما تحقق الآلات، التي تتمتع بمستوى ذكاء يقارب الذكاء البشري، نتائج أفضل وأسرع، فقد يصبح الاقتصار على الاعتماد على منطق البشر أمرًا متجاوَزًا.
كانت حدودنا العقلية في السابق تقيد قدرتنا على تحليل المعلومات، والتفاعل الاجتماعي، وتمحيص الأخبار والمحادثات، ومعالجتها.
أما الآن فقد أضحى بإمكان الذكاء الاصطناعي توسيع نطاق هذا الواقع، في العالمين الواقعي والافتراضي؛ ولكنه يقلص المساحة التي تسمح بالتفكر وصياغة المفاهيم.
مع تراجع القدرة على القراءة المتعمقة والتحليل تزداد صعوبة الانسحاب من العالم الرقمي، الذي تزداد قدرته على التأثير في الفكر البشري.
من الأهمية بمكان وجود إطار أخلاقي لفهم عصر الذكاء الاصطناعي وتوجيهه، وينبغي ألا تُوكَل هذه المهمة إلى تخصص أو مجال واحد، بل يتعين إشراك علماء الحاسوب، وقادة الأعمال، والخبراء الاستراتيجيين العسكريين، والقادة السياسيين، والفلاسفة، وعلماء الدين.
كما يتعين على البُلْدان الاتفاق على التعايش عند تسليح الذكاء الاصطناعي، كما هو معمول به في مسألة الأسلحة النووية التي ينظمها إطار دولي للأمن ومراقبة التسلح؛ لذلك يحتاج الذكاء الاصطناعي والأسلحة السيبرانية إلى إطار تنظيمي مشابه.
تُعَد أسلحة الذكاء الاصطناعي أكثر صعوبة في التنبؤ، وقد تكون أكثر فتكًا من الأسلحة النووية؛ إذ إنها قادرة على التحرك عبر الشبكات من دون أن تُرصَد أو تترك أي أثر خلفها؛ لذلك لكي نحافظ على نظام عالمي مبني على أسس وضوابط؛ فإنه من الضروري وضع قواعد للحد من هذه الأسلحة.
قد يتمخض عن ظهور الذكاء الاصطناعي إحراز تقدم في الإجابة عن أسئلة طالما تجاوزت قدرة البشرية؛ ما يفسح المجال أمام طرح أسئلة جديدة.
بعدما التقى مسارَا البشر والذكاء الاصطناعي أضحى لزامًا علينا الحرص على تحقيق تفاهم مشترك بشأن التحولات التي تنطوي عليها تلك التطورات، وإعداد مبادئ أخلاقية تؤطرها.
تبرز حاجة إلى إشراك العلماء والخبراء الاستراتيجيين، والسياسيين والفلاسفة، ورجال الدين والمديرين التنفيذيين في هذه العملية؛ إذ حان الوقت لتحديد طبيعة شراكتنا مع الذكاء الاصطناعي وواقعنا المستقبلي.
الناشر: ليتل براون آند كومباني
تاريخ النشر: نوفمبر 2021
تاريخ نشر النسخة المترجمة: 2023
عدد الصفحات: 272
لتحميل كتاب عصر الذكاء الاصطناعي ومستقبلنا البشري | هنري كيسنجر | إريك شميدت | دانييل هوتنلوشر