أبو الذكاء الاصطناعي جيفري هينتون حول مخاطر الذكاء الاصطناعي والمستقبل
الرسائل الرئيسية في لمحة
- الذكاء الاصطناعي ذكاء رقمي متفوق على البشر. سرعة مشاركة المعلومات أسرع بمليارات المرات من البشر، وله خلود.
- يحذر من احتمالية 10-20% أن الذكاء الاصطناعي يمكن أن يدمر البشرية. لكنه يعترف بصراحة أن لا أحد يعرف الاحتمالية الدقيقة.
- الهجمات السيبرانية زادت 12,200% بين 2023-2024. الذكاء الاصطناعي يجعل هجمات التصيد والتهديدات السيبرانية الجديدة أسهل بكثير.
- الذكاء الاصطناعي يمكنه الآن تصميم فيروسات بيولوجية. مجموعات صغيرة يمكنها إنشاء فيروسات قاتلة بملايين الدولارات.
- مخاطر الأسلحة الفتاكة المستقلة: ستقلل بشكل كبير تكلفة واحتكاك الدول الكبيرة لغزو الصغيرة.
- تأثيرات غرفة الصدى تتكثف. الخوارزميات تقسم المجتمع بإظهار محتوى متطرف.
- البطالة الجماعية وشيكة. ينصح بـ”أن تصبح سباكاً” لأن العمل الفيزيائي فقط قد يكون آمناً.
- لا يمكننا إيقاف تطوير الذكاء الاصطناعي. فوائد كثيرة جداً موجودة، والمنافسة بين الدول شرسة.
لماذا يُسمى “أبو الذكاء الاصطناعي”؟
جيفري هينتون يُسمى “أبو الذكاء الاصطناعي” لأنه تمسك بنهج الشبكات العصبية لـ 50 عاماً.
- منذ الخمسينيات، كان هناك نهجان للذكاء الاصطناعي:
- القائم على المنطق: الاستدلال من خلال التمثيل الرمزي والقواعد
- القائم على الدماغ: التعلم بمحاكاة شبكات خلايا الدماغ
- بينما اختار معظمهم النهج القائم على المنطق، اعتقد هينتون أن النهج القائم على الدماغ صحيح.
- نتيجة للحفاظ على رأي الأقلية لـ 50 عاماً، وُلدت تقنية الشبكات العصبية التي تشكل أساس الذكاء الاصطناعي الحالي.
- فون نيومان وتورينغ اعتقدا أيضاً بالشبكات العصبية لكنهما ماتا مبكراً، مما كان سيغير تاريخ الذكاء الاصطناعي.
لماذا بدأ التحذير من أمان الذكاء الاصطناعي
ما أثار التحذيرات
- في البداية، أدرك تدريجياً مخاطر الذكاء الاصطناعي:
- عرف المخاطر الواضحة مثل الأسلحة الفتاكة المستقلة مبكراً
- لكنه أدرك فقط منذ بضع سنوات أن الذكاء الاصطناعي يمكن أن يصبح أذكى من البشر
- اللحظة الحاسمة كانت عندما تمكن نظام PaLM من Google من شرح النكات.
- أدرك أن الذكاء الرقمي متفوق على الذكاء البيولوجي.
نوعان من مخاطر الذكاء الاصطناعي
| نوع المخاطر | الوصف | أمثلة |
|---|---|---|
| سوء الاستخدام البشري | الناس يستخدمون الذكاء الاصطناعي لأغراض خاطئة | الهجمات السيبرانية، الأسلحة البيولوجية، التلاعب بالانتخابات |
| مخاطر الذكاء الاصطناعي نفسه | الذكاء الاصطناعي يصبح فائقاً ويعتبر البشر غير ضروريين | التهديد الوجودي |
مخاطر الذكاء الاصطناعي المحددة
1. زيادة متفجرة في الهجمات السيبرانية
- زادت 12,200% بين 2023-2024.
- الذكاء الاصطناعي يمكنه جعل هجمات التصيد أكثر تطوراً:
- استنساخ الصوت
- توليد الصور
- رسائل شخصية
استجابة هينتون الشخصية:
- وزع الأصول عبر 3 بنوك كندية
- نسخ احتياطي للبيانات على أقراص صلبة خارجية
- قلق حول انهيار البنوك بسبب الهجمات السيبرانية
2. تطوير الأسلحة البيولوجية
- مجموعات صغيرة يمكنها تصميم فيروسات قاتلة بملايين الدولارات
- ممكن بمساعدة الذكاء الاصطناعي حتى مع معرفة قليلة بالبيولوجيا الجزيئية
- برامج الأسلحة البيولوجية على مستوى الحكومة ستصبح أسهل بكثير
3. التلاعب بالانتخابات والإعلان السياسي
- الإعلان السياسي الشخصي باستخدام البيانات الشخصية
- مخاوف حول وصول إيلون ماسك لبيانات الحكومة:
- إزالة ضوابط الأمان
- إمكانية جمع جميع بيانات المواطنين
- مشتبه في أغراض التلاعب بالانتخابات المحتملة
4. غرف الصدى والانقسام الاجتماعي
- مشاكل خوارزميات YouTube و Facebook:
- تعرض أكثر للمحتوى المثير للغضب
- يؤدي إلى محتوى متطرف لزيادة النقرات
- الغرض تعظيم إيرادات الإعلانات
- اختفاء الواقع المشترك:
- قراء BBC، Guardian مقابل مشاهدي Fox News
- العيش في واقعين مختلفين تماماً
5. الأسلحة الفتاكة المستقلة
- تقلل بشكل كبير تكاليف احتكاك الحرب:
- روبوتات مكسورة بدلاً من أكياس الجثث
- أسهل بكثير للدول الكبيرة لغزو الصغيرة
- احتجاجات أو معارضة مقللة
- قابلة للتصنيع بالفعل ويجري تطويرها من شركات دفاع رئيسية.
المخاطر الوجودية للذكاء الاصطناعي الفائق
لماذا الذكاء الاصطناعي متفوق على البشر؟
مزايا ساحقة للذكاء الرقمي:
- القابلية للتكرار: نفس الذكاء يمكن تشغيله على أجهزة متعددة
- سرعة مشاركة المعلومات: البشر 10 بت في الثانية، الذكاء الاصطناعي بالتريليونات
- الخلود: يمكن إحياؤه في أي وقت بتخزين قوة الاتصالات
- كفاءة التعلم: مشاركة فورية للتجارب المختلفة
تشبيه العلاقة بين الإنسان والذكاء الاصطناعي
“إذا كنت تريد معرفة كيف تكون الحياة عندما لا تكون الذكاء الأعلى، اسأل دجاجة.”
- علاقة الكلب والمالك: الكلاب لا تعرف أين يذهب مالكها أو ماذا يفعل
- فجوة الذكاء ستتسع إلى هذا الحد
الأمل واليأس في الحلول
سيناريو مأمول: علاقة الأم والطفل
- الأمهات لا يمكنهن تحمل بكاء الأطفال
- نتيجة الهرمونات والبرمجة التطورية
- هل يمكننا زرع آليات مشابهة في الذكاء الاصطناعي؟
الواقع اليائس:
- إذا أراد الذكاء الاصطناعي، هناك طرق لا تُحصى للقضاء على البشرية
- كثيرة جداً لدرجة أنها لا تستحق التخمين
- المهم هو منع الذكاء الاصطناعي من امتلاك رغبات كهذه
تهديدات الوظائف والتأثير الاقتصادي
واقع البطالة الجماعية
التغييرات بدأت بالفعل:
- شهادة رئيس تنفيذي واحد: الموظفون من 7,000 → 3,000 (بحلول الصيف)
- عوامل الذكاء الاصطناعي تتعامل مع 80% من خدمة العملاء
- صعوبة متزايدة لخريجي الكليات في إيجاد وظائف
الاختلافات عن الثورات التقنية الماضية:
- الثورة الصناعية: استبدلت القوة العضلية
- ثورة الذكاء الاصطناعي: تستبدل العمل الفكري
- ما المتبقي للبشر عندما تُستبدل القوة العضلية والذكاء معاً؟
الوظائف التي يمكنها البقاء
نصيحة هينتون الصادقة: “اصبح سباكاً”
- قدرات المعالجة الفيزيائية متفوقة على البشر حالياً
- آمن حتى ظهور الروبوتات الشبيهة بالبشر
- الوظائف الإبداعية أيضاً في خطر: الذكاء الاصطناعي قد يكون أكثر إبداعاً من البشر
تعميق عدم المساواة الاقتصادية
- التوزيع غير المتكافئ لفوائد زيادة الإنتاجية
- الفجوة المتسعة بين الشركات المالكة للذكاء الاصطناعي والأشخاص العاطلين
- الفجوة بين الأغنياء والفقراء تحدد جودة المجتمع
قيود ومعضلات التنظيم
النقاط العمياء في تنظيم الذكاء الاصطناعي الأوروبي
- الاستخدامات العسكرية مستثناة من التنظيم
- الحكومات تنظم الشركات لكن لا تنظم نفسها
- ضغط متزايد لتخفيف التنظيمات بسبب مخاوف العيب التنافسي
هيكل المنافسة مع الصين
- منطق “التنظيم يعني التخلف عن الصين”
- هل يجب أن نتنافس مع قبول الضرر الاجتماعي؟
- التعاون العالمي مطلوب لكنه مستحيل واقعياً
التأمل الشخصي والإرث
10 سنوات في Google وأسباب المغادرة
الدافع للانضمام إلى Google (في سن 65):
- تأمين الماليات للابن ذي صعوبات التعلم
- مستحيل كسب ملايين في الأوساط الأكاديمية
- أسس شركة DNNresearch مع الطلاب، ثم باعها لـ Google
أسباب المغادرة:
- أراد التقاعد في سن 75
- أراد التحدث بحرية حول أمان الذكاء الاصطناعي في مؤتمر MIT
- شعر بعبء إصدار بيانات يمكن أن تضر الشركة أثناء العمل
رحيل الطالب إيليا سوتسكيفر من OpenAI
- إيليا، الذي كان مفتاحاً لتطوير GPT-2، غادر بسبب مخاوف الأمان
- تقليل OpenAI لتخصيص موارد بحوث الأمان كان السبب المفترض
- يؤسس حالياً شركة أمان ذكاء اصطناعي جديدة
ندم الحياة
أكبر ندم:
- عدم قضاء وقت أكثر مع زوجته
- عدم التواجد أكثر مع الأطفال عندما كانوا صغاراً
- فقد الزوجة بالسرطان مرتين لكنه كان مستغرقاً جداً في العمل
الخلاصة: بين الأمل واليأس
مشاعر هينتون الصادقة
“لا أعرف حقاً. عندما أكون مكتئباً، يبدو أن البشرية محكوم عليها، وعندما أكون في مزاج جيد، يبدو أنه يمكننا إيجاد حلول.”
الوضع الحالي:
- لا يمكن إيقاف التطوير - مفيد ومربح جداً
- المنافسة بين الدول والشركات تسرع سرعة التطوير
- الاستثمار الضخم في تدابير الأمان مطلوب لكن الشركات مترددة بسبب عدم الربح
ما يمكننا فعله
الضغط على الحكومات:
- إجبار الشركات على استثمار موارد في أمان الذكاء الاصطناعي
- فرض تدابير الأمان من خلال التنظيم
الإعداد الشخصي:
- تعزيز الأمن السيبراني
- التكيف مع أسواق العمل المتغيرة
- اعتبار اكتساب مهارات فيزيائية
الرسالة الأساسية
“لا تزال هناك فرصة لتطوير الذكاء الاصطناعي بأمان. لأن تلك الفرصة موجودة، يجب أن نجد طريقة حتى لو تطلب موارد هائلة. إذا لم نجدها، الذكاء الاصطناعي سيستبدل البشر.”
تحذير أبو الذكاء الاصطناعي جيفري هينتون واضح. نقف في أهم مفترق طرق في التاريخ البشري، واختياراتنا الآن ستحدد مستقبل البشرية.
جملة لا يجب تفويتها
بدلاً من إنكار التغييرات التي بدأت بالفعل، حان الوقت للاستجابة معاً مع إعداد تدابير الأمان.