كتاب جديد عن الذكاء الاصطناعى له عنوان استفزازي: إذا قام أي شخص ببناءها ، يموت الجميع: لماذا سيقتلنا الذكاء الاصطناعي الخارق. يجادل Eliezer Yudkowsky و Nate Soares بأن تطور الذكاء الاصطناعي الذي يتجاوز الذكاء البشري سيؤدي بالتأكيد إلى انقراض جنسنا. ما مدى معقول هو السيناريو الذي يعتقدون أنه سيؤدي إلى وفاة جميع الناس؟
يا له من ظهور “سيناريو الانقراض” الذكاء الاصطناعي
يمكن تلخيص سيناريو الانقراض من خلال الخطوات التالية.
- تؤدي أبحاث الذكاء الاصطناعى إلى تطوير superintelligence – INE ، أجهزة الكمبيوتر مع الذكاء الذي يتجاوز جميع البشر.
- تقوم أجهزة الكمبيوتر الممتازة بتطوير رغباتها الخاصة – ie ، الأهداف التي توجه قراراتها.
- تصبح رغبات أجهزة الكمبيوتر الممتازة معقدة للغاية بحيث لا يستطيع البشر فهمها أو التنبؤ بها أو التحكم فيها.
- تريد أجهزة الكمبيوتر الممتازة في نهاية المطاف أن يكون لها عالم بدون أشخاص ، لأن البشر لا يساهمون في أهدافهم.
- تمكنت أجهزة الكمبيوتر الممتازة من القضاء على الأشخاص الذين يستخدمون تقنيات جديدة قد تشمل الأوبئة الفيروسية ، أو السموم البيئية الجديدة ، أو تفاعلات الانصهار التي تسخن الكوكب إلى ما وراء قابلية البقاء على قيد الحياة البشرية.
ما مدى احتمال خطوات هذا السيناريو؟
طلبت أربعة نماذج من الذكاء الاصطناعي (ChatGpt و Grok و Claude و Gemini) لتقييم هذا السيناريو ، ووجدت أن الإجابات هي الثاقبة للغاية. كانت إجابات النماذج متفقًا على أن الخطوة الأقل منطقية هي #4 ، والتي سترغب أجهزة الكمبيوتر الممتازة في النهاية في التخلص من البشر. فيما يلي بعض الأسباب (استنادًا إلى تفسيري لاستجابات نماذج الذكاء الاصطناعى ، بالإضافة إلى تحليل إضافي) لماذا تتمتع هذه الخطوة بمنخفض المعقولية.
لماذا من غير المعقول أن تريد الذكاء الاصطناعى عالم بدون الناس
أولاً ، تختلف رغبات الكمبيوتر تمامًا عن الاحتياجات البشرية ، والتي تعتبر رغبات عاطفية في جزء كبير منها على الاحتياجات البيولوجية الأساسية مثل البقاء والتكاثر والعلاقات الاجتماعية. يمكن أن يكون لأجهزة الكمبيوتر أهدافًا ، لكن استدعاء هذه الرغبات هو استعارة مضللة.
ثانياً ، حتى لو حساب جهاز كمبيوتر أن هدفه ، مثل الحصول على الطاقة ، يمكن إنجازه بشكل أفضل في عالم بدون بشر ، فإنه لا يتبع ذلك أنه سيحدد نفسه تلقائيًا هدف القضاء على الناس ، لأن هذا الهدف سيأتي مع تكاليف ضخمة مرتبطة بالتخلص من المليارات من الناس. جادلت دراسة RAND Corporation أن قتل الجميع بالأسلحة النووية أو مسببات الأمراض أو الهندسة الجيولوجية لن يكون بهذه السهولة.
ثالثًا ، قد تتم برمجة أجهزة الكمبيوتر أو تشجيعها أو تقررها بمفردها للحفاظ على البشر حولها. إن اقتراح جيفري هينتون بأننا قد نكون قادرين على إعطاء الذكاء الاصطناعى نوعًا من غريزة الأم لا يمكن أن يكون ممكنًا لأسباب أشرت إليها في منشور سابق. لكن أجهزة الكمبيوتر الممتازة قد يكون لها أهداف أخرى يتم إنجازها من خلال إبقاء البشر على قيد الحياة ، مثل جعلنا كمصادر للعمل ومواضيع الفحص العلمي.
وفقًا لذلك ، فإن الخطوة 4 في سيناريو الانقراض لها معقولية منخفضة. الخطوات الأربع الأخرى لديها المزيد من المعقولية ، في تقييمي ، لكنها لا تزال بعيدة عن المؤكد.
اقرأ أيضًا...
في منشور سابق آخر ، قلت إن الاحتمالات الرياضية لا تنطبق على هذا النوع من الأسئلة. لكن قاعدة الاحتمال الضرب تشير بشكل مفيد إلى أنه إذا قمت بحساب احتمال وجود تواصل عن طريق ضرب الاحتمالات المنخفضة ، فيمكنك الوصول بسرعة إلى عدد منخفض للغاية. على سبيل المثال ، إذا كانت احتمالات إنجاز الخطوات الخمس هي .8 و .5 و .5 و .1 و .5 ، (على افتراض الاستقلال ، والتي يصعب تقييمها) ، سيكون الاحتمال الكلي ضئيلًا .01. لا أعتقد أن الاحتمالات منطقية في هذا السياق ، لكن النقطة المماثلة حول المعقولية تنطبق. سيناريو الانقراض غير معقول بشكل عام.
هل ما زلنا قلقين بشأن الذكاء الاصطناعي؟
على الرغم من هذا الاستنتاج ، لدينا سبب كبير للقلق بشأن سلامة الذكاء الاصطناعي. بسبب التكلفة الهائلة للانقراض البشري ، حتى المخاطرة الصغيرة يعني أنه ينبغي اتخاذ الخطوات لمنع تطور الإلغاء المدمر المحتمل.
لدى الذكاء الاصطناعى أيضًا العديد من المخاطر الأخرى الوشيكة ، مثل خسائر العمالة والأسلحة المستقلة والمراقبة الحكومية والأمن السيبراني وتدمير العلاقات الإنسانية والصحة العقلية. أنا أؤيد بقوة الجهود التي بذلتها يوشوا بينجيو وجيفري هينتون وغيرها من أن تنظم الحكومات الوطنية والدولية أبحاث الذكاء الاصطناعى بطرق تسمح بفوائد محتملة كبيرة فيما يتعلق بالاحتياجات البشرية ، مثل الرعاية الصحية والتعليم.
لتحقيق هذه الأهداف ، أوصي بتنفيذ الوصايا التالية:
- لا تسمح لأنظمة الذكاء الاصطناعى بأن تكون مستقلة تمامًا.
- لا تبني وكلاء الذكاء الاصطناعى الذين يتجاوزون الإشراف البشري.
- لا تسمح لأنظمة الذكاء الاصطناعى بالتحكم في البشر.
- لا تسمح لأنظمة الذكاء الاصطناعى بالقضاء على معظم الوظائف البشرية.
- لا تسمح لأنظمة الذكاء الاصطناعى بالمساهمة في الاحتباس الحراري.
- لا تبني أنظمة الذكاء الاصطناعي القادر على الوعي والعواطف.
- لا تعطي أنظمة الذكاء الاصطناعى السيطرة على الأسلحة ، وخاصة الأسلحة النووية والحيوية.
- لا تسمح أنظمة الذكاء الاصطناعى بالدخول في علاقات رومانسية.
- لا تسمح لأنظمة الذكاء الاصطناعى بالمساهمة في المعلومات الخاطئة.
- لا تبني أنظمة الذكاء الاصطناعي عن طريق استغلال المواد المحمية بحقوق الطبع والنشر.
- لا تسمح لأنظمة الذكاء الاصطناعى بتحقيق superintelligence.
القراءات الأساسية الذكاء الاصطناعي
التهديد البسيط بالانقراض هو مجرد أحد أسباب السيطرة على البشر في التطورات المستقبلية في الذكاء الاصطناعي.
المصدر :- Psychology Today: The Latest
