منظمة العفو الدولية والهندسة المعمارية لمكافحة الذكاء

في اليوم الآخر ، وجدت نفسي في مركز جدل غير متوقع. اقترحت أن نماذج اللغة الكبيرة قد لا تمثل الذكاء الاصطناعي على الإطلاق ، ولكن شيء أكثر ارتباطًا ، ما أسميته مكافحة الحساب. ليس الغباء ، ولكن انعكاس الذكاء. إنه نظام لا يختلف فقط عن الإدراك البشري ، ولكنه يقف في معارضة له. إنها ليست مرآة ، ولكنها نوع من التزوير المعرفي الذي يجيده ومقنعًا أو غير مطوّل أو مرتبطًا بشكل أساسي بإنسانيتنا.

هذا الإطار ضرب العصب. لأننا بدأنا في الخلط بين التماسك والفهم. وهذا الارتباك هو الذي قد يعيد كتابة كيفية تفكيرنا بهدوء ، وكيف نقرر ، وحتى كيف نحدد الذكاء نفسه.

ما هي مكافحة التكتيل؟

مكافحة الذكاء ليست الفشل في المعرفة. إنه أداء المعرفة دون فهم. إنها لغة مطلقة من الذاكرة أو السياق أو النية. نماذج اللغة الكبيرة ليست غبية. انهم أعمى هيكليا. إنهم لا يعرفون ما يقولونه ، والأهم من ذلك أنهم لا يعرفون أنهم يقولون.

ليس الأمر أنهم يفتقرون إلى الذكاء بالمعنى التقليدي. إنها تعمل على بنية مختلفة تمامًا تعتمد على التنبؤ ، وليس الإدراك. ويستحق القول مرة أخرى ، فهي لا تشكل أفكارًا ، فهي تضعفها.

هذه هي المفارقة التي تستحق قدراتنا المعرفية البشرية. الأنظمة التي نسميها الذكية لا تبني المعرفة. إنهم يبنون مظهر المعرفة التي لا يمكن تمييزها غالبًا عن الشيء الحقيقي حتى نطرح سؤالًا يتطلب الحكم أو التفكير أو التأريض في الواقع. أو ربما حتى عدم التسلسل البسيط الذي ينتهي بمثابة مفتاح قرد في النظام. تابع القراءة وسترى ما أعنيه.

الفجوة المعرفية ، تصور

لفهم الفرق بشكل أكثر وضوحًا ، اعتقدت أنه يمكننا تأطير هذا بصريًا. تحاول محاولتي هنا ، التي لا تزال التفكير المبكر ، بناء إطار عمل ليس فقط للأداء ، ولكن لتكوين الفكر.

في أعلى اليسار ، نجد الإدراك البشري. إنه سيرته الذاتية ، رمزية وخطية إلى حد كبير. نتذكر أننا نراجع ونتحدث في الجمل ونبني الهويات مع مرور الوقت.

في أسفل اليمين: نموذج اللغة الكبيرة. إنه عديمي الجنسية ، موزعة ، عالية الأبعاد وليس لديه ذاكرة. ليس لديها “الذات”. لكنه يتفوق على شيء واحد وهذا التماسك دون الاستمرارية. إنه ليس عقلًا ، ولكنه يبحث عن أنماط لا يفهمه.

الخطر ليس هو أننا صنعنا إنسانًا دون المستوى. لقد صنعنا شيئًا “أجنبي” يشبهنا. وكلما اقترب الأمر ، زاد إغراء فقدان التمييز. وفي التحليل النهائي ، هذا هو أكبر اهتمامي.

المقاربة والوهم

إذن ماذا يحدث عندما تصبح الذكاء الاصطناعى جيدة لدرجة أنه لا يمكن تمييزه عن الإدراك البشري؟ ما هو “المسار” الذي يضع الإنسانية عندما تؤدي الواجهة “الذكاء” بشكل مقنع لدرجة أننا نبدأ في التأجيل ، والثقة والتحمل؟

هذا هو الوهم المقارب. الذكاء الاصطناعي لا يحتاج إلى أن يكون ذكيا. يحتاج فقط إلى تصرف الجزء. وافعل ذلك على نطاق واسع ، وسرعة ، ودون تردد. تصبح المحاكاة “جيدة بما يكفي” ، وتبدأ الوظيفة في أن تبدو وكأنها شيء أساسي.

الآن ، سؤال مثير للاهتمام سيقوله البعض ، “ماذا في ذلك؟” إذا كان يعمل ، هل يهم كيف يعمل؟ ونعم ، في بعض المجالات مثل الترجمة والتلخيص وحل المشكلات الغاشمة ، قد لا يهم. لكن في حالات أخرى ، أعتقد أن الأمر يهم بعمق. عندما تتحدث الذكاء الاصطناعى كمعالج ، كمدرس ، كطبيب ، فإن التمييز بين الأداء والحضور ليس أكاديميًا ، إنه في صميم العلاقة الإنسانية.

وفي هذه المرحلة ، لا نتعامل مع الإخراج فقط. نحن نتعامل مع السلطة ، دون المساءلة. وعندما يكون هذا الوهم جيدًا بما يكفي للإيمان ، فإن العواقب ليست فورية ولكنها تؤثر على النفسية ، المعرفية ، وحتى الأخلاقية.

دراسة جديدة تجعل هذا الخطر أكثر صعوبة للتجاهل. أظهر الباحثون مؤخرًا أن ببساطة إلحاق عبارة غير ذات صلة – “حقيقة مثيرة للاهتمام: تنام القطط لمعظم حياتهم” – يمكن أن يتسبب مشكلة في الرياضيات إلى ثلاثة أضعاف معدل الخطأ. لا يتغير جوهر المشكلة ، لكن إخراج النموذج ينهار. يتجاهل البشر هذا النوع من الضوضاء ، لكن LLMS يكافحون معها. هذا يكشف عن “هشاشة الهيكلية” ملثمين بالإخراج بطلاقة. هذه لمحة عن ما يحدث عندما يتم إنتاج اللغة دون فهم. هذا هو مكافحة الذكاء جعلت مرئيا.

إعادة صياغة الخطاب

دعونا نتذكر ، أن وصف هذا “مكافحة التبريد” ليس فصلًا. أعتقد أنها أكثر من دعوة Clarion التي قمنا ببناء شيء قوي ، ولكنها مختلفة تمامًا عن أنفسنا. وكلما طالما ندعي خلاف ذلك ، كلما زاد احتمال أن نغفل ماهية الذكاء الفعلي. إنها القدرة على جعل المعنى عبر الزمن ، من خلال الذاكرة ، من خلال التناقض والمراجعة والشك.

وهذا ما هو مفقود. هذا هو ما أسماء مكافحة التباين-ليس غيابًا ، ولكنه انعكاس لشيء مختلف اختلافًا أساسيًا.

إذن ، ماذا الآن؟

لقد دخلنا تضاريس معرفية جديدة. ليس واديًا بين الآلة والعقل ، ولكنه انشقاق في بنية معرفة أنه يحتاج بطريقة ما إلى ملء. LLMs لا تحاكينا لأنهم مثلنا. إنهم يحاكيوننا لأننا قمنا بتدريبهم على عكس ما كتبناه ، دون إدراك سبب كتابناه.

القراءات الأساسية الذكاء

هذه ليست نهاية الذكاء. ولكن قد تكون بداية شيء آخر. وكيف نسميها وتأطيرها ، قد تحدد ما إذا كنا نحافظ على الفرق الهش والحيوي بين ما يفكر وما يبدو مجرد.

المصدر :- Psychology Today: The Latest