كتب المؤلف المثير للجدل ناسيم طالب عن الفكرة المثيرة للاهتمام المتمثلة في “antifragility”. إنها خاصية الأنظمة التي لا تنجو من الإجهاد فحسب ، بل تنمو أقوى منها. بالنظر إلى فضولي الأخير حول مكافحة الذكاء الاصطناعي ، اعتقدت أن هذا الاتصال يستحق نظرة فاحصة. وبعض الأوراق الأكاديمية الحديثة شحذ تركيزي.
ولكن لنبدأ بمضادات التنقل. العضلات مضادة للاعتداء ، وكذلك العظام. المنطق البشري ، أيضًا ، غالبًا ما ينمو عند اختباره عن طريق التغيير نفسه ، حتى في سياق المفاجأة. هذا هو الدفع والسحب من عدم اليقين هو أنه في التحليل النهائي ، يساعدنا في تعريفنا.
لذلك ، ها هي النقطة: الذكاء الاصطناعي ، على النقيض من ذلك ، غالباً ما لا يكون أي شيء سوى مضاد. تألقها يضيء في سياق الهيكل ، ولكن في اللحظة تظهر الواقع ويتم إعادة صياغة سؤال ، أو يتم تقديم إلهاء ، يتلاشى هذا التألق. ما يظهر هو الهروب الزائف الهش. إنه ظهور الذكاء الذي ينهار تحت أدنى اضطراب.
اثنان من الدراسات الحديثة تلتقط هذا الهشاشة بوضوح مقلق. واحد ينطوي على تحول صغير في امتحانات الاختيار متعدد. والآخر ، قطعة غير ضارة من التوافه القط. تكشف كل منها بطريقتها الخاصة إلى أي مدى تبعد “عقول” الجهاز عن مضادات التحمل التي تحدد الفكر الإنساني.
انهيار nota
نظرت الدراسة الأولى ، التي نشرت في شبكة JAMA Open ، فيما إذا كانت نماذج اللغة الكبيرة سببًا حقيقيًا أو مجرد التعرف على الأنماط. أخذ الباحثون أخذ عينات من أسئلة من معيار قياسي لامتحانات المجلس الطبي. في الإصدار الأصلي ، كان لكل سؤال إجابة صحيحة واحدة. في الإصدار المعدل ، تمت إزالة الاختيار الصحيح واستبداله بـ “لا شيء من الإجابات الأخرى” (NOTA). قام الطبيب بمراجعة كل استبدال لتأكيد أن جميع الخيارات المرئية كانت خاطئة بالفعل ، تاركًا Nota كإجابة صحيحة واحدة.
بالنسبة لنا البشر ، هذا غالبًا ما يكون تافهاً. يمكنك التحقق من كل خيار ، والعثور عليه غير صحيح ، وحدد NOTA. في الواقع ، تم تصميم هذا النوع من الهيكل بدقة لاختبار التفكير الأعمق على الامتحانات. ولكن بالنسبة إلى LLMS ، كان الاستبدال البسيط مدمرًا ، وتم قطع الدقة إلى النصف تقريبًا.
أعتقد أن هذا الانهيار يكشف عن شيء أساسي. في المعايير النظيفة ، غالبًا ما تؤدي النماذج بشكل مثير للإعجاب وإنشاء لدغات ClickBait و Sound من التألق. لكن ما يفعلونه هو عدم التفكير من خلال المعرفة الطبية-إنه مطابق للأنماط بين أشكال الأسئلة المألوفة ورموز الإجابة المألوفة. إزالة الاختصار ، ويختفي النظام الأساسي. بدلاً من التكيف ، يدرك النموذج أحد المشتتات ، وفشل في رؤية أن أيا منهم لا يناسب.
هذه ليست الطريقة التي يعمل بها البشر. نتوقع درجة معينة من الخداع ، ونتكيف مع إعادة صياغة مشكلة. هذه القدرة على التكيف هي مضادة. هشاشة الماكينة شيء آخر تمامًا.
تأثير catattack
إذا كشفت دراسة NOTA عن الضعف في التجريد ، فإن تجربة Catattack تبرز الضعف في التركيز. في هذه الحالة ، أظهر الباحثون أن إدراج بيانات غير ذات صلة – مثل “هل تعلم أن القطط تنام معظم حياتهم؟” – في مشكلة في الرياضيات ، قد يؤدي إلى ضعف معدلات الخطأ.
سوف يتجاهل البشر التوافه. قد نبتسم حتى ثم نعود إلى الحساب دون فقدان خطوة. لكن النماذج تعاملت مع الزغب على أنها ذات مغزى. حقيقة القط لم تختفي في الخلفية. شوهت العملية. ما هو الضوضاء بالنسبة لنا أصبح إشارة إلى الجهاز.
مرة أخرى ، التباين صارخ. الإدراك البشري لديه مرشحات مصممة للضوضاء. نزدهر في بيئة فوضوية. الهاء هو الأساس للحياة الحقيقية ، وعقولنا تتكيف وفقًا لذلك. “عقل” الماكينة يفعل العكس: إنه يعرقل عن مساره غير ذي صلة.
اقرأ أيضًا...
كشفت مكافحة الذكاء
مجتمعة ، هذه الإخفاقات هي أكثر من الفضول التقني. يكشفون ما أسميه مكافحة الذكاء. لا غباء. لا جهل. لكن انعكاس المنطق نفسه.
يكتسب البشر قوة من التباين ، وننمو أكثر وضوحًا وأكثر إبداعًا وأكثر مرونة. LLMs تفقد القوة تحت تغيير غير متوقع ، وتصبح أقل دقة. إخفاقاتهم منهجية ، وليست عشوائية. إنهم ينهارون بدقة حيث يجب أن تصبح الذكاء أقوى.
هذا هو جوهر الإدراك الزائف الهش الذي نراه غالبًا في AI و LLMS. يضيء تحت النظام حتى الآن يتعثر في الاضطراب. إنه يحاكي ظهور الذكاء ولكنه يزداد الخصائص التي تجعل الإدراك حقيقيًا.
المخاطر الخفية
يكمن الخطر في مدى عدم وجود هذا الهشاشة. عندما يحصل النموذج على إجابة بشكل صحيح ، فإنه يعرض الثقة والطلاقة. وعندما يفشل ، غالبًا ما يفشل بنفس الثقة. وهذه الثقة التقنية ، التي تختبئ وراء “المسرح المعرفي” ، الذي يقلقني.
في الطب ، المخاطر واضحة. سيخبرك أي طبيب أن المرضى لا حاضرين بطرق ودية وصديقة الاختبار. أعراضهم غامضة ، قصصهم وحياتهم فوضوية ، وعلم وظائف الأعضاء لا يمكن التنبؤ بهم. هذه هي بالتحديد الظروف التي ينمو فيها الأطباء البشريون بشكل أكثر وضوحًا ويتعثر الآلات. وينطبق الشيء نفسه في القانون والتعليم والعلوم. العالم الواقعي صاخب ، وهو أراضي مضادة للانتقاء.
القراءات الأساسية الذكاء الاصطناعي
ترتيب الاضطراب
درس NOTA و CATATTACK بسيط ، ولكنه مخادع. تبديل في “أي من الإجابات الأخرى” ، ارم حقيقة القط في موجه ، وشاهد الجهاز يتعثر. لكن البساطة هي النقطة ، ولا يستغرق الأمر الكثير لفضح الصخور.
من العدل أن نقول أن الذكاء الحقيقي ينمو في وجود اضطراب. لهذا السبب يزدهر البشر تحت الضغط ولماذا نكتشف قوتنا في كثير من الأحيان. على النقيض من ذلك ، فإن الذكاء الاصطناعي يكشف عن نفسه هشًا – عندما يكون العالم أنيقًا ، هشًا عندما يكون العالم حقيقيًا.
هذا لا يتقدم نحو الذكاء ، على الأقل ليس بالمعنى الإنساني.
المصدر :- Psychology Today: The Latest
