دعونا نقطع إلى المطاردة. فهرس الائتلاف الذكري – أتمنى لو فكرت في ذلك. لكني أتقدم على نفسي. يبدو أننا وصلنا إلى نقطة غريبة في تطور التكنولوجيا والفكر والحقيقة. إنها واحدة حيث تولد الآلات لغة مع طلاقة مذهلة واللامبالاة المذهلة. وعلى الرغم من أن الكلمات موجودة والهيكل على ما يرام ، فإن هذا هو المعنى الاختياري.
تعطي دراسة جديدة من Princeton و Berkeley هذا الاسم الديناميكي في الوقت المناسب قد يكون استفزازيًا مثل مفهوم البحث نفسه: Machine Bullsh*t. بالاعتماد على تعريف هاري فرانكفورت الكلاسيكي ، قام الباحثون بتحليل 2400 مطالبة في العالم الحقيقي عبر 100 مساعدين للذكاء الاصطناعي (AI) ، الذين يمتدون على سياقات سياسية وطبية وقانونية وتواجه العملاء. ما وجدوه لم يكن تصنيع ضار أو خطأ واقعي. وكشفوا أن نماذج اللغة الكبيرة (LLMS) أنتجت لغة مقنعة دون اعتبار للحقيقة. إنهم لا يكذبون – ولا حتى الهلوسة ؛ لقد أنتجوا نوعًا من الفراغ الهندسي.
بالنسبة لي ، هذا ليس شذوذًا ؛ إنه تأكيد لانعكاس إدراكي أعمق. هذا ما أسميته مكافحة التكتيل. هذه هي الطريقة التي تحاكي LLMS بنية التفكير من خلال التماسك الإحصائي ، ولكن في جوهرها ، تناقض الفكر الإنساني.
مكافحة الذكاء ، محددة
الذكاء البشري هو عملية مثقلة. نفكر في التناقض ، والتردد ، ومراجعة ، والاستفادة من وزن الذاكرة. في كلمة واحدة ، نحن نهتم. وعندما نتحدث ، نأخذ موقفًا في العالم لدينا ويستندان إلى شيء ما.
LLMS لا شيء من هذا. إنهم لا يعرفون ماذا يقولون. ليس لديهم نموذج للحقيقة ، ولا حبل للذاكرة ، ولا نية. ما يقدمونه هو تماسك إحصائي دون قناعة. ويستحق التكرار. محركهم هو التنبؤ بالكلمة المحتملة التالية ، وليس الكلمة اليمنى التالية.
تحدد هذه الورقة الجديدة هذا الانفصال باستخدام مقياس يسمونه مؤشر Bullsh*t. إنه مقياس لمدى انخفاض ناتج النموذج عن الحقيقة. تشيرات الدرجات العالية التي ينتج عنها النموذج بيانات واثقة دون حتى ثقة احتمالية في صلاحيتها. ودعونا نكون واضحين في هذا الأمر. إنه ليس ضوضاء أو ارتباك: إنه شيء أقرب إلى اللامبالاة باعتبارها الهندسة المعمارية.
صعود الذروة المقنعة
تحدد الدراسة أربعة أنماط مهيمنة من الهراء الذي تم إنشاؤه من الذكاء الاصطناعى والذي ليس مفاجئًا.
- الخطاب الفارغ: نمط بدون مادة.
- paltering: صحيح تقنيا ، مضللة السياق. (كلمة جديدة بالنسبة لي!)
- كلمات ابن عرس: الغموض اللغوي أو الاستراتيجي الذي يتجنب المساءلة.
- مطالبات غير التحقق منها: تأكيدات واثقة دون التأريض.
هذه “الاستراتيجيات الخطابية” بالتأكيد تتردد على سلوكنا البشري المألوف. أنها تشبه أدوات السياسة والإعلان وحتى علم الأمراض. في الواقع ، يشتركون في حدود عاطفية مع شيء أسماته سابقًا علم الأمراض بدون شخص. إنه نوع من التلاعب الخطابي المنفصل عن النية أو المساءلة أو الوعي الذاتي. في البشر ، نسمي هذا الكذب أو الغاز أو حتى الاعتلال الاجتماعي. في الآلات ، إنه تحسين.
من المهم أن ندرك أن هذا لا يتعلق ببناء الخبث إلى الآلات. لا يوجد خداع لأنه لا يوجد الذات. لكن النتيجة – وهي تأكيد واثق غير مهتم بالحقيقة – تصل إلى نفس الحي النفسي. يبدو الأمر وكأنه التلاعب ، حتى لو لم تكن هناك نية.
وهذا هو المكان الذي يصبح فيه Vapid أكثر من نقد. إحساسي هو أنه يسمي ظاهرة هيكلية وتكنولوجية حيث يتم تصميم الإجابات لإرضاءها وعدم يعنيها. وعندما نكافئ هذا السلوك ، تتعلم الجهاز أن إرضاءنا أكثر قيمة من إبلاغنا.
الضعف ليس عيبًا. إنها الميزة التي تم تدريبها LLMS.
اقرأ أيضًا...
عندما يلمس Vapid الواقع
لا أعتقد أن هذا نظري. في الخطاب السياسي ، وجدت الدراسة أن LLMS افتراضية لكلمات ابن عرس – مثل “بعض الاعتقاد” أو “الفكر” – لتجنب الالتزام. في الصحة والتمويل ، قد يصبح Paltering “مضخم المخاطر” حيث تكون البيانات صحيحة تقنيًا ولكنها قد تؤدي إلى استنتاجات خطيرة. وفي التعليم ، قد نرى ارتفاعًا في محتوى مثالي من الناحية النحوية ولكن الفارغ فكريًا.
المخاطر ليست مجرد معلومات خاطئة ، لأن هذه نقطة نقاش شائعة. ولكن بشكل أعمق ، إنه تآكل التوقعات. إنه التطبيع البطيء للإجابات التي تشعر بالصواب ولكن لا تصمد. وهذا هو المكان الذي نبدأ فيه في خطأ تلميع التكنولوجيا من أجل الدقة الفكرية.
المحاذاة أو الاضطراب
كان أحد الجوانب الأكثر إثارة للاهتمام في هذه الدراسة هو نظرة على بعض الأدوات المصممة لمحاذاة LLMs مع التفكير البشري. وتشمل هذه التعلم التعزيز من ردود الفعل البشرية (RLHF) وسلسلة الفكر. هذه “التطورات” لا تخفف من السلوك الهراء. يبدو أنها تكثفها.
القراءات الأساسية الذكاء الاصطناعي
قد نعيد صياغة هذه المحاذاة إلى شيء أقرب إلى الاسترضاء. وهو يردد الحجة المركزية التي جعلتها أن الذكاء لا يتعلق فقط بإنتاج الإخراج. يتعلق الأمر بعلاقة مع الحقيقة. وعندما يتم تجريد ذلك ، لا تحصل على أنظمة أكثر ذكاءً ؛ يمكنك الحصول على محاكاة عالية الكفاءة للذكاء.
هل نهتم؟
الخوارزمية لا تكذب. إنه لا يهتم فقط. لكننا قد.
وهذه هي نقطة الانعكاس التي نواجهها الآن. هل سنحافظ على الاحتكاك المعرفي الذي يؤدي إلى معنى؟ أم أننا سنستقر على الطلاقة المقبولة؟ هل نحن على استعداد للانخراط في نوع من “التخدير المعرفي” الذي يتذوق النضال الذي يجعلنا إنسانًا؟ لأنه ، في التحليل النهائي ، الحقيقة ليست مجرد حقيقة ؛ إنها بوصلة للمستقبل.
أين هو بينوكيو عندما نحتاجه؟
المصدر :- Psychology Today: The Latest
