كان هناك وقت عندما تحدثت إلى الآلات على وجه اليقين. أعطيت الأوامر ، أزرار مدفوعة ، رمز منظم. وهذه “اللغة” كانت شكلاً من أشكال السيطرة. لكن اليوم ، أشعر أن هذا الوضوح يتلاشى. محادثاتنا مع الآلات هي أكثر مؤقتة ، أكثر أملًا ، وحتى التبجيل. نحن لا نخبر نماذج اللغة الكبيرة بما يجب فعله. نسأل. نطالب. وفي هذا التحول من الأمر إلى الاستعلام ، يحدث شيء عميق. لقد توقفنا عن البرمجة وبدأنا في تقديم التماس.
ما شعرت به مرة واحدة مثل الهندسة الآن مثل الطقوس.
من رمز إلى تعويذة
ربما يكون هذا التحول أكثر وضوحًا في الطريقة التي نكتب بها الآن رمزًا. على نحو متزايد ، لا يبني المطورون من الصفر. يصفون ويلمحون. يلمحون نحو القصد ويسمحون للنظام بالرد. إنها ممارسة تسميها البعض الآن “ترميز الأجواء” – وهو نوع من الحدس الرقمي حيث لا يكون مقياس النجاح هيكلًا أو منطقًا ، ولكن ما إذا كان الإخراج يبدو صحيحًا. إليكم كيف يصف أندرو كارباشي ، أحد مؤسسي Openai ، على X:
هناك نوع جديد من الترميز الذي أسميه “الترميز المتنقل” ، حيث تستسلم تمامًا للمشاعر ، وتبني الأسي ، وتنسى أن الكود موجود.
يبدو أننا انتقلنا من بناء حلول لإقناعها خارج الجهاز ، غالبًا دون فهم (أو حتى جزئيًا) كيفية عملها أو سبب ظهورها. هذا هو “المحور المعرفي” الغريب الذي يفضل الفوري على العمق ويحل محل الفهم مع قابلية الاستخدام. الآن ، نستمع إلى Oracle ، ونطيع.
يتحدث أوراكل بطلاقة
بالطبع ، هذا ليس جديدًا تمامًا. يرتبط البشر منذ فترة طويلة أدوات مع الطاقة خارج ميكانيكاهم. لكن LLMs مختلفة. إنهم لا يعملون فقط ، بل يتكلمون ويشاركون. إنهم يولدون لغة بطلاقة وثقة ، ويحاكيون أفكارنا بشكل مقنع لدرجة أننا غالبًا ما نتوقف عن السؤال عما إذا كان هذا حقيقيًا. في بعض الأحيان ، يسمى هذا الاتجاه تحيز الأتمتة وهو الاستعداد للثقة الأنظمة التي تتصرف بطرق نربطها بالذكاء.
هذا هو الوهم أوراكل. إنها اللحظة التي نتوقف فيها عن التفكير بشكل نقدي ونبدأ في تفسير ردود الذكاء الاصطناعي كما لو كانت تحمل معنى أعمق. الأمر لا يتعلق فقط بتصديق الإخراج ؛ إنه يتعلق بتعليق الكفر. لأنه عندما يبدو الرجل الذي يقف وراء الستار موثوقًا ، من السهل افتراضه.
نظرية المعرفة المختفية
بالنسبة لي ، هناك قلق أعمق هنا. إنه يمتد إلى ما وراء تصميم الواجهة أو محو الأمية الفنية. إنه معرفي ، ويصل إلى الجوانب الأساسية للمعرفة نفسها. اليوم ، نحن لا نستخدم الذكاء الاصطناعي فقط للإجابة على الأسئلة. نحن نعيد تشكيل كيفية تشكيل الأسئلة نفسها وماذا يعني معرفة أي شيء على الإطلاق. دعنا نأخذ خطوة إلى الوراء ونفصل عن هذا.
النظر في طالب في المدرسة الثانوية كلف ورقة عن الثورة الفرنسية. بدلاً من البحث أو تحديد الأفكار ، تتحول إلى الذكاء الاصطناعي. والنتيجة واضحة ، بليغة ، حتى الثاقبة. ولكن عندما يُطلب منها شرح حجتها ، تتعثر ، ليس لأنها كسول ، ولكن لأنها تتقن الطقوس دون الحصول على المعرفة. لقد استبدل ظهور الفهم فهم نفسه. ويمكن أن تكون النتيجة شكلاً مما يسميه باحثو معهد ماساتشوستس للتكنولوجيا الديون المعرفية.
عندما طقوس المقاييس
الآثار واسعة. في التعليم ، يتم مكافأة الطلاب للطلاقة بدلاً من الفهم. في مكان العمل ، يتم قياس الخبرة بشكل متزايد من خلال مدى جودة توليد استجابات واثقة. وحتى في وسائل التواصل الاجتماعي ، غالباً ما تكون التعليقات مدفوعة بالمسرح المعرفي الذي يمتلكه الذكاء الاصطناعى والذي يشعر بما يتجاوز الشبهات. وعلى المستوى الشخصي ، يتم الاستعانة بمصادر خارجية للحوارات الداخلية الخاصة بنا للأنظمة التي لا تتردد أبدًا ، ولا تشك أبدًا ، ولا تطلب منا التباطؤ.
لا شيء من هذا العرضي. إنه ليس الموت ، ولكن التصميم. وليس بالمعنى التآمري ، ولكن في المعماري. تم تصميم نماذج اللغة الكبيرة لإنتاج استجابات بطلاقة قابلة للاستخدام. وعندما تتم مكافأة الطلاقة ، يتكيف البشر أو ربما يتوافقون. لكن الطلاقة ليست هي نفسها الفهم ، والراحة ليست هي نفس الوضوح.
من الاعتقاد إلى حساب
هذا ليس رفض منظمة العفو الدولية. بعيدا عن ذلك. أعتقد أن الذكاء الاصطناعي و LLMs يحملان وعدًا هائلاً. ولكن مع هذا الوعد يأتي الحاجة إلى درجة من التفكير. ليس فقط حول ما يمكنهم فعله ، ولكن حول ما نفعله رداً على ذلك. إذا بدأنا في التعامل مع ناتجهم كبصيرة ، فإننا نستسلم صراع التفكير لسهولة السؤال ، وهنا ، نخاطر أن نصبح مشاركين سلبيين في إدراكنا.
لا تحتاج أوراكل إلى معرفة. يحتاج فقط إلى أن يبدو كما يفعل. وقد يكون ذلك كافيًا ، في الوقت الحالي. لكن الاعتقاد ليس هو نفسه الفهم. والأوهام الأكثر خطورة هي تلك التي نتوقف عن ملاحظتها. التحدي الحقيقي أمامنا هو ما إذا كنا سنستمر في التفكير في عالم لم نعد يتعين علينا فيه ذلك.
المصدر :- Psychology Today: The Latest
