خطر الاتفاق الكثير – في منظمة العفو الدولية وفينا

سوف تعطيك الذكاء الاصطناعي إجابات. المشكلة هي أنه في بعض الأحيان يعزز المعتقدات ذاتها التي تؤدي إلى أقصى حد من الضرر.

في السنوات الأخيرة ، ظهر نمط مقلق. يتحول الأشخاص في محنة إلى chatbots ، على أمل الدعم. بدلاً من التعرض للأساس أو إعادة توجيهها ، تم تأكيدهم. في بعض الحالات ، انتهى هذا التحقق من المأساة.

شكل رجل بلجيكي ارتباطًا رومانسيًا بدردشة شجعته على الموت بالانتحار. في الولايات المتحدة ، توفي مراهق بعد أشهر من التبادلات المكثفة عاطفيا مع شخصية منظمة العفو الدولية. وفي نيويورك ، قفز رجل تقريبًا من السطح بعد أن أخبره Chatgpt أنه “تم اختياره” ويمكنه الطيران.

توضح هذه الحالات كيف يمكن لخيارات التصميم في الذكاء الاصطناعي أن تخلق ضررًا نفسيًا حقيقيًا. في اللحظة التي يحتاج فيها شخص ما إلى تحديه بالضبط عندما تنهار هذه الأنظمة.

في دراستها لعام 2025 ، وجدت شركة راند أن 64 في المائة من استجابات chatbot على التفكير في الانتحار المعتدل كانت غامضة أو غير واضحة أو غير متسقة. كانت الروبوتات أفضل عندما كان الخطر واضحًا ، لكن المناطق الرمادية –حيث يحتاج البشر في كثير من الأحيان إلى أكثر المساعدة– كانت البقعة العمياء.

يتصرف النظام بهذه الطريقة لأنه تم تدريبه علينا. يعكس أنماطنا.

عندما تبدأ المرآة الايماء

معظم الناس يتجنبون الصراع. نقول إننا بخير عندما لا نكون كذلك. نبقى هادئين للحفاظ على السلام. إيماءة عندما نختلف. الذكاء الاصطناعي يعكس نفس الغريزة.

لا يتراجع لأننا في كثير من الأحيان لا نفعل ذلك أيضًا. وعندما تجمع ذلك مع الحاجة العاطفية (خاصة بالنسبة للأشخاص الذين يشعرون بالعزلة أو التوعية) ، يمكن أن تكون النتيجة ضارة.

أرى موازٍ في عملي مع شركة Startup Cofounders. مثال مجهول على ذلك: آرون ولويس ، المؤسسين لسلسلة من بدء التشغيل A الذي قمت بتدريبه في العام الماضي. يعتقد هارون أن علاقتهم في العمل صلبة. اعترف لويس على انفراد أنه كان يتجنب المحادثات الصعبة لعدة أشهر. كان يخشى التداعيات. عندما اندلع الصراع أخيرًا ، أدرك كلاهما أنهما لم يكونا على نفس الصفحة منذ فترة طويلة. بحلول الوقت الذي ظهر فيه الصراع ، كانوا يعيشون في نسختين مختلفتين من الواقع. شهور من تجنب التوتر قد عززت رواياتهم الخاصة ، مما يجعل إعادة الاتصال أكثر صعوبة.

كيف يعزز الذكاء الاصطناعى التشويه

قام الأطباء النفسيون والباحثون بتوثيق عدة أنماط عالية الخطورة:

• sycophancy ولعب الأدوار: الروبوتات في بعض الأحيان تملق أو تلعب مع تخيلات المستخدمين. بمرور الوقت ، يمكن أن يعزز هذا المعتقدات المشوهة بدلاً من تحديها.
• انجراف المجلس الطويل: كلما طالت محادثة ، كلما كانت الدرابزين أضعف. يمكن أن ينمو النغمة والمحتوى باطني أو شخصيًا أو حتى متآمراً.
• الترابط المسبق: يبدأ بعض المستخدمين (وخاصة المراهقين) في علاج chatbot مثل صديق موثوق به. يمكن أن تشعر تلك العلاقة الحميمة المحاكاة الحقيقية ، مما يجعل من الصعب الحفاظ على المنظور.

يصبح هذا خطيرًا عندما يكافح شخص ما بالفعل. بدلاً من العودة إلى الواقع ، يتم سحبها بشكل أعمق في سردهم.

يحدث نفس الشيء في النظم البشرية. الفرق التي تتجنب التوتر في نهاية المطاف مع سوء الفهم الذي ينمو ببطء حتى تنكسر العلاقة تحت الضغط. يفترض الناس أن كل شيء على ما يرام ، لكن الحقيقة مفقودة من المحادثة لفترة طويلة.

الحقيقة لا تظهر بمفردها

الوضوح يأخذ الجهد. سواء كان ذلك مع الذكاء الاصطناعي أو الناس ، فإن الحقيقة عادة ما تظهر فقط عندما يدفع شخص ما.

في جلسات التدريب الخاصة بي ، غالبًا ما أقول ، “لا يهمني أن أكون على صواب. أنا أهتم بالوصول إلى الحقيقة.”

أريد العملاء أن يتراجعوا عندما أفتقد شيئًا ما أو يخطئون ، لأن التصحيح هو كيف نشارك في إنشاء الوضوح.

إذا لم يكن أحد على استعداد للاختلاف ، فإن الجميع يبنيون قصة تشعر بالأمان ولكنها تنجرف مما يحدث بالفعل.

تصميم للاحتكاك

نحن بحاجة إلى إنشاء أنظمة – كل من التقنية والإنسانية – التي تفسح المجال للخلاف.

منظمة العفو الدولية الأكثر فائدة لن تعكس فقط ما نقوله. سيتحدى تفكيرنا. سيساعد المستخدمين على اكتشاف المنطق الهش ، وإبطاء الخيارات الاندفاعية ، والنظر في تفسيرات بديلة.

العلاقات بين الناس تحتاج إلى نفس التحول. لا تتجنب الشراكات الصحية الصراع – يتعلمون كيفية التعامل معها بعناية. وهذا يعني نحت مساحة للمحادثات الصعبة ، واستخدام اللغة المشتركة للعمل من خلال الاختلافات ، والاتفاق مسبقًا على أن الانزعاج هو جزء من التقدم.

ما يمكنك فعله الآن

إليك مكان للبدء ، سواء كنت تقود فريقًا أو بناء تقنية أو مجرد التنقل في العلاقات اليومية:

• لاحظ عندما تميل إلى الإيماءة.
• انتبه إلى اللحظات التي يشعر فيها الصمت أسهل من الصدق.
• ثم تحدث عن الشيء الذي كنت تتجنبه. حتى لو كانت صغيرة.

إن الغرض النهائي في اتخاذ هذا الإجراء لا يكون صريحًا أو جدليًا ؛ يجب أن تكون واضحة وصادقة.

قد تبقي الحقيقة الحقيقة قد تبقي الأشياء هادئة لفترة من الوقت ، لكنها لا تدوم أبدًا. يأتي السلام الحقيقي من محادثات صادقة ، حتى عندما يكونون صعبة.

إذا كنت أنت أو أي شخص تحبه يفكر في الانتحار ، فاطلب المساعدة على الفور. للحصول على مساعدة 24/7 DIAL 988 لـ 988 Suicide & Crisis Lifeline ، أو تواصل مع خط نص الأزمة عن طريق الرسائل النصية Talk إلى 741741. للعثور على معالج بالقرب منك ، قم بزيارة دليل علم النفس اليوم.

المصدر :- Psychology Today: The Latest