لم تعد “الشخصيات” التي تم إنشاؤها من الذكاء الاصطناعى مجرد لمحة عن المستقبل-إنها هنا ، يتحدثون إلينا مباشرة ، ويمزجون بسلاسة في خلاصات وسائل التواصل الاجتماعي لدينا ، وأحيانًا يرفعون أتباعًا ضخمة قبل التعرض لها على أنها مزيفة. نظرًا لأن هذه الأرقام الاصطناعية تصبح أكثر إقناعًا ، فإن السؤال الأكبر ليس فقط كيف لقد تم إنشاؤها ، لكن لماذا يصدقهم الناس.
يقدم حساب Tiktok الفيروسي الأخير المعروف باسم “Maga Megan” دراسة مثالية لحالة الحالة حول كيفية تقاطع المعلومات الخاطئة التي تحركها الذكاء الاصطناعي مع علم النفس البشري والهوية وحوافز منصات التواصل الاجتماعي. حقق حساب “Maga Megan” مئات الآلاف من المشاهدات على Tiktok ، ولكن كما أشار Hank Green مؤخرًا ، يبدو أنه مزيف من الذكاء الاصطناعي.
تميز الحساب بامرأة تتحدث عن الموسيقى (من المحتمل أن تصرف الانتباه عن خطابها) ، وضربت كل الكلمات الطنانة للحرب الثقافية ، وقول ما يريده شريحة معينة من المشاهدين. ولكن إذا نظرت واستمعت عن كثب ، فإن أنماط الكلام الخاصة بها متوقفة ولا توجد علامات على وجود إنساني حقيقي (على سبيل المثال ، لا يوجد فوضى في الخلفية ، ولا عثرات ، ولا علامات على الارتجال ، إلخ). تم الإبلاغ عن الحساب على أنه مزيف وتم حظره في النهاية.
قبل حدوث ذلك ، أشارت شركة YouTuber Parkrose الزراعية إلى كيف سيحاول الحساب أن يجعل الناس يقومون بتنزيل تطبيقهم بين الطعم السياسي. الأمر كله عبارة عن خلق اصطناعي تم تصميمه للذهاب فيروسية وحمل الناس على النقر على كل ما يبيعونه على موقع الويب الخاص بهم.
ولكن لماذا يعتقد الكثير من الناس أنه حقيقي؟ أعتقد أن هناك ثلاثة أسباب رئيسية:
الهوية على الأصالة
كما أناقش في كتابي الجديد مضللة، يحفز الناس على تصديق ما يتوافق مع هوياتهم ، وهذا ليس بالضرورة ما هو صحيح. إذا كان مقطع فيديو يعزز قيمك أو مظالمك أو النظرة العالمية ، فمن الأرجح أن تقبله بالقيمة الاسمية. سواء كان ذلك قادمًا من شخص حقيقي أو شخص مزيف لا يهم بنفس القدر ؛ ما يهم هو ذلك يشعر يمين.
يتحسن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في محاكاة هذا الشعور الذي يستفيد من تحيزات هويتنا. عندما يؤكد شيء ما نظرتنا للعالم ، فإننا أقل عرضة للتفكير بشكل نقدي وتوقف للتوقف للتحقق من المصدر. كما وصفت كيف تنطبق هذه العملية على علامات AI Deepfakes المحيطة بالحروب والصراعات في مقابلتي مع بي بي سي.
قوة الشبكة
عندما يتم مشاركة حسابات مزيفة من قبل الأشخاص الذين تثق بهم – أو ببساطة تذهب فيروسية داخل مجتمعك – فإنها تكتسب المصداقية من خلال التكرار والألفة. لا تهتم خوارزمية Tiktok بما إذا كان الحساب حقيقيًا ؛ إنه يعزز المحتوى الذي يجعل الناس يشاهدون. النتيجة؟ يمكن نسج الهوية الاصطناعية إلى شبكات إنسانية حقيقية ، تنتشر مثل الهشيم.
اقرأ أيضًا...
هذا مثال رائع على ما أصفه في كل من بحثي وكتابي: يمكن مشاركة المعلومات الخاطئة من خلال التعزيز المتبادل من خلال شبكاتنا على وسائل التواصل الاجتماعي. الحسابات المزيفة لا تحتاج إلى أن تكون مقنعة من تلقاء نفسها ؛ إنهم بحاجة فقط إلى الدخول إلى غرفة الصدى الصحيحة ، حيث يمكن تعزيزها وتقديم دليل اجتماعي باعتباره حقيقيًا بما يكفي للتفاعل معه. على نطاق أوسع ، هناك سبب كبير لاعتقاد الناس إلى حسابات الذكاء الاصطناعي المزيف هو نفس سبب سقوطهم في أشكال أخرى من المعلومات الخاطئة: لا يتعلق الأمر بالمعلومات فحسب ، بل يتعلق بالانتماء.
حوافز المنصة والبقع العمياء الخوارزمية
لم يتم تحسين منصات التواصل الاجتماعي مثل Tiktok للحقيقة ؛ تم تحسينها للمشاركة. كلما كان الفيديو أكثر الالتهابات أو العاطفية ، زاد احتمال انتشاره. وهذا يخلق أرضًا خصبة لأشخاص منظمة العفو الدولية المزيفة المصممة لإثارة وتقسيم. يمكن للحسابات المزيفة أيضًا تعزيز بعضها البعض ، مما يعزز مشاركتها ودفعها إلى الجدول الزمني الخاص بك.
Tiktok ، Shorts YouTube ، وبكرات Instagram ليست مجهزة جيدًا لتمييز محتوى الذكاء الاصطناعى عن الأشخاص الحقيقيين ، خاصةً عندما يحاول المبدعون خداعًا بنشاط. ولأن مقاطع الفيديو هذه يمكن إنشاؤها على نطاق واسع ، فمن الأسهل من أي وقت مضى إغراق الأعلاف بشخصيات اصطناعية تستهدف كل مكان.
ماذا يمكننا أن نفعل حيال ذلك؟
مكافحة المعلومات الخاطئة تأخذ أكثر من مجرد فحص الحقائق ؛ يتطلب تعليمًا أقوى لكل من محو الأمية الإعلامية والوعي بتحيزاتنا. يظهر بعض بحثي نتائج واعدة في مساعدة الناس على تحديد الصور المعالجة عبر الإنترنت بسرعة. لكننا سنظل عرضة للخطر طالما أن تحيزات هويتنا تدفع مشاركتنا. لبناء مرونة حقيقية ، نحتاج إلى توسيع شبكاتنا الاجتماعية وتنويع علاقاتنا ، لذلك لسنا متحمسين للدفاع عن مجموعتنا السياسية لدرجة أننا نثق في أي محتوى يتوافق مع جانبنا. آمل أيضًا أن تأخذ المنصات هذه الحسابات المزيفة من الذكاء الاصطناعى على محمل الجد وعلى الأقل تشيعي أسوأ من الذكاء الذكري.
قد يكون حساب “Maga Megan” Tiktok مزيفًا ، لكن الأشخاص الذين يضعون فيها هو حقيقي. إذا كنا نريد الدفاع عن التلاعب الاصطناعي ، فنحن بحاجة إلى فهم ليس فقط ما يؤمن به الناس ، ولكن لماذا يتردد صداها. مع تطور الذكاء الاصطناعي ويلعب دورًا أكبر في تشكيل ما نراه ، يصبح فهم تحيزاتنا أكثر أهمية.
يظهر هذا المنشور أيضًا على مضللة: النشرة الإخبارية.
المصدر :- Psychology Today: The Latest
