في قضية رفيعة المستوى من الذكاء الاصطناعى ، أصدرت لجنة الولايات المتحدة صحية مرة أخرى (MAHA) تقريرًا وصفته بأنه “أساس واضح قائم على الأدلة” للتقدم في صحة الأطفال. ومع ذلك ، وجد الصحفيون بسرعة العديد من المشكلات في المصادر التي استخدمها التقرير لدعم “الأدلة” ، بما في ذلك الروابط التي لم تنجح وملخصات الدراسات التي تحريف العمل الأساسي. ربما كان الأمر الأكثر إثارة للقلق ، كان هناك عدد من المصادر المزيفة الصريحة – الاستشهادات للبحوث المنشورة ظاهريًا في المجلات العلمية التي لم تكن موجودة ببساطة.
كما كتبنا سابقًا ، فإن الذكاء الاصطناعي التوليدي بعيدًا عن الكمال ، ويمكن أن تحدث “الهلوسة” – المعلومات غير الدقيقة -. وقد نعتقد أن الذكاء الاصطناعى تزداد دقة مع نضوجه ، لكن النماذج الأكثر تطوراً في الواقع هلوسة أكثر من النماذج القديمة!
هلوسة الذكاء الاصطناعي عبر التخصصات
وقال إيفان أورانسكي ، مؤسس تراجع ساعة (التي تقارير عن أي تراجع عن البحث العلمي) للصحفيين أن الأخطاء هي ما يتوقعه المرء إذا استخدم مؤلفو التقرير حول صحة الأطفال الذكاء الاصطناعي (على الرغم من أنه لم يكن لديه معرفة محددة بهذا التقرير بالذات). صرح أورانسكي ، “لقد رأينا هذا الفيلم بالذات من قبل ، وهو للأسف أكثر شيوعًا في الأدب العلمي مما يود الناس أو في الحقيقة”.
الهلوسة الذكاء الاصطناعى ، بطبيعة الحال ، لا تقتصر على العلم. تحدث عبر التخصصات والسياقات. في الواقع ، هذه الأخطاء هي مشكلة متزايدة في المحكمة حيث تشمل المستندات القانونية بشكل متزايد الإشارات إلى القضايا القانونية غير الموجودة. على سبيل المثال ، في أقل من أربعة أسابيع في مايو ، أبلغ القضاة عن 23 استشهادات قانونية على الأقل. علاوة على ذلك ، يبدو أن المهنيين – المحامون والموظفون القانونيون المدربون – مسؤولون إلى حد كبير عن هذه المراجع المزيفة. قد يعتمد المحامون بشكل مفرط على الذكاء الاصطناعي ، ولكن لا يتحققون من ما تنتجه الذكاء الاصطناعي. أشار المراسلون إلى أن العدد الفعلي للاستشهادات المزيفة هو من المؤكد أنه أعلى من أن القضاة قد لا يصطادون دائمًا عندما يحدث ذلك.
لماذا؟ تكهن المراسلون بأن المحامين وموظفيهم قد “قد لا يكون لديهم الموارد أو المعرفة للبحث القانوني المتطور” أو قد يكونون “تحديًا تقنيًا”. في الواقع ، تكثر تحديات التكنولوجيا في مساحة العمل المهنية. (قد تتذكر الفيديو الفيروسي الذي يعود إلى عصر الوباء للمحامي الذي شعر بأنه مضطر لتوضيح أن “أنا لست قطة” عندما غير قادر على إزالة مرشح التكبير الذي يملأ وجهه مع هريرة.) ولكن يمكن أن يكون للاعتماد على الذكاء الاصطناعي تداعيات أكثر خطورة من خلل التكنولوجيا الأخرى. في الساحة القانونية ، يجوز للقضاة والهيئات المحلفين اتخاذ قرارات سيئة بناءً على معلومات غير دقيقة ، وقد تمت الموافقة على المحامين المسؤولين عن الأخطاء. في الساحة العلمية والطبية ، قد تؤدي المعلومات المستندة إلى الاستشهادات الخاطئة إلى قرارات سياسية خطيرة.
الحاجة إلى التحقق من الحقائق
في حالة التقرير الأمريكي عن صحة الأطفال ، قد تكون المشاكل قد نشأت من الاندفاع لإنشاء ونشر التقرير دون عملية تتضمن مراجعة صارمة وتكسير الحقائق. كما أخبرت الأستاذة وخبير التغذية ماريون نستله المراسلين ، “تشير سرعة (تقرير MAHA) إلى أنه لا يمكن فحصها بعناية ويجب أن يكون قد تم نقلها من خلال إجراءات التخليص القياسية. تشير مشكلة الاقتباس إلى الاعتماد على الذكاء الاصطناعي.” إذا كان هذا صحيحًا ، فإن هذه العملية تقل عن روح وزير الصحة في الولايات المتحدة ، روبرت ف. كينيدي جونيور ، الذي يشرف على مها و “قال مرارًا وتكرارًا إنه سيحضر” الشفافية الراديكالية “و” العلم الذهب “لوكالات الصحة العامة”. إلى جانب مشاكل الاقتباس ، رفض كينيدي مشاركة معلومات حول الفريق الذي كتب التقرير.
تبرز مثل هذه الحالات الحاجة إلى التحقق الصارم من جانب مؤلفي أي تقرير علمي أو موجز قانوني ، ولكنه يسلط أيضًا الضوء على الحاجة إلى الصحفيين وعامة الناس للقيام بتكسير الحقائق. عندما يكون الموضوع مهمًا بالنسبة لك ، انقر على الروابط. هل يقودونك إلى دراسة موجودة بالفعل؟ هل تتناسب استنتاجات الباحثين مع ما كتبه المؤلفون بالفعل عن ذلك؟
علم النفس اليوم لدى نفسها قواعد صارمة حول استخدام الذكاء الاصطناعى ، لكن نحن المؤلفين مسموح لهم باستخدامه للمساعدة في إنشاء الأفكار والتحقق من قواعد اللغة لدينا والبحث عن المساعدة البحثية. تخبرنا التعليمات أن “LLMs هي مصادر رائعة للبيانات ، ومع ذلك ، فإن جميع العبارات المستمدة من Gen-AI تحتاج إلى التحقق من الحقائق مع مصدر غير AI ، على سبيل المثال الأدب الذي تمت مراجعته من قبل الأقران.” هذا معيار ممتاز ونأمل أن يتم تبنيه على نطاق واسع. حتى ذلك الحين ، عند القيام بفحص الاقتباس الخاص بك ، حتى أن مقالة مزيفة أو اكتشاف تم تمثيلها يجب أن تجعلك تشكك في التقرير العام. هذا لا يعني أن الاستنتاجات الواردة في التقرير خاطئة بالضرورة ، لكن لم يعد من الممكن أن تكون واثقًا من عملية المؤلفين وينبغي أن تحافظ على شكوك صحية. دعونا نعمل جميعًا على جعل التفكير العلمي رائعًا مرة أخرى.
المصدر :- Psychology Today: The Latest
