كيفية تقييم الصحة العقلية الذكاء الاصطناعي

شارك هذا المنشور في كتابته مع أعضاء الفريق من قسم الطب النفسي الرقمي، Aoife Keane و Jermic Aryee.

من المستحيل تجاهل صعود chatbots الذكاء الاصطناعي (AI) للصحة العقلية. ال مراجعة الأعمال بجامعة هارفارد ذكرت في عام 2025 أن حالة الاستخدام الرائدة في الذكاء الاصطناعى التوليدي هي الآن العلاج/الرفقة. قد يستخدم بعض المرضى الذكاء الاصطناعي للاستعداد للجلسات مع المعالج. والأطباء مهتمين أيضًا. وفقًا لـ Cross et al. ، أعرب 79 في المائة (68/86) من أخصائيي الصحة العقلية التي شملهم الاستطلاع عن راحتها في استخدام chatbots للرعاية الصحية العقلية.

على الرغم من هذا الاهتمام المتزايد ، لا يوجد إطار راسخ لضمان عملياً أن مخرجات chatbots دقيقة وأخلاقية وشفافة. زاد الوعي بالحاجة إلى chatbots منظمة الصحة العقلية بشكل كبير ، مع منظمات مثل إدارة الغذاء والدواء الأمريكية ، والرابطة النفسية الأمريكية ، والرابطة الطبية الأمريكية لإطلاق سياسات لتقييم نماذج الذكاء الاصطناعي. يمكننا أن نتوقع تحديثات وتوصيات جديدة في الأشهر الـ 12 المقبلة حيث تتعاون المنظمون وشركات الذكاء الاصطناعى لتعزيز سلامة التكنولوجيا. ومع ذلك ، قد تقع العديد من نماذج الذكاء الاصطناعي للصحة العقلية خارج التنظيم من خلال المطالبة بتقديم خدمات الصحة بدلاً من الرعاية. قد يكون الفرق دقيقًا ، ولكنه يحدث فرقًا كبيرًا ومن المحتمل أنك بحاجة إلى اتخاذ قرارك الخاص حول استخدام أداة الذكاء الاصطناعية أو التوصية بها.

أدناه ، نسلط الضوء على ثلاثة أطر عمل واعدة توفر إرشادات وموارد قيمة لتقييم chatbots الذكاء الاصطناعى في الصحة العقلية. في حين أن هناك ، بالطبع ، العديد من الأطر التي توفر قيمة هائلة ، فإن هؤلاء الثلاثة يعطيون مكانًا عمليًا للتعرف على المزيد.

1. ريدي إطار العمل

يتكون هذا الإطار الشامل ، الموجود بشكل خاص نحو الصحة العقلية ، من السلامة والخصوصية والمساواة والفعالية والمشاركة والتنفيذ. يحدد هذا الإطار بدقة أوجه القصور في الأطر السابقة ويسعى إلى دمج هذه العناصر المفقودة في إطارها الخاص. يوفر Readi العديد من أسئلة التقييم بناءً على كل فئة من الفئات المقدمة ، مما يضمن أن نموذج الذكاء الاصطناعي لديه فهم واضح لكيفية العمل في مجال الصحة العقلية.

2. قائمة التحقق من الجمعية النفسية الأمريكية

في عام 2024 ، أصدرت الجمعية الأمريكية للأمراض النفسية (APA) قائمة مراجعة لتقييم الذكاء الاصطناعى للممارسين الذين يعتزمون دمج أدوات الذكاء الاصطناعى في ممارستهم. تولي قائمة المراجعة هذه اهتمامًا خاصًا بالأدلة السريرية ، وخصوصية البيانات ، وفائدة chatbot. أسئلة مثل ما إذا كانت البيانات الصحية مشفرة ، وإذا كانت تلتزم بموجب لوائح HIPAA ، وما إذا كانت مشاركة مع شركات الطرف الثالث أمر مهم للنظر عند استخدام chatbots للرعاية الصحية العقلية.

3. قبول

يدعو إطار القبول-AI للاستخدام الدقيق لبيانات الأطفال في أبحاث الذكاء الاصطناعى ، مع التركيز على التقييم المدروس لستة مجالات رئيسية: العمر ، والاتصال ، والموافقة ، والموافقة ، وحقوق الإنصاف ، وحماية البيانات ، والاعتبارات التكنولوجية ، بما في ذلك الشفافية في تطوير واختبار الذكاء الاصطناعي. من الضروري تحديد بيانات الأطفال والبالغين لتجنب التحيز الخوارزمي. مع وجود عدد قليل من الدراسات والمعايير لاستخدام بيانات طب الأطفال في نماذج الذكاء الاصطناعي ، يوفر هذا الإطار نقطة انطلاق حاسمة لأطر خالية من التحيز في المستقبل.

على الرغم من أن هذه الأطر الثلاثة تقدم معلومات مفيدة ، إلا أنها لا تزال لا تستطيع اتخاذ قرار نهائي بشأن ما إذا كان نظام الذكاء الاصطناعى آمنًا أو فعالًا. إذا لم يكن متأكدًا ، فمن الأفضل أن نفترض “لا” حتى يثبت خلاف ذلك ، حيث يوجد دليل واضح على أن بعض chatbots من الذكاء الاصطناعي يمكن أن تسبب ضررًا ، وأن الأدلة على فوائدها مختلطة ولا تزال تتطور.

المصدر :- Psychology Today: The Latest