ابزارهای هوش مصنوعی شکلدهنده مراقبت از بیمار ممکن است خارج از نظارت مقرراتی فعالیت کنند؛ پژوهشگران MIT میگویند زمان تغییر آن فرا رسیده است
MIT CSAIL NewsUnited States4 دقیقه مطالعه۱۴۰۵/۰۶/۰۷ ساعت ۰۴:۳۰
"The current situation leaves clinical decision software (CDS) tool developers and users with undesirable uncertainty," the authors write, "and patients and providers using tools with unknown validation, outcomes, and regulatory status." That uncertainty stems from well-intentioned policy that moved faster than enforcement could follow (Credit: Alex Gagne and MIT CSAIL).
خلاصه سریع
اصل خبر در چند خط
پژوهشگران MIT در مقالهای در The Lancet Digital Health هشدار دادند که بسیاری از ابزارهای هوش مصنوعی مورد استفاده در بیمارستانهای آمریکا، از جمله مدلهای تشخیص سپسیس و ارزیابی خطر سرطان، بدون نظارت مقرراتی فعالیت میکنند.
این ابزارها که در سیستمهای سوابق الکترونیکی سلامت یکپارچه شدهاند، در ۶۵ درصد بیمارستانها استفاده میشوند، اما بسیاری از آنها هرگز توسط FDA بررسی نشدهاند.
بازار ۴ میلیارد دلاری ابزارهای پشتیبانی تصمیمگیری بالینی (CDS) خارج از پاسخگویی عمومی عمل میکند و بیماران و پزشکان از وضعیت اعتبارسنجی و مقرراتی این ابزارها بیاطلاع هستند.
قانون Cures قرن ۲۱ در سال ۲۰۱۶ و تغییرات بعدی در مقررات FDA باعث ایجاد شکاف بین سیاست و اجرا شده است.
مدلهایی مانند Epic Sepsis Model و Tyrer-Cuzick برای ارزیابی خطر سرطان پستان، علیرغم تأثیر زیاد بر تصمیمات بالینی، فاقد تأییدیه FDA هستند.
متن خبر
شرح خبر
پژوهشگران آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT (CSAIL) و کلینیک جمیل در مقالهای جدید در The Lancet Digital Health به بررسی چگونگی شکلگیری مشکل نظارت ناکافی بر ابزارهای هوش مصنوعی در مراقبتهای بالینی پرداختهاند.
این ابزارها، که در دو سوم بیمارستانهای آمریکا مورد استفاده قرار میگیرند، تصمیماتی مانند تشخیص سپسیس، ارزیابی خطر سرطان یا هشدار بدتر شدن وضعیت بیمار را تحت تأثیر قرار میدهند.
با این حال، بسیاری از آنها هرگز توسط سازمان غذا و داروی آمریکا (FDA) بررسی نشدهاند.
بازار ۴ میلیارد دلاری ابزارهای پشتیبانی تصمیمگیری بالینی (CDS) عمدتاً خارج از پاسخگویی عمومی فعالیت میکند و بیماران و ارائهدهندگان خدمات اغلب از وضعیت اعتبارسنجی، نتایج و وضعیت مقرراتی این ابزارها بیاطلاع هستند.
این مقاله با استناد به نظرسنجی سال ۲۰۲۳ از بیش از ۲۴۰۰ بیمارستان، نشان میدهد که ۶۵ درصد از آنها از هوش مصنوعی یا مدلهای پیشبینی استفاده میکنند، اما ابزارهایی مانند Epic Sepsis Model یا Epic Deterioration Index فاقد تأییدیه FDA هستند، در حالی که ابزارهای مشابهی مانند ImmunoScore، PeraTrend و eCART تأییدیه دریافت کردهاند.
پژوهشگران MIT در مقالهای در The Lancet Digital Health هشدار دادند که بسیاری از ابزارهای هوش مصنوعی مورد استفاده در بیمارستانهای آمریکا، از جمله مدلهای تشخیص سپسیس و ارزیابی خطر سرطان، بدون نظارت مقرراتی فعالیت میکنند.
این ابزارها که در سیستمهای سوابق الکترونیکی سلامت یکپارچه شدهاند، در ۶۵ درصد بیمارستانها استفاده میشوند، اما بسیاری از آنها هرگز توسط FDA بررسی نشدهاند.
بازار ۴ میلیارد دلاری ابزارهای پشتیبانی تصمیمگیری بالینی (CDS) خارج از پاسخگویی عمومی عمل میکند و بیماران و پزشکان از وضعیت اعتبارسنجی و مقرراتی این ابزارها بیاطلاع هستند.
قانون Cures قرن ۲۱ در سال ۲۰۱۶ و تغییرات بعدی در مقررات FDA باعث ایجاد شکاف بین سیاست و اجرا شده است.
مدلهایی مانند Epic Sepsis Model و Tyrer-Cuzick برای ارزیابی خطر سرطان پستان، علیرغم تأثیر زیاد بر تصمیمات بالینی، فاقد تأییدیه FDA هستند.
نظارت ناکافی بر ابزارهای هوش مصنوعی در مراقبتهای بهداشتی میتواند منجر به تصمیمات نادرست بالینی، نابرابری در درمان و خطرات جانی برای بیماران شود.
عدم شفافیت در مورد اعتبارسنجی و تأییدیه این ابزارها، اعتماد عمومی به فناوریهای پزشکی را تضعیف میکند و میتواند باعث استفاده از مدلهای ناکارآمد یا مغرضانه شود.
علاوه بر این، شکاف بین سیاستگذاری و اجرا، توسعهدهندگان و کاربران را با عدم قطعیت مواجه میسازد و ممکن است مانع نوآوریهای مسئولانه در حوزه سلامت شود.
بازار ابزارهای پشتیبانی تصمیمگیری بالینی (CDS) با ارزش ۴ میلیارد دلار، تحت تأثیر عدم شفافیت مقرراتی قرار دارد و ممکن است با چالشهای حقوقی و مالی روبرو شود.
شرکتهایی که ابزارهای تأییدنشده را عرضه میکنند، در معرض خطر اقدامات قانونی و از دست دادن اعتبار قرار دارند.
از سوی دیگر، شرکتهایی که موفق به دریافت تأییدیه FDA میشوند، میتوانند سهم بازار بیشتری کسب کنند و اعتماد مشتریان را جلب نمایند.
در ایران، استفاده از ابزارهای هوش مصنوعی در مراقبتهای بهداشتی در حال رشد است، اما عدم وجود چارچوبهای نظارتی واضح میتواند منجر به استفاده از ابزارهای غیرمعتبر و خطرات مشابه شود.
این خبر میتواند انگیزهای برای سیاستگذاران ایرانی باشد تا مقرراتی شفاف برای استفاده از هوش مصنوعی در حوزه سلامت تدوین کنند و از تجربیات بینالمللی برای جلوگیری از اشتباهات مشابه بهره ببرند.
این خبر بر اهمیت تنظیم مقررات دقیق برای ابزارهای هوش مصنوعی در حوزه سلامت تأکید میکند.
قانون Cures قرن ۲۱ و تغییرات بعدی در مقررات FDA نشان میدهد که چگونه سیاستهای ناکامل میتوانند منجر به شکافهای اجرایی شوند.
این موضوع میتواند برای حقوقدانان و متخصصان فناوری اطلاعات در حوزه سلامت، به عنوان یک مطالعه موردی برای بررسی چالشهای حقوقی و فنی در نظارت بر فناوریهای نوظهور باشد.
این خبر بیشتر بر ابعاد داخلی آمریکا متمرکز است، اما میتواند تأثیرات جهانی داشته باشد، به ویژه در کشورهایی که از استانداردهای FDA برای تنظیم مقررات خود استفاده میکنند.
عدم نظارت کافی بر ابزارهای هوش مصنوعی در حوزه سلامت میتواند به چالشهای بینالمللی در زمینه اعتماد به فناوریهای پزشکی و هماهنگی مقررات منجر شود.
آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT (CSAIL) به عنوان یکی از پیشروترین مراکز تحقیقاتی در حوزه هوش مصنوعی، این خبر را با هدف برجستهسازی چالشهای نظارتی و نیاز به شفافیت در استفاده از ابزارهای هوش مصنوعی در مراقبتهای بهداشتی منتشر کرده است.
پژوهشگران MIT در مقالهای جدید هشدار دادند که بسیاری از ابزارهای هوش مصنوعی مورد استفاده در بیمارستانهای آمریکا، از جمله مدلهای تشخیص سپسیس، بدون تأییدیه FDA فعالیت میکنند.
این صفحه خلاصه و تحلیل فارسی خبر را نمایش میدهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.
تحلیل تحریریه
ابعاد مهم خبر
چرا مهم است؟
نظارت ناکافی بر ابزارهای هوش مصنوعی در مراقبتهای بهداشتی میتواند منجر به تصمیمات نادرست بالینی، نابرابری در درمان و خطرات جانی برای بیماران شود.
عدم شفافیت در مورد اعتبارسنجی و تأییدیه این ابزارها، اعتماد عمومی به فناوریهای پزشکی را تضعیف میکند و میتواند باعث استفاده از مدلهای ناکارآمد یا مغرضانه شود.
علاوه بر این، شکاف بین سیاستگذاری و اجرا، توسعهدهندگان و کاربران را با عدم قطعیت مواجه میسازد و ممکن است مانع نوآوریهای مسئولانه در حوزه سلامت شود.
اثر کسبوکاری
بازار ابزارهای پشتیبانی تصمیمگیری بالینی (CDS) با ارزش ۴ میلیارد دلار، تحت تأثیر عدم شفافیت مقرراتی قرار دارد و ممکن است با چالشهای حقوقی و مالی روبرو شود.
شرکتهایی که ابزارهای تأییدنشده را عرضه میکنند، در معرض خطر اقدامات قانونی و از دست دادن اعتبار قرار دارند.
از سوی دیگر، شرکتهایی که موفق به دریافت تأییدیه FDA میشوند، میتوانند سهم بازار بیشتری کسب کنند و اعتماد مشتریان را جلب نمایند.
اثر احتمالی برای ایران
در ایران، استفاده از ابزارهای هوش مصنوعی در مراقبتهای بهداشتی در حال رشد است، اما عدم وجود چارچوبهای نظارتی واضح میتواند منجر به استفاده از ابزارهای غیرمعتبر و خطرات مشابه شود.
این خبر میتواند انگیزهای برای سیاستگذاران ایرانی باشد تا مقرراتی شفاف برای استفاده از هوش مصنوعی در حوزه سلامت تدوین کنند و از تجربیات بینالمللی برای جلوگیری از اشتباهات مشابه بهره ببرند.
ارتباط با LegalTech
این خبر بر اهمیت تنظیم مقررات دقیق برای ابزارهای هوش مصنوعی در حوزه سلامت تأکید میکند.
قانون Cures قرن ۲۱ و تغییرات بعدی در مقررات FDA نشان میدهد که چگونه سیاستهای ناکامل میتوانند منجر به شکافهای اجرایی شوند.
این موضوع میتواند برای حقوقدانان و متخصصان فناوری اطلاعات در حوزه سلامت، به عنوان یک مطالعه موردی برای بررسی چالشهای حقوقی و فنی در نظارت بر فناوریهای نوظهور باشد.
زاویه رسانه/کشور منبع
آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT (CSAIL) به عنوان یکی از پیشروترین مراکز تحقیقاتی در حوزه هوش مصنوعی، این خبر را با هدف برجستهسازی چالشهای نظارتی و نیاز به شفافیت در استفاده از ابزارهای هوش مصنوعی در مراقبتهای بهداشتی منتشر کرده است.
