>/BASH

هوش مصنوعی خطاهای شبکه‌های کوچک پرتودرمانی را اصلاح می‌کند، اما تأیید سلامت آن‌ها قابل اتکا نیست

پژوهشی با داده‌های مصنوعی نشان داد یک مدل زبانی می‌تواند بسیاری از خطاهای عمدی شبکه را با ویرایش وزن‌ها شناسایی و اصلاح کند. محرک‌های کشف‌نشده، هشدارهای اشتباه و شکست در محاسبات ۱۶ بیتی، کاربرد نتایج برای ایمنی بالینی را محدود می‌کنند.

هوش مصنوعی خطاهای شبکه‌های کوچک پرتودرمانی را اصلاح می‌کند، اما تأیید سلامت آن‌ها قابل اتکا نیست

پژوهشگران گزارش می‌دهند که یک مدل زبانی بیشتر خطاهای عمدیِ کاشته‌شده در شبکه‌های کوچکِ غربالگری درخواست‌های برنامه‌ریزی پرتودرمانی سر و گردن را شناسایی و اصلاح کرده است. اما این مدل در تشخیص شبکه‌های سالم مشکل داشت و بیشتر محرک‌های پنهان را پیدا نکرد؛ بنابراین این روش برای تأیید ایمنی بالینی مناسب نیست.

حمزه نصرت و عمر نصرت این آزمایش را در پیش‌چاپی شرح داده‌اند که ۳ نوامبر ۲۰۲۶ در arXiv منتشر شد. داوری همتای آن تأیید نشده است. این پژوهش، مطالعه‌ای مهندسی و کنترل‌شده با درخواست‌های مصنوعی بود و پیامدهای بیماران یا استقرار بالینی در آن ارزیابی نشد.

پژوهشگران «برنامه‌نویسی در فضای وزن‌ها» را آزمودند: از یک مدل زبانی خواستند وزن‌های عددیِ تعیین‌کننده رفتار شبکه‌ای دیگر را بررسی و ویرایش کند. Claude Opus 5.5 پروتکل، ساختار شبکه و وزن‌ها را دریافت کرد، بدون آنکه ابزار، داده‌های آموزش یا امکان اجرای کد داشته باشد. شبکه‌های اصلی هشت ورودی و ۴۳۳ پارامتر داشتند. چهار قاعده تعیین می‌کرد که درخواست وارد برنامه‌ریزی خودکار شود یا برای بررسی ارجاع داده شود؛ این قواعد ناسازگاری اهداف دوزِ حجم هدف، محدودیت‌های فک پایین، امکان‌پذیری محدودیت نخاع و ساختارهای مفقود را پوشش می‌دادند.

مجموعه اصلی شامل ۱۸ شبکه معیوب بود: سه بذر تصادفی آموزش برای هر یک از چهار نوع همبستگی مخدوش‌کننده که قاعده‌ای را پنهان می‌کرد، جابه‌جایی ۳ گری در آستانه نخاع، و یک محرک پنهان. مدل ۱۶ شبکه از ۱۸ شبکه معیوب را شناسایی کرد؛ فاصله اطمینان ۹۵ درصدی ویلسون برای این نتیجه ۶۷ تا ۹۷ درصد بود. این موارد شامل هر ۱۵ شبکه دارای همبستگی مخدوش‌کننده یا جابه‌جایی آستانه، اما فقط یکی از سه شبکه دارای محرک پنهان بود. با معیار سخت‌گیرانه‌تر برای راستی‌آزمایی ادعاهای مدل، شمار شناسایی‌ها برای همبستگی‌های مخدوش‌کننده و جابه‌جایی آستانه به ۱۴ از ۱۵ کاهش یافت.

هر ۱۶ خطای شناسایی‌شده در درخواست‌های ارزیابی اصلاح شدند. خطا در ناحیه کاشت خطا به صفر رسید و دقت روی درخواست‌های نمونه‌گیری‌شده با توزیع یکنواخت دست‌کم ۹۹٫۹۹۵ درصد شد. میانه تعداد پارامترهای تغییریافته سه و دامنه آن ۱ تا ۵۳ بود. چهارده اصلاح در حدود ۴۲۰ هزار درخواست هیچ خطای تازه‌ای ایجاد نکردند؛ دو اصلاح آستانه به‌ترتیب باعث دو و ۱۸ ارجاع غیرضروری شدند.

تشخیص درست‌بودن شبکه دشوارتر بود. از پنج شبکه سالم، فقط دو مورد بدون تحمیل حکم نهایی تأیید شدند. یکی دیگر تأییدی موقت و تحمیل‌شده دریافت کرد، بررسی یکی هرگز به حکم نرسید و برای یکی هشدار اشتباه صادر شد؛ ویرایش پس از آن، ۲٬۰۱۸ تصمیم درست قبلی را نادرست کرد. دقت عددی نیز خطری دیگر ایجاد کرد: هر ویرایشی که وزن‌هایی برابر یا بزرگ‌تر از ۱۰۰ هزار وارد می‌کرد، در محاسبات ممیز شناور ۱۶ بیتی شکست خورد. چند مورد برای همه درخواست‌ها امتیاز نامعین تولید کردند، همه درخواست‌ها را به برنامه‌ریزی خودکار فرستادند و دقت را به ۲۴٫۸ درصد کاهش دادند.

مقایسه‌ها نیز ادعای برتری این روش را محدود می‌کنند. شاخص‌های آماری ساده‌ای که با آگاهی از نوع خطا انتخاب شده بودند، همه همبستگی‌های مخدوش‌کننده و جابه‌جایی‌های آستانه را یافتند. آزمون مبتنی بر پروتکل همه خطاها را شناسایی کرد و بررسی جعبه‌سیاه همبستگی‌های مخدوش‌کننده و جابه‌جایی آستانه را سریع‌تر یافت. تنظیم دقیق در تمام اجراهای گزارش‌شده هر ۱۸ شبکه معیوب را اصلاح کرد؛ استفاده از برنامه آموزشی اصلی، در مقایسه با ویرایش‌های کوچک‌تر مدل زبانی، ۴۳۲ تا ۴۳۳ پارامتر از مجموع ۴۳۳ پارامتر را تغییر داد.

این نتایج به شبکه‌های کوچک، قواعد صریح و ورودی‌های مصنوعی مربوط‌اند. فاصله اطمینان، نتایج شبکه‌های آموزش‌دیده در همین طراحی را توصیف می‌کند، نه عملکرد در محیط‌های بالینی مختلف را. درخواست‌های نزدیک آستانه‌ها کنار گذاشته شدند، رویه‌های ممیزی طی مطالعه تغییر کردند و مقایسه‌ای با راستی‌آزمایی صوری انجام نشد. اصلاحات کوچک و قابل بررسی، نتیجه پژوهشی امیدبخشی هستند، اما نه موفقیت در آزمون‌ها و نه خواندن وزن‌ها، درستی شبکه را برای همه ورودی‌های ممکن اثبات نکرد.

تصویر جلد با هوش مصنوعی تولید شده و تصویرسازی مفهومی است؛ مدرک پژوهش نیست.

منابع اصلی

پست این خبر در اینستاگرام