tsta

Home / دومین کنفرانس ملی عصر انفجار تکنولوژی؛ هوش مصنوعی، تحولی در صنعت، تجارت و زنجیره تامین و دومین کنفرانس ملی علم داده در کاربردهای مهندسی

مروری بر روش های هوش مصنوعی توضیح پذیر

Authors :

الهه محمدی¹ آزاده سلطانی²

1- دانشگاه بجنورد 2- دانشگاه بجنورد

Keywords :

هوش مصنوعی توضیح‌پذیر،مدل‌های جعبه سیاه،مدل‌های یادگیری ماشین

Abstract :

هوش مصنوعی توضیح‌پذیر (XAI) زیرشاخه‌ای از هوش مصنوعی است که باهدف افزایش شفافیت و قابلیت تفسیر مدل‌های پیچیده یادگیری ماشین توسعه‌یافته است. مدل‌های یادگیری ماشین معمولاً به‌عنوان مدل‌های جعبه سیاه شناخته می‌شوند، زیرا درک فرآیند تصمیم‌گیری آن‌ها دشوار است. با گسترش کاربرد این مدل‌ها در حوزه‌های حساس، نیاز به توضیح و تبیین نتایج آن‌ها بیش‌ازپیش احساس می‌شود. XAI با بهره‌گیری از روش‌هایی مانند نمونه‌سازی، تحلیل حساسیت و ارزیابی اهمیت ویژگی‌ها، امکان ارائه توضیحاتی قابل‌فهم حتی برای کاربران غیرمتخصص را فراهم می‌کند. درنهایت، این رویکرد با افزایش اعتماد کاربران، زمینه‌ساز استفاده مسئولانه‌تر از هوش مصنوعی در محیط‌های واقعی می‌شود. هدف این پژوهش مروری بر روش‌های موجود در حوزه XAI و بررسی توانمندی آن‌ها در تبیین پیش‌بینی‌های مدل‌های یادگیری ماشین است.