tsta

Home / دومین کنفرانس ملی عصر انفجار تکنولوژی؛ هوش مصنوعی، تحولی در صنعت، تجارت و زنجیره تامین و دومین کنفرانس ملی علم داده در کاربردهای مهندسی

حریم خصوصی کاربران در الگوریتم‌های یادگیری ماشین: تهدیدها و راهکارها

Authors :

لیلا سامان آذری¹

1- دانشگاه تبریز

Keywords :

امنیت مدل‌های هوش مصنوعی،حریم خصوصی تفاضلی،حریم خصوصی داده‌ها،حملات حریم خصوصی،یادگیری ماشین

Abstract :

در سال های اخیر، گسترش چشمگیر کاربرد الگوریتم‌های یادگیری ماشین در حوزه‌های مختلف، باعث افزایش وابستگی این الگوریتم‌ها به داده‌های شخصی کاربران شده است. این موضوع نگرانی‌های جدی در زمینه حفظ حریم خصوصی کاربران ایجاد کرده و موجب شده است توجه پژوهشگران به این حوزه جلب شود به نحوی که مطالعات متعددی در زمینه تهدیدهای مرتبط با حریم خصوصی و روش‌های مقابله با آن‌ها صورت گرفته است. علی‌رغم مزایای قابل توجه مدل‌های یادگیری ماشین، ساختار این الگوریتم‌ها به گونه‌ای است که می‌توانند منجر به افشای اطلاعات خصوصی شوند. مقاله حاضر به مرور نظام‌مند منابع علمی معتبر در این حوزه و دسته‌بندی تهدیدها و راهکارهای مقابله با آن‌ها می‌پردازد. در این راستا، بیش از ۳۰ مقاله علمی منتشرشده بین سال‌های ۲۰۱۴ تا ۲۰۲۵ بررسی و ۱۵ مقاله کلیدی انتخاب شده‌اند. یافته‌های این مطالعه در چهار دسته اصلی از تهدیدها شامل حمله استنتاج عضویت، وارونگی مدل، حملات کانال جانبی و مسموم‌سازی داده‌ها سازمان‌دهی شده است. همچنین روش‌های مقابله مانند حریم خصوصی تفاضلی و یادگیری فدرال بررسی شده و میزان کارایی هرکدام مقایسه شده است. نتایج حاصل نشان می‌دهد که هیچ‌یک از روش‌ها به‌تنهایی قادر به رفع تمامی تهدیدها نیستند و استفاده ترکیبی از چندین راهکار می‌تواند رویکرد مؤثرتری برای حفاظت از حریم خصوصی در سیستم‌های یادگیری ماشین فراهم آورد. یافته‌های این پژوهش می‌تواند راهنمایی برای پژوهشگران و توسعه‌دهندگان سیستم‌های هوشمند در جهت طراحی مدل‌های امن‌تر باشد.