# Memory Poisoning in Agentic RAG: The Attack Nobody Is Defending Against
سیستمهای RAG عاملیتدار با ذخیره تجربیات گذشته کار میکنند، اما همین قابلیت به نقطه ضعف امنیتی تبدیل شده. محققان دو نوع حمله مسمومسازی حافظه را شناسایی کردهاند که از طریق فایلهای بهظاهر بیخطر یا گفتگوی عادی کاربر صورت میگیرد. دفاعهای فعلی پس از بازیابی اطلاعات عمل میکنند و هنوز راهی برای تشخیص آلودگی هنگام ذخیرهسازی وجود ندارد.
چرا مهمه؟
تا پیش از این، سیستمهای RAG از پایگاه دانش ثابت استفاده میکردند، اما نسخههای عاملیتدار خاطرات پویا میسازند و به آنها اعتماد میکنند. مهاجمان با سوءاستفاده از این اعتماد، میتوانند رفتار عامل را تغییر دهند. توسعهدهندگان و کاربران این سیستمها باید بدانند که حافظه مدل به راحتی قابل دستکاری است و هنوز دفاع کاملی برای آن وجود ندارد.
به درد کی میخوره؟
• محققان امنیت هوش مصنوعی • مهندسان یادگیری ماشین • توسعهدهندگان سیستمهای RAG • مدیران فنی محصولات مبتنی بر عامل
تو عمل چی کار کنیم؟
خواننده با خواندن این خبر میتواند نسبت به آسیبپذیری سیستمهای خود آگاه شود و اقدامات پیشگیرانه مانند محدود کردن دسترسی به حافظه و استفاده از مکانیزمهای اعتبارسنجی را در اولویت قرار دهد. همچنین توصیه میشود تا ارائه دفاعهای قطعی، از استقرار سیستمهای عاملیتدار در محیطهای حساس خودداری شود.
نظر BlueIT News
از نگاه Blue IT News، مشکل اصلی عدم وجود مکانیزم تشخیص آلودگی در لحظهی نوشتن حافظه است. تا زمانی که این شکاف بسته نشود، استقرار سیستمهای RAG عاملیتدار در مقیاس وسیع ریسک امنیتی بالایی دارد.