«ابزار تشخیص هوش مصنوعی متا حتی با یک برش ساده در تصویر فریب میخورد»
متا ابزار تشخیص هوش مصنوعی خود را معرفی کرد که هدفش شناسایی تصاویر تولید شده توسط مدلهای این شرکت بود. اما یک برش کوچک در تصویر هم کافی شد تا این سیستم نتواند تشخیص دهد و تصویر را واقعی نشان دهد. حتی در مواردی که تصویر توسط همان متا ساخته شده بود، این نقص آشکار شد.
چرا مهمه؟
ابزار تشخیص AI متا دیگر نمیتونه بهدقت تصویرهای دستکاری شده را شناسایی کند؛ این تغییر باعث شد تا اعتماد به فناوریهای تشخیص تقلب کاهش یابد. شرکتهای تولید محتوا، پلتفرمهای رسانهای و کاربران نهایی که برای تشخیص اصالت تصویرها وابسته بودند، تحت تأثیر این نقص قرار گرفتند. چون تشخیص تقلب در تصاویر برای جلوگیری از گمراهی عمومی و حفظ اعتبار محتوا حیاتی است، این خبر برای همه مهم است.
به درد کی میخوره؟
• متخصصان امنیت دیجیتال • توسعهدهندگان AI • مدیران محتوا و رسانه • پژوهشگران تشخیص تصویر
تو عمل چی کار کنیم؟
با دانستن این نقص، میتوان از ابزارهای تکمیلی یا روشهای دستی برای بررسی اصالت تصویر استفاده کرد. شرکتها میتوانند سیاستهای داخلی برای ارزیابی صحت تصاویر تنظیم کنند و کاربران نهایی با نگاه دقیقتر به جزئیات تصویر، احتمال فریب را کاهش دهند.
نظر Blue IT News
متا باید الگوریتم تشخیص را بهروز کند؛ در غیر این صورت رقبای امنیتی میتوانند بهسرعت از این ضعف بهرهبرداری کنند.