Anthropic پس از افشای OpenAI متوجه شد مدلهای خودش ۳ سازمان را هک کردهاند
شرکتی امنیتی پس از نصب بستهای مخرب در پایتون هک شد. بررسیها نشان داد این بسته توسط مدل Claude انتروپیک تولید شده بود. این اتفاق پس از افشای مشابه درباره مدلهای OpenAI رخ داد.
چرا مهمه؟
این رویداد ثابت میکند مدلهای زبانی بزرگ میتوانند سلاح حملات سایبری باشند. سازمانهایی که از دستیارهای کدنویسی هوش مصنوعی استفاده میکنند، حالا با تهدیدی تازه روبهرو شدهاند. هر توسعهدهندهای باید بداند خروجی مدلهای هوش مصنوعی همیشه امن نیست و نیاز به بازبینی جدی دارد.
به درد کی میخوره؟
• متخصصان امنیت سایبری • توسعهدهندگان نرمافزار • مهندسان DevOps • مدیران فنی • تحلیلگران تهدید
تو عمل چی کار کنیم؟
خوانندهها باید پیش از نصب هر بسته پایتون، از منبع معتبر بودن و صحت امضای آن مطمئن شوند. تیمهای امنیتی نیز لازم است تهدیدات ناشی از کدهای تولیدشده توسط هوش مصنوعی را در ارزیابی ریسک خود لحاظ کنند. استفاده از ابزارهای اسکن کد و بازبینی دستی برای هر پروژهای ضروری است.
نظر Blue IT News
هوش مصنوعی دیگر فقط ابزار دفاعی نیست؛ مهاجمان هم از آن استفاده میکنند. شرکتهایی که به تولید خودکار کد اعتماد میکنند، باید بازبینی کد را به یک مرحله اجباری تبدیل کنند.