Amazon CEO reportedly raised Anthropic model concerns before government crackdown
مدیرعامل آمازون، اندی جسی، به مقامات آمریکایی گفته که مدلهای آنتروپیک میتوانند برای حملات سایبری به کار روند. دولت آمریکا هم صادرات دو مدل قدرتمند آنتروپیک را ممنوع کرد. آنتروپیک میگوید این قابلیتها در مدلهای دیگر هم وجود دارد.
چرا مهمه؟
این خبر نشان میدهد که نگرانیهای امنیتی درباره مدلهای قدرتمند هوش مصنوعی جدیتر از چیزی است که تصور میشد. سرمایهگذار بزرگ یک شرکت (آمازون) خودش نگرانیها را به دولت گزارش کرده. این یعنی حتی شرکتهایی که روی این فناوری سرمایهگذاری کردهاند هم از خطرات آن میترسند. برای کاربران عادی هم مهم است چون مشخص میکند مدلهای هوش مصنوعی تا چه حد میتوانند خطرآفرین باشند و دولتها چطور میخواهند جلوی آن را بگیرند.
به درد کی میخوره؟
• مدیران و متخصصان امنیت سایبری • قانونگذاران و سیاستگذاران حوزه فناوری • سرمایهگذاران و تحلیلهای هوش مصنوعی • توسعهدهندگانی که با APIهای آنتروپیک کار میکنند • کاربران حرفهای هوش مصنوعی
تو عمل چی کار کنیم؟
اگر از مدلهای آنتروپیک استفاده میکنید، شاید بهزودی دسترسی به برخی قابلیتها محدود شود. شرکتهایی که روی این مدلها اپلیکیشن ساختهاند باید جایگزین پیدا کنند. همچنین این خبر زنگ خطری است برای همه فعالان حوزه هوش مصنوعی که امنیت را جدی بگیرند و منتظر مقررات سختگیرانهتر باشند.
نظر BlueIT News
این ماجرا نشان میدهد که دوران خودتنظیمگری در هوش مصنوعی تمام شده. دولتها وارد عمل شدهاند و حتی بزرگترین سرمایهگذاران هم نگراناند. به شرکتهای فعال در این حوزه توصیه میکنیم قبل از اینکه قوانین آنها را غافلگیر کند، استانداردهای امنیتی را پیشدستی کنند.