Human-in-the-Loop: Email Approval Workflows for Agents
Nylas برای افزایش امنیت عاملهای ایمیلی مبتنی بر هوش مصنوعی، قابلیت جدیدی معرفی کرده. در این روش، ایمیلهای تولیدشده توسط مدل زبانی ابتدا بهصورت پیشنویس درمیآیند و فقط بعد از تأیید یک انسان ارسال میشوند. اشتباهات رایج مثل تخفیفهای ساختگی یا پاسخ به ترد اشتباه با این روش جلوگیری میشود.
چرا مهمه؟
با این قابلیت، فرآیند ارسال ایمیل توسط هوش مصنوعی تغییر کرده. پیش از این، مدلهای زبانی مستقیم ایمیل میفرستادند و اشتباهاتشان جبرانناپذیر بود. حالا توسعهدهندهها میتونن یک لایه تأیید انسانی بین مدل و مشتری بذارن. کسبوکارهایی که از چتبات یا ایمیل خودکار استفاده میکنن، دیگه نگران پاسخهای اشتباه نیستند. پیشبینی میشه این الگو به استاندارد جدیدی برای امنیت عاملهای هوش مصنوعی تبدیل بشه.
به درد کی میخوره؟
• توسعهدهندگان نرمافزار • تیمهای DevOps • مدیران محصول پشتیبانی مشتریان • مهندسان هوش مصنوعی • متخصصان امنیت
تو عمل چی کار کنیم؟
خواننده میتونه از این الگو برای ساخت سامانه پشتیبانی ایمیلی استفاده کنه که هوش مصنوعی پیشنویس جواب رو مینویسه و انسان تأیید میکنه. خطر ارسال ایمیلهای اشتباه با این روش کم میشه و تجربه مشتری بهتر میشه. همچنین با قوانین خروجی Nylas میشه لایه امنیتی بیشتری اضافه کرد.
نظر BlueIT News
Blue IT News تأکید میکنه که لایه تأیید انسانی به تنهایی کافی نیست؛ حتماً از قوانین خروجی سمت سرور هم استفاده کنید تا اگر کد شما خطا داشت، پشتیبان عمل کنه.