KPMG pulls report on AI usage due to apparent hallucinations
شرکت خدمات حرفهای KPMG گزارشی با عنوان «بازتعریف برتری در عصر هوش مصنوعی عاملی» منتشر کرد. چند سازمان مثل UBS و سرویس سلامت بریتانیا ادعاهای این گزارش درباره استفاده خود از هوش مصنوعی را رد کردند. بررسیها نشان داد که گزارش با هوش مصنوعی نوشته شده و توهمات آن باعث اشتباهات شده است.
چرا مهمه؟
اعتبار گزارشهای حرفهای وابسته به هوش مصنوعی زیر سوال رفته. KPMG بهعنوان یکی از بزرگترین مؤسسات حسابرسی دنیا نشان داد که حتی آنها هم در استفاده از هوش مصنوعی خطا میکنند. کسبوکارهایی که به این گزارشها تکیه میکنند ممکن است تصمیمات نادرستی بگیرند. این ماجرا به همه یادآوری میکند که خروجی هوش مصنوعی بدون نظارت انسانی قابل اعتماد نیست.
به درد کی میخوره؟
• مدیران فناوری • مشاوران کسبوکار • پژوهشگران هوش مصنوعی • حسابرسان و حسابداران • خبرنگاران فناوری
تو عمل چی کار کنیم؟
این خبر به کسبوکارها یادآوری میکند که پیش از استفاده از گزارشهای تولیدشده با هوش مصنوعی، منابع و ادعاهای آن را دقیق بررسی کنند. سازمانها باید فرآیند تأیید انسانی را برای هر محتوای خودکار جدی بگیرند. همچنین میتوان از این اشتباه درس گرفت و خطمشی روشنی برای انتشار محتوای هوش مصنوعی تعریف کرد.
نظر BlueIT News
ماجرای KPMG زنگ خطری جدی برای همه سازمانهایی است که به سراغ تولید محتوا با هوش مصنوعی میروند. نظارت انسانی هنوز غیرقابل جایگزین است و اعتماد بیحد به هوش مصنوعی میتواند حتی بزرگترین برندها را هم زمین بزند.