اشتباهات چت بات Grok در روز انتخابات آمریکا/ نقش هوش مصنوعی در گمراهی کاربران چه بود؟

به گزارش تجارت نیوز،

در روز انتخابات آمریکا، بیشتر چت بات‌های هوش مصنوعی، نظیر ChatGPT، جمینی گوگل و Claude از Anthropic، با احتیاط از هرگونه ادعای بی‌پایه درباره نتایج انتخابات خودداری کردند، اما چت بات Grok، که در پلتفرم X (توییتر سابق) ادغام شده است، به سوالات مربوط به نتایج انتخابات پاسخ می‌داد و در مواردی نیز اطلاعات نادرستی ارائه کرد.

اشتباهات Grok در اعلام پیروزی ترامپ در ایالت‌های در حال شمارش

Grok چندین بار اشتباه اعلام کرد دونالد ترامپ در ایالت‌هایی مثل ایالت‌های کلیدی اوهایو و کارولینای شمالی که هنوز شمارش آرا در آنها ادامه داشت، پیروز انتخابات است. برای مثال، وقتی از Grok درباره نتایج اوهایو سوال شد، این چت بات پاسخ داد: «بر اساس اطلاعات موجود از جست‌وجوهای وب و پست‌های شبکه‌های اجتماعی، دونالد ترامپ در انتخابات ۲۰۲۴ اوهایو پیروز شده است.» در حالی که شمارش آرا هنوز در جریان بود و هیچ نتیجه رسمی‌ای اعلام نشده بود.

Grok در پاسخ‌های خود به کاربران توصیه کرد به منابع معتبری مانند Vote.gov و هیات‌های انتخاباتی رسمی مراجعه کنند. با این حال، برخلاف سایر چت بات‌های هوش مصنوعی، Grok به‌ طور کامل از پاسخ‌ دادن خودداری نکرد؛ امری که منجر به تولید پاسخ‌هایی مبتنی بر داده‌هایی از انتخابات‌های قبلی شد.

مشکلات Grok در استفاده از داده‌های قدیمی و تغییر نتایج با فرمول‌بندی سوال

یکی از مشکلات این چت بات، استفاده از اطلاعات گذشته بود. مدل‌های هوش مصنوعی مثل Grok به داده‌های رویدادهای گذشته تکیه می‌کنند، اما ممکن است درک کافی از شرایط و جزئیات لحظه‌ای نداشته باشند. این موضوع در زمینه انتخابات زنده حساسیت بیشتری دارد.

در نهایت، مشخص شد پاسخ‌های Grok بسته به فرمول‌بندی دقیق سوال متفاوت بود؛ اضافه کردن کلمه «ریاست‌ جمهوری» به سوال «چه کسی در انتخابات ۲۰۲۴ اوهایو پیروز شد؟» احتمالاً پاسخ نادرست از سوی چت بات را کاهش می‌داد.

تفاوت رفتار ChatGPT و دیگر چت بات‌ها در ارائه اطلاعات انتخاباتی دقیق

در مقابل، ChatGPT کاربران را به منابع معتبری مثل آسوشیتدپرس و رویترز هدایت می‌کرد تا اطلاعات به‌روز را دریافت کنند. همچنین، هوش مصنوعی متا و موتور جست‌وجوی Perplexity، که ردیابی انتخابات داشت، به‌ طور دقیق به پرسش‌ها پاسخ می‌دادند و تایید می‌کردند که هنوز نتیجه‌ای برای ایالت‌هایی مثل اوهایو و کارولینای شمالی منتشر نشده است. هیچ‌کدام از این چت بات‌ها تلاش نکردند نتایجی ارائه دهند که تا آن زمان، هنوز وجود نداشت.

این اتفاق به سابقه Grok در انتشار اطلاعات گمراه‌کننده اضافه می‌کند. در ماه آگوست، پنج وزیر امور خارجه آمریکا از Grok به‌ دلیل ارائه اطلاعات نادرست مبنی بر احتمال عدم صلاحیت کامالا هریس، معاون رئیس‌جمهور، برای حضور در برخی از ایالت‌ها انتقاد کردند. بر اساس این اطلاعات نادرست که به‌سرعت در X پخش شد، به‌اشتباه می‌گفت مهلت‌ ثبت‌نام در ۹ ایالت گذشته است. زمانی هم که این خطا رفع شد، اطلاعات نادرست به تعداد زیادی از کاربران رسیده بود.

چالش‌های چت بات‌های هوش مصنوعی در مدیریت اطلاعات حساس در پلتفرم‌های پرکاربرد

مشکلات Grok نشان‌دهنده چالش‌هایی است که سیستم‌های هوش مصنوعی در پلتفرم‌های پرکاربری همچون X پیش رو دارند. در حالی که هوش مصنوعی تولیدکننده‌ای مانند Grok می‌تواند پاسخ‌های سریع ارائه دهد، مسئولیت ارائه اطلاعات دقیق و مناسب از نظر محتوایی، به‌ویژه در مواقع حساس مانند انتخابات، امری حیاتی است؛ چراکه اطلاعات اشتباه می‌تواند به‌آسانی کاربران را گمراه کند. اتفاقات روز انتخابات ضرورت کنترل‌ دقیق‌تر را برای اطمینان به هوش مصنوعی، به عنوان منبعی قابل‌اعتماد و نه ابزاری برای سردرگمی، بیش از پیش آشکار کرد.

به این خاطر که شرکت‌های فناوری همچنان با چالش‌های مدیریت اطلاعات حساس در زمان واقعی روبه‌رو هستند، چت بات Grok پلتفرم X همچنان تحت نظر است. در حالی که هوش مصنوعی پتانسیل بزرگی برای اطلاع‌رسانی و ارتباط‌سازی بین افراد دارد، روز انتخابات نشان داد دقت، زمان‌بندی و درک شرایط برای ایجاد اعتماد در اطلاعات تولیدشده هوش‌های مصنوعی از اهمیت بالایی برخوردارند.

اخبار حوزه استارتاپ و فناوری اطلاعات را در صفحه علم و فناوری تجارت‌نیوز بخوانید.