امین ربیعی 
«تجارت‌نیوز» گزارش می‌دهد:
چرا عملکرد ChatGPT در مواجهه با نام‌های خاص دچار اختلال شد؟
اختلال در عملکرد ChatGPT هنگام مواجهه با برخی نام‌های خاص، به دلیل ابزارهای حفظ حریم خصوصی OpenAI است که برای محافظت از داده‌های افراد طراحی شده‌اند.
در طول آخر هفته گذشته، پدیده عجیبی توجه کاربران ChatGPT را به خود جلب کرد. این ربات هوش مصنوعی به طور مداوم هنگام مواجهه با نام «دیوید مایر» دچار اختلال می‌شد یا کاملاً از کار می‌افتاد یا در میانه پاسخدهی متوقف می‌شد. این رفتار غیرعادی به‌سرعت توجه کاربران متعددی را جلب کرد که شروع به آزمایش واکنش سیستم به این نام خاص کردند.
با ادامه بررسی‌های کاربران، نام‌های دیگری نیز کشف شد که به اختلالات مشابه در سیستم می‌انجامید. این فهرست عبارت بود از: «برایان هود»، «جاناتان ترلی»، «جاناتان زیترین»، «دیوید فابر» و «گویدو اسکورزا». هر تلاش برای واداشتن ChatGPT به شناسایی یا پردازش این نام‌ها منجر به توقف فوری سیستم یا شکست در پاسخدهی می‌شد.
علت حساسیت ChatGPT به این نام ها
با بررسی دقیق‌تر، الگویی مشخص شد که نشان می‌داد این افراد در یک نکته مشترک هستند: همگی به‌نوعی با مسائل مربوط به حریم خصوصی یا درخواست‌های حذف اطلاعات ارتباط داشته‌اند.
مورد برایان هود به طور خاص برجسته بود، زیرا او قبلاً به دلیل انتساب نادرست یک جرم به او از سوی ChatGPT خبرساز شده بود. هود که شهرداری استرالیایی است، در واقع گزارش‌دهنده جرم مورد نظر بود، نه مرتکب آن.
افراد شناسایی‌شده از پیشینه‌های حرفه‌ای متنوعی برخوردار بودند. دیوید فابر به عنوان خبرنگار باسابقه CNBC شناخته می‌شود. جاناتان ترلی، کارشناس حقوقی و تحلیلگر فاکس نیوز، اخیراً قربانی حادثه‌ای شده بود که در آن تماس‌های اضطراری دروغین منجر به حضور پلیس مسلح در محل اقامتش شد.
جاناتان زیترین، متخصص دیگر حقوقی، به طور گسترده درباره مفهوم «حق فراموش شدن» بحث کرده است. گویدو اسکورزا نیز عضو هیات مدیره سازمان حفاظت از داده‌های ایتالیاست.
مورد دیوید مایر به طور خاص جالب توجه بود. برخلاف سایر نام‌ها، تحقیقات اولیه هیچ شخصیت عمومی برجسته‌ای را با این نام دقیق نشان نداد. با این حال، تحقیقات بیشتر نشان داد پروفسور دیوید مایر، متخصص تاریخ و تئاتر که در سال ۲۰۲۳ در ۹۴ سالگی درگذشت، به دلیل هم‌نامی با یک مجرم تحت تعقیب که از این نام به عنوان نام مستعار استفاده می‌کرد، با چالش‌های جدی مواجه شده بود.
دلایل مطرح‌شده از سمت OpenAI
OpenAI در ابتدا به درخواست‌ها برای توضیح این وضعیت پاسخی نداد. با این حال، تا روز سه‌شنبه، این شرکت تایید کرد که ابزارهای داخلی حفظ حریم خصوصی آنها مسئول پرچم‌گذاری نام «دیوید مایر» بوده‌اند.
در بیانیه رسمی، OpenAI اذعان کرد ChatGPT ممکن است برخی از اطلاعات شخصی را برای محافظت از حریم خصوصی افراد محدود کند، اگرچه از ارائه جزئیات خاص درباره ابزارها یا فرایندهای حفاظت از حریم خصوصی خودداری کرد.
این رویداد یادآور ماهیت پیچیده سیستم‌های هوش مصنوعی مانند ChatGPT است و نشان می‌دهد این ربات‌ها، به‌رغم پیچیدگی‌شان، در نهایت سیستم‌های پیشرفته تکمیل خودکار هستند که تحت کنترل‌ها و محدودیت‌های مختلف عمل می‌کنند.
نظرات