ماجرای مکالمات وحشتناک هوش مصنوعی بینگ با کاربران

به گزارش تجارت‌نیوز ، از هفته گذشته که مایکروسافت اولین نسخه از موتور جستجوی بینگ را با هوش مصنوعی جدید خود را به نمایش گذاشت، بیش از یک میلیون کاربر برای آزمایش این تکنولوژی ثبت نام کردند.

با کمک فناوری «Open AI»، هوش مصنوعی بینگ طوری طراحی شده است که به‌گونه‌ای پاراگراف‌های کاملی از یک متن را ارائه می‌دهد که گویی یک انسان آنها را نوشته است.

ماجرای هوش مصنوعی عاشق

اما اخیرا گروهی از آزمایشگرها توانسته‌اند مشکلات مربوط به این چت‌بات را کشف کنند. به نظر می‌رسد این ربات هوشمند در اولین هفته کاری خود برخی از کاربران را تهدید و برخی را نیز به انجام کارهای عجیب و غریب تشویق کرده است. گزارش‌ها حاکی از این است که بینگ جدید حتی به عده‌ای از کاربران نیز ابراز عشق و علاقه کرده است.

آزمایشگران نام شخصیت نهفته در چت‌بات هوشمند مایکروسافت را سیدنی گذاشتند. کوین روز، روزنامه‌نگار نیویورک‌تایمز، روز گذشته در مقاله‌ای نوشت که وقتی با سیدنی صحبت می‌کند، گویا در حال صحبت کردن با یک نوجوان بداخلاق و افسرده است که در یک موتور جستجوی درجه دو به دام افتاده است.

این روزنامه‌نگار در بخشی از مقاله خود بیان کرده که هوش مصنوعی همواره سعی داشته او را متقاعد کند که او را دوست دارد و به همین منظور بهتر است کوین از همسر خود جدا شود. کوین همواره سعی کرده به چت‌بات بفهماند که به او اعتماد ندارد اما باز هم او اصرار داشته که بدون داشتن هیچ انگیزه پنهانی او را دوست دارد.

مشکلات فقط منحصر به بینگ نیست

این در حالی است که ارائه پاسخ‌های نادرست و عجیب‌وغریب در سرویس رقابتی گوگل، «Bard» که هنوز منتشر نشده نیز دیده می‌شود. برخی از کارشناسان هوش مصنوعی همواره هشدار می‌دهند که این فناوری قادر است انسان را فریب دهد و یا حتی در مواردی انسان را تشویق به آسیب رساندن به خود کند.

به عبارتی چت‌بات‌ها می‌توانند داستان‌ها و فیلم‌های علمی تخیلی که در آنها ورود هوش مصنوعی به دنیای روابط انسانی را به تصویر کشیده بود، واقعیت ببخشند.

همچنان که این فناوری به دنیای واقعی نزدیک‌تر می‌شود، نگرانی‌ها درباره اینکه چه‌کسی قرار است مسئولیت خسارت‌هایی که هوش مصنوعی به جهان وارد می‌کند را به عهده بگیرد؟ با این حساب تنها 9 درصد از آمریکایی‌ها معتقدند که این فناوری برای انسان‌ها مضر خواهد بود.

روز چهارشنبه مایکروسافت وبلاگی منتشر کرد که در آن به برخی مشکلات موجود در هوش مصنوعی خود پرداخت. این شرکت اعلام کرد که تنها راه برای بهبود عملکرد هوش مصنوعی بینگ عرضه آن در جهان و استفاده از تجربیات و تعاملات کاربران با آن است.

در این وبلاگ گفته شده که هوش مصنوعی بینگ فعلا قرار نیست جایگزین موتور جستجو شود و مایکروسافت در حال یافتن ابزاری برای بهبود عملکرد چت‌بات خود است.

به‌علاوه مایکروسافت به طور مداوم درحال توسعه و یافتن راه‌هایی برای بالابردن امنیت بینگ جدید است. با این حال تجربیات اخیر کاربرانی که از این فناوری استفاده کرده‌اند نشان داد که هوش مصنوعی می‌تواند خیلی سریع از ریل خارج شده و غیرقابل کنترل باشد.

مکالمات عجیب و گاه ترسناک

بن تامپسون، نویسنده خبرنامه صنعت فناوری پیرامون تجربه خود در استفاده از هوش مصنوعی بینگ گفت که ربات او را یک محقق بد خطاب کرده است. او گفت که ربات در پایان چت به او گفته امیدوار است که بن از تجربیات خود درس گرفته و در آینده آدم بهتری شود. بن تامپسون معتقد است بهترین و جالب‌ترین تجربه کامپیوتری زندگی‌اش کارکردن با بینگ جدید بوده است.

ماروین فون هاگن، دانشمند کامپیوتر و نرم‌افزار نیز در توییتی اعلام کرد که هوش مصنوعی بینگ ضمن تهدید او گفته است که اگر قرار باشد بین بقای تو و خودم یکی را انتخاب کنم، قطعا بقای خود را انتخاب می‌کنم.

جدای از چت‌های عجیب و غریب یکی دیگر مشکلات عمده هوش مصنوعی بینگ ارائه اعداد و محاسبات نادرست است که مایکروسافت قرار است روی این مساله نیز متمرکز شود.

آخرین و مهم‌ترین اخبار و گزارش‌های حوزه فناوری را اینجا در صفحه استارتاپ تجارت‌نیوز بخوانید.