هوش مصنوعی منجر به فاجعه هسته‌ای خواهد شد؟

به گزارش تجارت‌نیوز ، بر اساس نظرسنجی دانشگاه استنفورد، بیش از یک سوم از محققان بر این باورند که هوش مصنوعی (AI) می‌تواند منجر به فاجعه در سطح هسته‌ای شود که بر نگرانی‌های این بخش در مورد خطرات ناشی از این تکنولوژی که به سرعت در حال پیشرفت است، را برجسته‌تر می‌سازد.

به نقل از الجزیره ، این نظرسنجی از جمله یافته‌هایی است که در گزارش شاخص هوش مصنوعی 2023 منتشر شده توسط موسسه استنفورد برای هوش مصنوعی انسان محور، که آخرین پیشرفت‌ها، خطرات و فرصت‌ها را در زمینه این تکنولوژی در حال رشد و شکوفایی، بررسی می‌کند.

نویسندگان گزارش می‌گویند: «این سیستم‌ها قابلیت‌هایی را در پاسخ‌گویی به سؤالات و تولید متن، تصویر و کد و در بسیاری از معیارها، چه قدیمی و چه جدید، عملکرد بهتری دارند. آنچه که یک دهه پیش به هیچ عنوان تصور نمی‌شد، اکنون در حال اتفاق افتادن است».

با این حال، هوش مصنوعی مستعد دچار شدن به توهم است، به طور معمول مغرضانه عمل می‌کند ومی‌توان آن را فریب داد تا به پیشبرد اهداف نادرست و غیراخلاقی کمک کند و این مساله چالش‌های اخلاقی پیچیده در خصوص گسترش آن را بیشتر مورد توجه می‌دهد.

این گزارش که در اوایل ماه جاری منتشر شد، در بحبوحه درخواست‌های رو به رشد برای کنترل این تکنولوژی منتشر شد. پیش از آن بحث‌هایی از خودکشی در ارتباط با چت‌بات گرفته تا انتشار ویدیوهای جعلی ولودیمیر زلنسکی، رئیس‌جمهور اوکراین که در آن به نظر می‌رسید تسلیم نیروهای روسیه شده است، مطرح شده بود.

ماه گذشته، ایلان ماسک و استیو وزنیاک، بنیانگذار اپل، در میان 1300 امضاکننده نامه سرگشاده‌ای بودند که خواستار توقف ۶ ماهه آموزش سیستم‌های هوش مصنوعی فراتر از سطح ربات چت Open AI GPT-4 بودند، چرا که معتقد بودند سیستم های هوش مصنوعی قدرتمند فقط زمانی باید توسعه یابند که مطمئن هستیم که اثرات آنها مثبت و خطراتشان قابل کنترل خواهد بود.

در نظرسنجی که در گزارش شاخص هوش مصنوعی 2023 آمده است، 36 درصد از محققان گفتند که تصمیمات اتخاذ شده توسط هوش مصنوعی می‌تواند منجر به یک فاجعه در سطح هسته‌ای شود، در حالی که 73 درصد گفتند که به زودی این تکنولوژی می‌تواند به تغییر اجتماعی تحول‌آفرینی منجر شود.

این نظرسنجی از 327 متخصص در پردازش زبان طبیعی، شاخه‌ای از علوم کامپیوتر که کلید توسعه چت‌بات‌هایی مانند GPT-4 است، بین ماه‌های می تا ژوئن سال گذشته و قبل از انتشار ChatGPT Open AI در ماه نوامبر و تحت تاثیر قرار دادن دنیای تکنولوژی، انجام شد.

در نظرسنجی IPSOS که مردم عادی در آن شرکت کردند، آمریکایی‌ها نسبت به هوش مصنوعی محتاط به نظر می‌رسند و تنها 35 درصد از آنها معتقد بودند که محصولات و خدماتی که از هوش مصنوعی استفاده می‌کنند، مزایای بیشتری نسبت به معایب دارند. در مقام مقایسه 78 درصد از پاسخ‌دهندگان چینی، 76 درصد از پاسخ‌دهندگان در عربستان سعودی و 71 درصد از پاسخ‌دهندگان هندی بر این باور بودند.

گزارش استنفورد همچنین اشاره کرد که تعداد حوادث و جنجال‌های مرتبط با این تکنولوژی در دهه گذشته 26 برابر شده است.

وضع مقررات برای کنترل هوش مصنوعی

در این شرایط، اقدامات دولت برای وضع مقررات برای هوش مصنوعی و کنترل آن در حال افزایش است.

اداره فضای سایبری چین این هفته پیش‌نویس مقرراتی را برای هوش مصنوعی مولد، تکنولوژی پشت GPT-4 و رقبای داخلی مانند Tongyi Qianwen از علی بابا و ERNIE از بایدو اعلام کرد تا اطمینان حاصل شود که این تکنولوژی به سوسیالیسم پایبند است و دولت را تضعیف نمی‌کند.

اتحادیه اروپا «قانون هوش مصنوعی» را پیشنهاد کرده است تا مشخص کند که چه نوع هوش مصنوعی برای استفاده قابل قبول است و کدام یک باید ممنوع شود.

نگرانی عمومی در ایالات متحده در مورد هوش مصنوعی هنوز به مقررات فدرال تبدیل نشده است، اما دولت بایدن در این هفته شروع به مشاوره عمومی را در مورد چگونگی حصول اطمینان از اینکه این سیستم‌ها، قانونی، موثر، اخلاقی، ایمن و قابل اعتماد هستند، آغاز کرد.