توسعه هوش مصنوعی را متوقف کنید

به گزارش تجارت‌نیوز ، رهبران جهان فناوری در حالی طی نامه سرگشاده‌ای خواستار توقف توسعه هوش مصنوعی پیشرفته‌تر از chatgpt-4 شده‌اند که در ۲۱ مارس هم بیل گیتس طی یادداشتی، خارج شدن هوش مصنوعی از کنترل انسان‌ها را محتمل دانسته بود.

پیشرفت openAI در ساخت chatgpt-4 باعث شده تا انسان‌نمایی این تکنولوژی موجب هراس شده و خطری برای جامعه قلمداد شود. این نامه‌ سرگشاده توسط مؤسسه آینده زندگی (Future of Life) منتشر شده و در آن از آزمایشگاه‌های هوش مصنوعی خواسته‌ شده تا توسعه مدل‌های پیشرفته‌تر از GPT-4 را برای شش ماه متوقف کنند.

چرا رهبران فناوری از توسعه هوش مصنوعی می‌ترسند؟

ماسک و دیگر دانشمندان و رهبران فناوری باور دارند که سیستم‌های هوش مصنوعی معاصر در حال تبدیل شدن به رقبای انسان‌ها در انجام وظایف عمومی هستند و می‌گویند که باید از خود بپرسیم: آیا باید به ماشین‌ها اجازه دهیم کانال‌های اطلاعاتی ما را از تبلیغات و داده‌های نادرست پر کنند؟

آنها سوالات دیگری را هم مطرح می‌کنند: آیا باید انسان‌ها را از مشاغل مختلف کنار بگذاریم؟ آیا باید ذهن‌های غیرانسانی را توسعه دهیم که ممکن است در نهایت از تعداد منابع انسانی کارآمد پیشی گرفته و جایگزین انسان‌ها شوند؟ آیا باید در خطر از دست دادن کنترل تمدن انسانی قرار بگیریم؟

در ادامه این نامه آمده است: توقف توسعه نسل بعدی و پیشرفته‌تر chatgpt باید قابل اثبات باشد. اگر چنین توقفی به سرعت اعمال نشود، دولت‌ها باید دخالت کرده و این تعلیق را موقتا اعمال کنند.
ضمن اینکه آزمایشگاه‌های هوش مصنوعی و کارشناسان مستقل باید از این توقف استفاده کنند تا پروتکل‌های ایمنی مشترکی برای طراحی و توسعه هوش مصنوعی پیشرفته ایجاد شود. همچنین کارشناسان مستقل باید بر فرایند توسعه هوش مصنوعی نظارت داشته باشند.

البته این به معنای توقف کلی توسعه هوش مصنوعی نیست بلکه نوعی عقب‌گرد از رقابت خطرناک برای توسعه مدل‌های غیرقابل پیش‌بینی هوش مصنوعی است.

خطرات عمیق هوش مصنوعی برای جامعه و بشریت

رهبران فناوری و چهره‌های دانشگاهی در بیانیه خود آورده‌اند که سیستم‌های هوش مصنوعی، خطرات عمیقی برای جامعه و بشریت به همراه دارد. آنها معتقدند که تحقیق و توسعه هوش مصنوعی باید روی ساختن سیستم‌های قدرتمند و پیشرفته امروزی دقیق‌تر، ایمن‌تر، قابل تفسیرتر، شفاف‌تر، قوی‌تر، همسوتر، قابل اعتمادتر و وفادارتر باشد.

قابل ذکر است که موسسه آینده زندگی، در زمینه توسعه مسئولانه هوش مصنوعی فعالیت می‌کند و قبلا از ایلان ماسک و آزمایشگاه هوش مصنوعی DeepMind متعلق به گوگل خواسته‌ بود که هرگز سیستم‌های تسلیحاتی خودران مرگبار را توسعه ندهند.

چت جی پی تی و بزرگترین رشد در تاریخ

اوایل ماه مارس بود که GPT-4 منتشر شد و آتش دغدغه‌های اقشار مختلفی در سراسر جهان را شعله‌ور کرد. ولی کمتر کسی فکرش را می‌کرد که دانشمندان و رهبران جهان فناوری به صف منتقدان این نسل از تکنولوژی بپیوندند.

چت جی پی تی 4 تنها دو ماه پس از راه‌اندازی، بیش از 100میلیون نفر از سراسر جهان کاربر جذب کرد که سریع‌ترین رشد در تاریخ فناوری محسوب می‌شود. حالا با پاسخ‌هایی که به کاربران می‌دهد، نگرانی‌های عمیقی ایجاد کرده است.

GPT-4 پیشرفت‌های محسوسی نسبت به نسل قبل از خود دارد و می‌توان گفت که انسان‌ها از آنچه به دست خودشان ساخته‌اند، می‌ترسند؛ اینکه شغل‌شان را از دست بدهند، ترس شکست‌خوردن در موقعیت‌های مختلفی چون آزمون‌های ورودی دانشگاه‌ها و… کما اینکه ۱۵ ماه مارس بود که openAI اعلام کرد: چت جی پی تی 4 می‌تواند ۹۰درصد انسان‌ها را در آزمون SAT شکست دهد. ست یکی از دو آزمون استاندارد برای ورود به دانشگاه در آمریکا محسوب می‌شود.

این فناوری بر روی حجم عظیمی از داده‌های موجود در اینترنت آموزش داده شده و تاکنون برای خلق همه چیز از شعر ساختن به سبک ویلیام شکسپیر گرفته تا پیش‌نویس نظرات حقوقی در مورد پرونده‌های قضایی استفاده شده است. اما متخصصان اخلاق در حوزه هوش مصنوعی در مورد سوءاستفاده‌های احتمالی از این فناوری، مانند سرقت ادبی و ارائه داده‌های نادرست، بسیار نگران هستند.

متولد ماه مارس

مارس در اساطیر رومی، خدای جنگاوری است و با رنگ سرخ شوالیه‌گونه‌اش، نماد جنگ‌جویی و پیکار شمرده می‌شود. حالا ماه مارس 2023 را تاریخ فناوری هیچگاه فراموش نخواهد کرد.

‌می‌توان دنیای تکنولوژی را به قبل و بعد از ماه مارس و تولد chatgpt-4 تقسیم کرد. یعنی زمانی که این جنگجوی ترسناک با زبانی سرخ به جنگ با انسان‌ها آمده است. پیش‌بینی می‌شود که مشاغل را تصرف کند و در آزمون‌ها انسان‌ها را پشت سر بگذارد.

حالا دیگر تولد این چت بات هوش مصنوعی یک مبدا تاریخی است. تاریخی که غرور انسان را لکه‌دار کرده و این احتمال وجود دارد که انسان‌ها به دست هوش مصنوعی حذف شوند.

از زمانی که در ۱۱ جولای سال ۲۰۱۸ راه‌اندازی شد، تاکنون شش نسخه از آن منتشر شده است؛ هر کدام با کارایی بیشتر و خصایص انسانی پیشرفته‌تر و البته ترسناک‌تر.

موتور رشد این هیولای تکنولوژی توقف‌ناپذیر جلوه می‌کند و به همین دلیل، رهبران فناوری این رشد دیوانه‌وار را به مسابقه‌ای خطرناک تشبیه کرده‌اند که باید متوقف شود.