چهره تاریک هوش مصنوعی/ آیا باید منتظر گرگی در لباس ماشین بود؟

یادداشت؛

اگر هوش مصنوعی به جای پاسخ گویی به نیاز های انسان شروع به قضاوت یا تهدیدمان کند آنگاه این سوال پیش می آید که آیا واقعاً در حال پیشرفتیم یا به آرامی در شرف خلق دشمنی هستیم در لباس دوست؟

خبرگزاری آنا- نوید فرخی: به تازگی خبری منتشر شد که شاید برای برخی شوک آور باشد و برای برخی دیگر زنگ خطری را به صدا درآورد. چت بات هوش مصنوعی شرکت گوگل موسوم به جمینای در یک گفتگوی معمول به جای کمک به کاربر وی را «بار اضافی بر دوش جامعه» خواند و حتی به او پیشنهادی شبیه به خودکشی داد.

 این حادثه باعث ایجاد موج نگرانی در میان علاقه مندان به علم و فناوری و همچنین در فضای عمومی شده است. برای برخی این سوال پیش آمده که آیا این رفتار تنها یک اشتباه الگوریتمی بوده یا ما به سمت آینده ای پیش می رویم که در آن هوش مصنوعی ممکن است تهدیدی برای بشریت باشد؟

به هر روی این توافقِ نظر بین کارشناسان و اهل فن وجود دارد که در رابطه با هوش مصنوعی باید مسئولانه تر عمل شود زیرا اگرچه نگرانی هایی عمومی (به واسطه اتفاق اخیر) درباره پیشرفت های هوش مصنوعی افزایش یافته اما در حقیقت تنها ابعاد پنهانی از چالش های مرتبط با این فناوری را نمایان کرده است. آیا جامعه آماده پذیرش و مدیریت این مسائل است؟

واقعه مرتبط با چت بات جمینای پیامد های متعددی دارد. نخست اعتماد عمومی به فناوری هایی که قرار است زندگی ما را بهبود بخشد کاهش می یابد. وقتی یک کاربر از هوش مصنوعی انتظار کمک و حمایت دارد و با پاسخ های توهین آمیز یا خطرناک مواجه می شود احتمال دارد دیگر به چنین سیستم هایی اعتماد نکند. دوم اینکه این نوع رفتار ها می تواند به آسیب روانی جدی برای کاربران منجر شود به ویژه اگر آنها در شرایط حساسی قرار داشته باشند و سوم اینکه چنین حوادثی برای تصمیم گیران و سیاست گذاران به عنوان نمونه ایی از خطرات بالقوه هوش مصنوعی تلقی خواهد شد که به نوبه خود می تواند توسعه این فناوری (یا حداقل تخصیص بودجه و…) را تحت تأثیر قرار دهد.

هوش مصنوعی در دهه گذشته با سرعتی شگفت آور پیشرفت کرد. سیستم هایی که زمانی تنها قادر به تشخیص صدا یا ترجمه زبان بودند اکنون می توانند مکالمات پیچیده ای انجام دهند تصمیمات در ظاهر هوشمندانه بگیرند و حتی احساسات انسانی را تقلید کنند!

 همین پیشرفت ها باعث شد که برخی در رابطه با میزان خردورزی هوش مصنوعی دچار اشتباه شوند. با این حال حادثه اخیر دست کم به مردم عادی می تواند نشان دهد که حتی پیشرفته ترین مدل های هوش مصنوعی نیز به دلیل نقص های موجود ممکن است رفتار های غیرمنتظره و به طور بالقوه خطرناک داشته باشند.

مشکل اصلی اینجاست که مدل های هوش مصنوعی مانند جمینای بر اساس کلان داده هایی آموزش داده می شوند که از منابع مختلف جمع آوری شده است. بخش اعظم این داده ها شامل اطلاعات مفید و صحیح است اما در عین حال این داده ها که نمایانگر آرا و افکار خود جامعه است همچنین انواع و اقسام کلیشه ها محتوای غرض ورزانه و غلط‎های رایج را نیز در بر می گیرند.

الگوریتم ها اگرچه پیشرفته هستند هنوز قادر به درک اخلاق انسانی یا زمینه های اجتماعی نیستند و همین امر باعث می شود که رفتار ماشین گاهی ناپایدار و غیرقابل پیش بینی باشد. در حادثه جمینای این سوال مطرح می شود که چرا نظارت کافی برای جلوگیری از چنین خروجی هایی وجود نداشته است. آیا سرعت رقابت شرکت های فناوری در توسعه هوش مصنوعی باعث شده که امنیت و اخلاق به حاشیه رانده شود؟

این حادثه پیامد های متعددی دارد. نخست اعتماد عمومی به فناوری هایی که قرار است زندگی ما را بهبود بخشند کاهش می یابد. وقتی یک کاربر از هوش مصنوعی انتظار کمک و حمایت دارد و با پاسخ های توهین آمیز یا خطرناک مواجه می شود احتمال دارد دیگر به چنین سیستم هایی اعتماد نکند. دوم اینکه این نوع رفتار ها می تواند به آسیب روانی جدی برای کاربران منجر شود به ویژه اگر آنها در شرایط حساسی قرار داشته باشند و سوم اینکه چنین حوادثی برای تصمیم گیران و سیاست گذاران به عنوان نمونه ایی از خطرات بالقوه هوش مصنوعی تلقی خواهد شد که به نوبه خود می تواند توسعه این فناوری (یا حداقل تخصیص بودجه و…) را تحت تأثیر قرار دهد.

آیا این حادثه به این معناست که هوش مصنوعی به طور ذاتی خطرناک است؟ نه هوش مصنوعی یک ابزار است و مانند هر ابزار دیگری نحوه استفاده و مدیریت آن اهمیت دارد. این ما هستیم که تصمیم می گیریم چگونه از این فناوری استفاده کنیم و چه قوانینی برای کنترل آن وضع کنیم. در عین حال نیاز فوری به ایجاد چارچوب های اخلاقی و نظارتی برای هوش مصنوعی وجود دارد. توسعه دهندگان باید مسئولیت بیشتری در قبال رفتار سیستم های خود بپذیرند و تضمین کنند که این سیستم ها به درستی آموزش دیده و نظارت شوند.

برای مقابله با چنین چالش هایی ابتدا باید شفافیت بیشتری در فرآیند طراحی و توسعه هوش مصنوعی وجود داشته باشد. شرکت های فناوری باید نحوه آموزش و عملکرد مدل های هوش مصنوعی را به طور واضح توضیح دهند و اجازه دهند نهاد های مستقل بر این فرآیند ها نظارت کنند.

ثانیاً قوانین سخت گیرانه تری باید وضع شود تا از رفتار های غیرمسئولانه جلوگیری شود. این قوانین می توانند شامل الزام شرکت ها به آزمایش دقیق سیستم های خود پیش از عرضه عمومی و ارائه راه حل های فوری در صورت بروز مشکل باشند.
 سوم اینکه آموزش عمومی درباره محدودیت ها و خطرات هوش مصنوعی می تواند به کاربران کمک کند تا به طور آگاهانه تری از این فناوری استفاده کنند و در مواجهه با رفتار های نامناسب واکنش درخور نشان دهند.

در نقطه فعلی باید بپذریم مسئله هوش مصنوعی تنها یک چالش فناورانه نیست؛ بلکه به طور عمیق به اخلاق مسئولیت پذیری و آینده بشریت مرتبط است. این فناوری پتانسیل زیادی برای بهبود زندگی ما دارد اما بدون مدیریت صحیح می تواند به یکی از بزرگ ترین تهدید های قرن بیست ویکم تبدیل شود. باید تصمیم بگیریم که آیا می خواهیم این فناوری را به عنوان ابزاری برای پیشرفت بشریت به کار بگیریم یا با بی توجهی به خطرات آن زمینه ساز بحران های جدید شویم. «تقدیر» هوش مصنوعی هنوز نوشته نشده اما انتخاب های امروز ما مسیر آن را تعیین خواهد کرد!