هوش مصنوعی در سال های اخیر با سرعتی شگفت انگیز پیشرفت کرده و وارد همه بخش های زندگی انسان ها شده است؛ از پزشکی و آموزش گرفته تا اقتصاد و حتی سیاست. اما هر چه قدرت و نفوذ این فناوری بیشتر می شود، نگرانی ها درباره خطرات آن نیز افزایش پیدا می کند. به همین دلیل، اخیراً بیش از ۲۰۰ چهره برجسته جهانی شامل دانشمندان، برندگان نوبل، رهبران سیاسی و اندیشمندان مطرح، بیانیه ای منتشر کردند با عنوان تعیین خطوط قرمز هوش مصنوعی Global Call for AI Red Lines.
این بیانیه تأکید دارد که جامعه بین المللی باید تا پیش از سال 2026 به یک توافق الزامآور جهانی برسد تا مانع استفاده های خطرناک و بی ضابطه از هوش مصنوعی شود. از این رو در این مقاله این خبر را تحلیل می کنیم و آن را کاملا مورد بررسی قرار می دهیم تا افراد بتوانند استفاده ای تایید شده از آن داشته باشند.
چت جی پی تی پلاس یک دنیای از شگفتی
چرا خطوط قرمز برای هوش مصنوعی ضروری است؟
هوش مصنوعی، مثل هر فناوری قدرتمند دیگری، دو لبه دارد: می تواند دستاورد های عظیم برای بشر ایجاد کند یا به تهدیدی جدی تبدیل شود. برخی از مهم ترین نگرانی ها عبارتند از:
-
جعل هویت انسانی : سیستم های AI می توانند صدا، تصویر و متن را بهگونه ای بازتولید کنند که تشخیص آن از انسان واقعی سخت باشد. این مسأله به گسترش اخبار جعلی و کلاهبرداری دامن می زند. از این رو اگر کنترل نشود ممکن است سواستفاده های زیادی از آن ها شود و حریم خصوصی افراد زیادی به خطر بی افتد.
-
مدل های خودتکثیر شونده: برخی مدل های هوش مصنوعی قابلیت تکثیر و ارتقا بدون نظارت مستقیم انسان را دارند. چنین سیستمی می تواند از کنترل خارج شود. تصور کنید یک درصد برخی از این ابزار ها خودکفا شوند دنیا شبیه فیلم های علم تخیلی درگیر جنگ با ربات ها می شود!
-
کاربرد های نظامی: استفاده از هوش مصنوعی در سلاح های خودمختار می تواند آینده جنگ ها را به شدت خطرناک کند. و همین موضوع باعث می شود که افراد برای این موضوع احساس نگرانی کنند.
-
آسیب به حقوق بشر: از نظارت بی حد و حصر تا تبعیض الگوریتمی، همگی خطراتی هستند که بدون چارچوب قانونی می توانند جوامع را تحت فشار قرار دهند.
به همین دلیل است که رهبران علمی و اجتماعی جهان معتقدند باید مرزهای مشخصی برای هوش مصنوعی تعیین شود؛ مرزهایی که هیچ کشوری حق عبور از آنها را نداشته باشد. البته اگر خواستار عبور باشند که قطعا این کار را انجام می دهند اما باید خیلی جدی تر و قوی تر پیگیری شود.
ده چهره برجسته در میان ۲۰۰ امضاکننده
در میان ۲۰۰ امضا کنندهی این بیانیه، برخی افراد شهرت و نفوذ بیشتری دارند. نام این افراد باعث شده صدای این فراخوان بسیار بلندتر شنیده شود:
-
جفری هینتون (Geoffrey Hinton): از پدران شبکه های عصبی و برنده جایزه تورینگ، که به شدت نسبت به آینده AI هشدار داده است.
-
یوژویا بنجیو (Yoshua Bengio): یکی از پیشگامان یادگیری عمیق و استاد دانشگاه مونترال.
-
ماریا رسّا (Maria Ressa): روزنامه نگار و برنده جایزه صلح نوبل که همواره درباره خطرات اطلاعات نادرست هشدار داده است.
-
یووال نوح هراری (Yuval Noah Harari): نویسنده و متفکر برجسته که آینده فناوری و تأثیرات اجتماعی آن را بهطور گسترده تحلیل میکند.
-
استفن فرا (Stephen Fry): چهره فرهنگی و فعال اجتماعی که نفوذ زیادی در رسانهها دارد.
-
مری رابینسون (Mary Robinson): رئیسجمهور پیشین ایرلند و فعال حقوق بشر.
-
خوان مانوئل سانتوس (Juan Manuel Santos): رئیسجمهور سابق کلمبیا و برنده جایزه صلح نوبل.
-
جنیفر دودنا (Jennifer Doudna): زیستشناس و یکی از کاشفان فناوری CRISPR که اهمیت اخلاق در علم را بارها یادآور شده است.
-
دارون عجماوغلو (Daron Acemoglu): اقتصاددان معروف که بارها درباره خطرات نابرابری ناشی از فناوری هشدار داده است.
-
جورجیو پاریسی (Giorgio Parisi): فیزیکدان برنده نوبل که در زمینه پیچیدگی سیستمها شهرت جهانی دارد.
چالشهای پیشروی خطوط قرمز
تعیین خطوط قرمز هوش مصنوعی ساده نیست. کشور ها دیدگاه های متفاوتی دارند. آنچه برای یک کشور «غیرقابل قبول» است، ممکن است برای کشوری دیگر ابزاری حیاتی باشد. به عنوان مثال، برخی کشورها ممکن است از نظارت گسترده برای حفظ امنیت داخلی دفاع کنند، در حالی که دیگران آن را نقض آشکار حریم خصوصی بدانند.
همچنین اجرای چنین توافقی نیازمند نهاد های بینالمللی قوی است. اگر کشوری از قوانین تخطی کند، چه سازوکاری برای پاسخ وجود خواهد داشت؟ این پرسشی است که هنوز پاسخی روشن ندارد.
پیامدهای احتمالی این فراخوان
۱. افزایش فشار بر دولت ها: حضور چهره های معروف و رسانهای در این بیانیه باعث می شود دولت ها ناچار شوند سریع تر وارد عمل شوند.
۲. جهانی شدن بحث اخلاق AI: موضوعی که شاید پیش تر بیشتر میان متخصصان مطرح بود، اکنون به یک دغدغه عمومی و سیاسی تبدیل شده است.
۳. تسریع قانونگذاری: سازمان ملل و اتحادیه اروپا احتمالاً گامهای عملی برای تنظیم مقررات جهانی برخواهند داشت.
4. الهام برای پژوهشهای جدید: دانشگاه ها و مراکز تحقیقاتی بیشتر روی موضوعاتی مثل شفافیت الگوریتم ها، عدالت و حریم خصوصی کار خواهند کرد.