دانشمندان هوش مصنوعی خواستار عمل درمورد خطرهای این فناوری شدند_بام وطن

این محققان هشدار دادند پیشرفت حاصل شده از زمان اولین اجلاس ایمنی هوش مصنوعی در «بلچلی پارک» انگلیس که ۶ ماه پیش برگزار شده می بود تا بحال ناکافی بوده است. در آن زمان رهبران جهان متعهد به اداره مسئولانه امور مربوط به هوش مصنوعی شدند. اکنون در حالی که زمان برگزاری دومین اجلاس ایمنی هوش مصنوعی در سئول کره جنوبی روزهای ۲۱ و ۲۲ مه (اول و دوم خرداد) فرا رسیده است، ۲۵ تن از دانشمندان برجسته هوش مصنوعی در جهان می‌گویند عمل کافی برای محافظت از مردم در برابر خطرهای این فناوری انجام نشده است.

این دانشمندان در یک مقاله اجماعی که روز قبل در نشریه ساینس انتشار شد، برتری‌های سریع سیاست‌گذاری برای عمل رهبران جهان به منظور رویارویی با تهدیدات ناشی از فناوری‌های هوش مصنوعی را اشکار کردند.

پروفسور فیلیپ تور از دانشکده علوم مهندسی دانشگاه آکسفورد و از نویسندگان این مقاله خاطرنشان کرد: جهان در اجلاس قبلی در این خصوص به توافق رسید که ما نیازمند عمل هستیم؛ اما اکنون زمان آن است که از پیشنهادهای مبهم به سمت تعهدات ملموس و واقعی حرکت کنیم. این مقاله پیشنهاد‌های مهمی را در این خصوص اراعه می‌دهد که دولت‌ها و شرکت‌ها باید متعهد به انجام چه اقداماتی شوند.

بنا به نوشته مولفان این مقاله، رهبران جهان باید این گمان را جدی بگیرند که سامانه‌های هوش مصنوعی جامع (generalist) زیاد قوی که در تعداد بسیاری حوزه‌های مهم از توانمندیهای انسانی فراتر می‌رود، در دهه جاری یا دهه آینده تشکیل خواهند شد. آنان می‌گویند هر چند دولت‌ها در سراسر جهان در حال او گفت و گو درمورد هوش مصنوعی پیشرو بوده و کوششهایی برای معارفه برخی خط‌مشی‌های راهنما کرده‌اند؛ این مساله با گمان پیشرفت سریع و متغیرکننده مورد انتظار تعداد بسیاری کارشناسان مشابه نیست.

اکنون فقدان تحقیقات جدی درمورد ایمنی هوش مصنوعی وجود دارد؛ طوری که تنها ۱ تا ۳ درصد از مقالات تحقیقی در این حوزه با مساله ایمنی ربط دارد. این چنین سازکارها و نهادهای ملزوم برای جلوگیری از سوءاستفاده‌ از هوش مصنوعی وجود ندارد.

این کارشناسان و دانشمندان از کشورهای چین، آمریکا، اتحادیه اروپا، انگلیس و دیگر کشورها، یک خواست سریع برای عمل در این عرصه نقل کرده‌اند. این مقاله اولین مثالای است که این چنین گروه بزرگ و بین‌المللی از کارشناسان در خصوص برتری‌های ملزوم برای سیاست‌گذاری جهان در ربط با خطرهای ناشی از سامانه‌های پیشرفته هوش مصنوعی توافق کرده‌اند.

این دانشمندان به دولت‌های جهان پیشنهاد کرده‌اند اقداماتی در عرصه تاسیس نهادهای کارشناسی عمل سریع برای نظارت بر هوش مصنوعی و برسی جدی خطر با پیامدهای اجرایی انجام بدهند. این چنین از شرکت های حوزه هوش مصنوعی بخواهند به مساله ایمنی برتری و نشان دهند سامانه‌های آنها قادر به تشکیل صدمه نیستند. این محققان این چنین پیشنهاد کرده‌اند دولت‌ها استانداردهایی در خصوص افت خطرهای مشابه با سطح ریسک ناشی از سامانه‌های هوش مصنوعی اجرا کنند.

هم اکنون هوش مصنوعی در حال پیشرفت سریع در حوزه‌های حیاتی همانند هک، دست‌کاری اجتماعی و برنامه‌ریزی راهبردی است و گمان دارد به زودی چالش‌های بی‌سابقه‌ای تشکیل کند.