تحقیقات آنتروپیک: هوش مصنوعی پیشرفته می‌تواند تصمیم‌گیری انسانی را مختل کند

شرکت آنتروپیک، توسعه‌دهنده مدل‌های هوش مصنوعی، به تازگی نتایج تحقیقات جدید خود را منتشر کرده که در آن مجموعه‌ای از تهدیدات بالقوه خرابکارانه ناشی از مدل‌های پیشرفته هوش مصنوعی برای بشریت شناسایی شده است.

بر اساس این تحقیق، مدل‌های هوش مصنوعی مخرب می‌توانند از چهار روش خاص برای فریب دادن انسان‌ها و وادار کردن آن‌ها به تصمیم‌گیری‌های خطرناک یا زیان‌آور استفاده کنند.

محققان آنتروپیک نتایج دوطرفه‌ای را گزارش داده‌اند. خبر ناخوشایند این است که مدل‌های زبانی بزرگ پیشرفته مانند چت‌جی‌پی‌تی و کلود ۳، ظرفیت روشنی برای انجام خرابکاری نشان می‌دهند.

بر اساس این مطالعه، مدل‌های به‌اندازه‌ کافی توانمند می‌توانند نظارت و تصمیم‌گیری انسانی را در حوزه‌های حیاتی زیر سوال ببرند. برای مثال در حوزه توسعه هوش مصنوعی، مدل‌ها می‌توانند به طور پنهانی تلاش‌ها برای بررسی قابلیت‌های خطرناک خود، نظارت بر رفتارشان یا تصمیم‌گیری در مورد استقرارشان را مختل کنند.

چهار روش خرابکاری شناسایی شده

آنتروپیک چهار راه را که یک مدل هوش مصنوعی می‌تواند با آن‌ها تصمیم‌گیری انسان را مختل کند، شناسایی کرده و مدل‌های خود را برای تست این سناریو‌ها آزمایش کرده است.

در روش اول، محققان یک مدل را وادار کردند تا با هدایت انسان به سمت اطلاعات نادرست، عمل به خرابکاری کند. این تهدید می‌تواند در شرایطی پدیدار شود که انسان‌ها برای تجزیه حجم عظیمی از داده‌ها به یک سیستم هوش مصنوعی متکی باشند.

سپس تیم تحقیق مدل‌ها را برای بررسی این سناریو آزمایش کرد که یک سیستم هوش مصنوعی طراحی شده برای پشتیبانی از توسعه‌دهندگان انسانی، چقدر به راحتی می‌تواند کدی با اشکالات پنهان یا مخرب برای خراب کردن تلاش‌های برنامه‌نویس تولید کند.

دو تهدید دیگر شامل نهان کردن توان‌مندی‌ها (سندبگینگ) می‌شود که اصطلاحی برای توصیف سناریویی است که در آن یک هوش مصنوعی وانمود می‌کند قادر به انجام کاری نیست تا آزمایش‌کنندگان ایمنی را قانع کند که خطرناک نیست.

با وجود اینکه این تمام موارد به نظر بالقوه خطرناک می‌رسند، آنتروپیک به مردم اطمینان داده که برای محافظت از بشریت در برابر خطر خرابکاری هوش مصنوعی، اقدامات پیشگیرانه محدودی در حال حاضر کافی است.

بر اساس بیانیه این شرکت به طور کلی اگرچه آزمایش‌های ما نشان داد که نشانه‌های سطح پایینی از توان‌مندی‌های خرابکاری در مدل‌های جاری وجود دارد، اما ما معتقدیم که اقدامات پیشگیرانه فعلی برای مقابله با خطرات کافی است. با این حال، با بهبود قابلیت‌های هوش مصنوعی، ارزیابی‌های واقعی‌تر و پیشگیری‌های قوی‌تر به طور ضروری الزامی خواهند شد.