چالشهای جعل عمیق در سینما و موسیقی تهدید حریم خصوصی هنرمندان با هوش مصنوعی, به تعبیر یک نوجوان ایرانی، نهایت بهرهگیری ما از هوش مصنوعی در پیروی از صدای هایدِه خلاصه شده است. این بیان تلخ، واقعیت موجود را به درستی توصیف میکند؛ بهویژه در شرایطی که در سایر کشورها پیشرفتهای هوش مصنوعی در ابعاد گوناگون زندگی مورد بررسی و دقت جدی قرار گرفته است.
در چند سال اخیر، بهرهگیری بیقاعده و صرفاً سرگرمکننده از هوش مصنوعی، موجی از محتوای غیرواقعی را در فضای مجازی دامن زده است.
جعل چهره و صدای بازیگران ابزاری برای فریب قابلیتهای نوین هوش مصنوعی امکان ساخت تصاویر، فیلمها و صداهای جعلی را فراهم آورده است. چالشهایی که ریشهیابی مصطلح دیپفیک در دسته اخبار جعلی یا را میسر کرده است. در تکنولوژی دیپفیک، با سوءاستفاده از عکس یا صدای افراد، نسخهای جعلی تدوین میشود. صدایی که آن فرد هرگز بیان نکرده، یا ویدیو و عکسی از او ساخته میشود که در آن حضور نیافته است.
محتواها را میبینند و میشنوند و ماندگاری بیشتری در ذهن مخاطب ایجاد میکنند.
علاوه بر این، اشتراکگذاری و انتشار گسترده این محتواها باعث میشود که حذف کامل آنها از بستر اینترنت gần از محال باشد و با یک جستجوی ساده همچنان قابل دسترس بمانند. نمونه بارز این پدیده، انتشار عکس جعلی احسان علیخانی در کنار مهلقا باقری، دستکاری تصاویر الناز شاکردوست بر تخت بیمارستان با جایگزینی چهره ترانه علیدوستی، و همچنین سوءاستفاده از چهره و صدای خسرو شکیبایی در مراسم افتتاحیه جشنواره فیلم فجر است.
این موارد نمونههایی از بهرهبرداری زرد و نامناسب از تکنولوژی هوش مصنوعی محسوب میشوند. احسان علیخانی در واکنش به این موضوع، در استوری اینستاگرام خود نوشت عاشق انگیزه و دل خوش این رفقا هستم…
با انتشار ویدیویی در فضای مجازی، از نحوه همانندسازی پدرش انتقاد کرد و بیان داشت که با او و مادرش هیچ تماسی برای کسب رضایت گرفته نشده است.
او تأکید کرد که اگر صداقت و امانتداری در تولید این محتوا رعایت میشد، اثری مقبولتر و محترمانهتر خلق میگردید. چگونه اثری جعلی را تشخیص دهیم؟ با وجود رواج گسترده جعل صدا و تصویر – از پیروی از صدای هایدِه و پاشایی گرفته تا تغییر چهره بازیگران – مهمترین آسیب ناشی از سوءاستفاده از هوش مصنوعی، نقض حریم خصوصی و خدشه دار کردن شخصیت هنری و اجتماعی افراد است.
افرادی برای سرگرمی، محتوایی میسازند که وجود شخص مورد نظر در آن مکان یا موقعیت را القا میکند، در حالی که او هرگز با پای خود به آنجا نرفته است. با این حال، هوش مصنوعی ابزاری در دست انسان است و با دقت و آگاهی میتوان از جعلی بودن محتوا پی برد. در ادامه روشهای کاربردی برای شناسایی دیپفیکها آورده شده است ۱. بزرگنمایی و بررسی جزئیات بسیاری از تصاویر تولیدشده توسط هوش مصنوعی در نگاه اول کاملاً واقعی به نظر میرسند.
بنابراین اولین قدم، بررسی عکس با بیشترین وضوح و زوم کردن روی جزئیات است. بزرگ کردن تصویر، ناهماهنگیها و خطاهایی را آشکار میکند که در نگاه اول قابل تشخیص نیستند. ۲. ردیابی منبع عکس در صورت شک در اصالت یک عکس، باید تلاش کرد منبع اولیه آن شناسایی شود. مطالعه نظرات کاربران در بخش کامنتها یا انجام جستجوی معکوس تصویر از طریق ابزارهایی مانند Google، یا میتواند به یافتن منبع اصلی و بررسی اعتبار خبر در رسانههای معتبر کمک کند.
۳. دقت در تناسب اندام آیا افراد در عکس دارای تناسب اندام صحیح هستند؟ تصاویر هوش مصنوعی اغلب در این زمینه دچار خطا میشوند؛ مانند دستهای ناگهان کوچک یا بزرگ، انگشتان اضافه یا کم، یا عدم تناسب سر و پا با بقیه بدن. برای مثال در یک تصویر جعلی از پوتین، کفش فرد زانوزده بهصورت نامتناسبی بزرگ و پهن به نظر میرسید و گوشها و سر نیز با بدن تناسب نداشتند. ۴.
آگاهی از اشتباهات رایج هوش مصنوعی دستها همچنان چالشبرانگیزترین بخش برای موتورهای تولید تصویر مانند یا هستند. مواردی نظیر داشتن شش انگشت، انگشتان غیرطبیعی بلند، دندانهای بیش از حد، عینکهای با فرمهای عجیب، گوشهای با اشکال غیرواقعی، و مشکلات در رندر کردن کلاهها یا یقهها از علائم جعلی بودن تصویر هستند.
نکته مهم هنری آژدر، متخصص هوش مصنوعی، هشدار میدهد که نسخههای جدیدتر این ابزارها در رندر کردن دستها پیشرفت قابلتوجهی داشتهاند؛ بنابراین تکیه بر تنها این نشانهها برای تشخیص در درازمدت قابل اعتماد نیست. ۵. بررسی واقعگرایی و بینقصی مصنوعی موتورهایی مانند تمایل دارند تصاویری ایدهآل، براق و بیش از حد کامل تولید کنند.
آندریاس دنگل از مرکز تحقیقات هوش مصنوعی آلمان میگوید چهرهها بیش از حد خالص، پوستها بینقص و عاری از هرگونه آفت، موها و دندانها بیعیب، و لباسها بیش از حد هماهنگ به نظر میرسند. این ویژگیها در زندگی واقعی ندیده گرفته میشوند. حتی عکاسان حرفهای در استودیو نیز دچار مشکل میشوند تا چنین تصاویر ایدهآل و پرزرقوبرقی ثبت کنند. ۶. تحلیل پسزمینه پسزمینه عکس میتواند شواهد جعلی بودن را فاش کند.
تکرار اجسام (مثل چراغهای خیابان) در یک کادر، محو یا تار بودن مصنوعی پسزمینه، و عدم جزئیات منطقی در محیط اطراف، از نشانههای رایج تصاویر تولیدشده توسط AI هستند. نتیجهگیری اگرچه در حال حاضر بسیاری از دیپفیکها با کمی تحقیق قابل شناسایی هستند، اما تکنولوژی به سرعت در حال پیشرفت است و پیشبینی میشود در آینده نزدیک تشخیص آنها دشوارتر گردد.
راهکار حقوقی و پناهگاه متضررین تا کنون قوانین مربوط به هوش مصنوعی در ایران، بستر قانونی مناسبی برای شکایت و پیگیری متضررین از جعل دیپفیک فراهم نکرده است، بهویژه که در اکثر موارد هویت سازنده محتوا ناشناس باقی میماند. در مقابل، بریتانیا، اتحادیه اروپا و آمریکا از سالها پیش به تدوین و اجرای قوانین الزامآور در حوزه هوش مصنوعی اقدام کردهاند.
پیش از این معاونت علمی، فناوری و اقتصاد دانشبنیان ریاست جمهوری از آغاز مطالعات تطبیقی برای تدوین قوانین هوش مصنوعی در ایران خبر داده بود، هرچند خروجی عملی از این فرآیند هنوز محقق نشده است. امروز اگر عکس جعلی شما در کنار افراد ناشناس در فضای مجازی گردش کند، عملاً قادر به مهار انتشار آن نخواهید بود.
آیا این پدیده مخرب فرهنگی به حد کافی هشداردهنده نیست که تدوین سازوکارهای قانونی موثر برای مقابله با آن را ضروری و فوری سازد؟
