دیپ‌فیک (DeepFake) چی هست و چرا ترسناکه ؟


نویسنده : عرفان مولا
موضوع : پیشفرض
زمان انتشار : ۹ ماه پیش

توی این مقاله تصمیم گرفتم به یک مبحث نسبتا ترسناک توی حوزه فناوری بپردازم، مبحثی مهم و پیچیده به اسم DeepFake یا به اصطلاح "جعل عمیق"، این مبحث قرار نیست که فنی باشه [...]
دیپ‌فیک (DeepFake) چی هست و چرا ترسناکه ؟

خب سلام و طبق معمول خسته نباشید و این‌جور حرف‌ها، امیدوارم که حالتون خوب باشه

توی این مقاله تصمیم گرفتم به یک مبحث نسبتا ترسناک توی حوزه فناوری بپردازم، مبحثی مهم و پیچیده به اسم DeepFake یا به اصطلاح “جعل عمیق”، این مبحث قرار نیست که فنی باشه یا نیاز به دانش برنامه‌نویسی یا … داشته باشه و صرفا یک مقاله عمومی هستش که هرکسی می‌تونه مطالعه کنه (:

احتمالا بعد از خوندن این مقاله سعی می‌کنید هیچ اثری از عکس خودتون رو توی فضای مجازی منتشر نکنید

جعل عمیق (Deep Fake) چی هست ؟

عبارت Deep Fake ترکیبی از دو کلمه Deep Learning (یادگیری عمیق) و Fake (جعلی) هستش و تکنیکی هست برای ترکیب عکس های انسان‌ها و ایجاد تصاویر جعلی بر مبنای هوش‌مصنوعی و یادگیری ماشینی

این تکنولوژی به‌شدت ترسناک و مخوف هست و از نمونه های مهم‌اش می‌تونیم به فیلم های پورنوگرافی افراد معروفی اشاره کنیم که حتی روحشون هم خبر نداره از این قضیه ساختگی، حتی همین الان که دارید این مقاله رو می‌خونید احتمال این هست که یک سرویس جعل‌سازی در حال تولید فیلم پورنوگرافی شما باشه به طوری که خودتونم اگه ببینیدش شک کنید که این واقعا منم یا عقلمو از دست دادم (:

البته فناوری دیپ‌فیک انواع مختلفی داره و فقط به این مورد مربوط نمیشه و جلوتر چند تا مثال دیگه‌ای هم براتون می‌زنم که دیگه نیازی به Shave کردن نداشته باشید (:

چرا دیپ‌فیک (Deep Fake) خطرناک هست ؟

خب، امروز یکی از جمعه های خرداد‌ماه سال ۱۴۰۰ هستش و افراد واجد شرایط دارند آماده میشن که برن پشت صندوق های رای و به کاندیدای ریاست جمهوری منتخبشون رای بدند، همه‌چی داره به‌صورت عادی پیش میره و روال‌عادی‌اش رو طی می‌کنه تا اینکه یک کلیپ جنجالی توی سطح اینترنت منتشر می‌شه : “فیلم پخش شده فلان کاندیدا … ، زودی کلیک کن الان می‌پاکمش (:” ، از روی تمسخر می‌خندی و میگی اینا دیگه کی هستن، برا تبلیغ چنلشون چه چرت و پرت هایی می‌نویسن، میری آماده بشی که بری رای بدی که یهو می‌بینی کل تلگرام پر شده از اون تبلیغ، یک‌لحظه تعجب می‌کنی و از روی کنجکاوی روی لینک کلیک می‌کنی و وارد کانال میشی و می‌بینی که یک ویدیو هستش که توی عرض کم‌تر از یک‌ساعت، بصورت میلیونی View خورده، تو هم دانلودش می‌کنی و می‌بینی و شوکه میشی ! نظرت کاملا عوض میشه درمورد کاندیدای منتخب‌ات عوض میشه و تو هم این فیلم رو به بقیه دوستات میفرستی و میگی که اینو باش (: ، دوستاتم به دوستاشون میفرستن و همین روند ادامه پیدا می‌کنه و تا یک‌ساعت دیگه اون ویدیو حداقل ۱۰ میلیون بازدید داشته و کسی توی تلگرام نیست که ندیده باشه (:

جای جالب ماجرا اینجاست که اون کاندیدای مورد نظر حتی روحش هم خبر نداره از این قضیه ساختگی و این قضیه صرفا یک ویدیو DeepFake شده ساخته شده با هوش‌مصنوعی و یادگیری ماشینی (Machine Learning) هست توسط مخالفان اون کاندیدا که نتیجه‌اش هم احتمالا شرکت نکردن ۱۰ میلیون‌نفر در رای‌گیری یا مثلا تغییر رای ۱۰ میلیون نفر هستش ! یک ویدیو DeepFake ساختگی که در اثر اون و تاثیری که میزاره، مشخص کردن آینده یک کشور هست ! (:

نمونه هایی از ویدیو های Deep Fake

خب در ویدیو های زیر می‌تونید نمونه هایی از این ویدیو های سخته شده توسط تکنولوژی Deep Fake رو مشاهده کنید :

هیچکدام از موارد بالا، باراک اوباما نیستند و تمامی موارد بالا با هوش‌مصنوعی ایجاد شده (:
کاراکتر پرنسس در فیلم جنگ‌ستارگان (کاراکتر درگذشته است!)
کاراکتر تارکین در فلم جنگ‌ستارگان (کاراکتر درگذشته است!)
صحبت کردن مونالیزا (: اثری که فقط از روی یک عکس از یک نقاشی ایجاد شده !

اینها فقط نمونه‌های‌کوچکی از موارد ایجاد شده با تکنولوژی Deep Fake هستند، از تبلیغ دوغ عالیس یا بیسکویت های جوین گرجی توسط ترامپ تا فیلم پورن هر آیت‌اللهی که مد نظر دارید، می‌تونه نمونه های بعدی تکنولوژی Deep Fake باشه ! (:

نرم‌افزار Deep Nude ، حاصلی از Deep Fake

اگه اخبار فناوری رو دنبال کرده باشید احتمالا چند وقت پیش اسم نرم‌افزار Deep Nude رو شنیدید، مبحث مورد علاقه خیلی ها هستش این نرم‌افزار هایی با عنوان دوربین‌لخت‌کن و … (: این‌ها احتمالا تا به امسال نرم‌افزار های فیک و جعلی‌ای بیش نبودند ولی در سال ۲۰۱۹ با انتشار نرم‌افزار Deep Nude ثابت شد که نرم‌افزار های دوربین‌لخت‌کن دیگه اونقدر هم که به نظر می‌رسند محال نیستند ! نرم‌افزاری که بهش عکس صورت خانوم مورد نظرتونو می‌دادید و با استفاده از تکنولوژی Deep Fake و هوش‌مصنوعی، یک کاملا لخت و شبه‌واقعی براش تولید میکرد و به‌همدیگه می‌چسبوند و بهتون تحویل می‌داد ! بدن تولید شده توسط این هوش‌مصنوعی به‌قدری دقیق و شبه‌واقعی بود که حتی خود افراد هم گاهی شک می‌کردند که این عکس فیکه یا واقعیته ! بر اساس رنگ پوستتون و یادگیری ماشینی و سایر الگوریتم‌ها، یک بدن کاملا متناسب تحویل می‌داد (:

می‌دونم که الان ۹۰ درصد‌تون خوندن ادامه مقاله رو بیخیال میشید و میرید توی گوگل دنبال Deep Nude می‌گردید و با سایت های اسپم و … روبرو میشید، باید خدمتتون عرض کنم که این نرم‌افزار با توجه به پیش‌بینی هایی که شده بود، سیستم غیرفعال‌سازی اضطراری داشت و توی همون هفته اول انتشار اش بعلت جنجالی که بپا کرد و سوء استفاده هایی که ازش شد، توسط توسعه‌دهنده اش بصورت اضطراری، کاملا غیرفعال شد و حتی تکثیر اش هم ممکن نبود، تا به الان هم هیچ‌گاه فعال نشده و احتمالا هم دیگه فعال نخواهد شد، پس الکی دنبالش نگردید چون این نرم‌افزار اصلا به سطح اینترنت نرسید و همون چند نسخه اولیه‌اش هم که فروش رفت، توی DarkWeb انجام شد و همونجا جنجال به‌پا کرد و همونجا هم غیرفعال شد، در نتیجه انتظار نداشته باشید که مثل یه بچه ۱۲ ساله که تازه گوشی خریده و میره توی گوگل میزنه عکس لختی فلان بازیگر ایرانی، برای شما هم همچین نرم‌افزاری رو توی سطح وب قرار داده باشند و فعال باشه (:

این نرم‌افزار احتمالا جمع‌آوری شده از تکثیر و استفاده عمومی، ولی به این معنی نیستش که این نرم‌افزار جمع‌آوری شده یا همچین نرم‌افزاری وجود نداره و این امکان نیست که بتونیم از روی صورت یکی، تصویر لخت ازش تولید کنیم ! احتمالا توسعه‌دهنده‌اش علاوه‌بر استفاده های شخصی خودش، توسعه‌دهنده های زیادی رو هم تشویق به تولید همچین اپ هایی کرده، اپ هایی که حتی فکرشونم نمی‌کنید (((:

پ.ن : من خودم این نرم‌افزار رو استفاده نکردم و بهش دسترسی نداشتم ولی یکی از دوستانم که در حوزه امنیت فعالیت دارند (الان بهشون پیام دادم که دارم درموردت می‌نویسم و تاکید کردند که اسمشونو نیارم ~_~) توی دارک‌وب به این نرم‌افزار دسترسی پیدا کرده بودند دقیقا یک‌روز بعد از انتشار اش و تجربیات استفاده شون رو با ما به اشتراک گذاشتند و دیدیم که بله واقعیه و کرک و پرمون ریخت و اون آدم سابق نشدیم |:

چرا دیپ‌فیک ترسناکه ؟!

بصورت ساده میگم براتون، فرض کنید ازدواج کردید و بچه‌دار شدید و بچه‌تون داره میره مدرسه که توی راه مدرسه، یه آقایی میاد بهش یه USB میده و میگه من دوست باباتم، اینو ببر بده بابات، بچه‌تون میاد خونه و USB رو بهتون میده، وصل‌اش می‌کنید به لپتاب و ویدیویی که داخلش هست رو باز می‌کنید و با فیلم پورنوگرافی ۱۸ سالگی همسر وفادارتون مواجه میشید، زیبا نیست ؟ نه اصلا زیبا نیست ! احمقانه‌ترین ایده ممکن هست که توسط یک روانی که خصومت شخصی باهاتون داره طراحی شده اونم با عکسی از چهره ۱۸ سالگی همسرتون که حتی شاید توش حجاب هم داشته ! مهم فیگور چهره هستش که بشه ازش چند تا مدل polygonal دراورد و Deep Fake اش کرد ! یک ویدیوی ساختگی می‌تونه زندگی‌تونو به فنا بده ! اونوقت حالا بیا و ثابت کن که این ویدیو ساختگی هست !

موارد ترسناک خیلی زیاد هستش، مخصوصا الان که سال ۲۰۲۰ هست و عرصه هوش‌مصنوعی هست !

دوستان عزیزم، به فضای‌مجازی اعتماد نکنید و هیچوقت عکس واضح از خودتون یا عزیزان‌تون رو درون شبکه های اجتماعی منتشر نکنید ! خودتون رو بدبخت نکنید، من مطمئنم تا ۵ سال دیگه با داشتن یک عکس از چهره شما، می‌تونند شما رو Clone کنند (:

یک سوالی که خیلی‌ها این‌روز ها از من می‌پرسند یا منو مسخره می‌کنند این هستش که جدیدا توی عکس های پروفایل‌ات چشاتو خط میزنی یا روی صورتت ضربدر می‌کشی یا این افکت مسخره شطرنجی کردن عکس رو میزنی روی عکسات و کیفیتشونو پایین میاری، نکشیمون خفن |:

اینم احتمالا منم (:

این موارد بخاطر جلوه‌بصری عکس یا … نیست و صرفا جهت دشوار/ناممکن کردن احتمال Deep Fake روی عکس هست (:

حالا ما خوشبختانه اینیستاگیرام نداریم (چرا نداریم ؟) و فقط روی تیلیگیرام که Open Source هست فعالیت می‌کنیم و عکس میزاریم، حالا اونایی که توی اینستاگرام که Close Source هستش عکس میزارن رو تصور کن (:

شما هم سعی کنید هیچ عکس واضحی از خودتون رو توی فضای‌مجازی منتشر نکنید چون دنیا داره به سمت خطرناکی پیش‌میره و تو اون یک‌روز من خودم با چشم خودم دیدم که دوست عزیزم چه پارتی‌ای گرفته بود با عکساتون (((:

نتیجه‌گیری

خب در نتیجه بچه خوبی باشیم و هر روز یک لیوان شیر بخوریم (آخه شنیدم آدمو قوی می‌کنه) و بعد از اینکه قوی شدیم (: ، عکسامونو سعی کنیم توی شبکه های اجتماعی منتشر نکنیم و بخاطر ۱۰۰ تا لایک چند تا پسر از روی هوس‌شون، عکسای کاملا واضح و فول‌اچ‌دی از خودمون و بدنمون رو توی اینستاگرام و تیک‌تاک و Likee و بقیه دوستاشون به اشتراک نزاریم و بزاریم بعضی جاهای بدنمون Private بمونه، سریع Public اش نکنیم و حتی Switch to business هم نکنیم، اگه هم هنرمند هستیم، بخاطر آثارمون Switch to creator کنیم نه بخاطر عکس خودمون (:

بصورت خلاصه سعی کنید عکس واضحی از خودتون توی شبکه های مجازی منتشر نکنید چرا که دیگه ۲۰۲۰ هست و هیچ تضمینی نیست که عکسی که شما امروز میزاری پروفایل‌ات رو فردا یکی بصورت فیلم برا خونوادت نفرسته (:

همیشه سعی کنید قبل از اینکه دنیای واقعیتونو توی دنیای‌مجازی به اشتراک بزارید، به این فکر کنید که مردم چه اطلاعاتی از شما رو می‌تونند بدست بیارن از طریق این عکس (: ، یکی از دوستام که توی حوزه امنیت اطلاعات ایران فعالیت داره، تعریف می‌کرد که با ۱۶ تا عکس اینستاگرامی از یک فرد که توی خونه‌اش گرفته بود از نما های مختلف(که احتمالا بالای ۲۰۰ تا پست داشت) تونسته بودند شماتیک خونه طرف رو بازسازی کنند و بصورت کامل و ۳D و بعدش خیلی راحت مکان‌یابی کنند و بقیه ماجرا (:

خلاصه مواظب باشید که چه اطلاعاتی از خودتون رو توی دنیای‌مجازی به اشتراک میزارید و سعی کنید توی پیام‌رسان های متن‌بسته(Close Source) خاطره تعریف نکنید، تعریف هم می‌کنید جذاب و بحث‌انگیز باشه که دست‌اندرکاران اون پیام‌رسان هم لذت ببرند و براشون جالب باشه (:

شاد و خوش و خرم و سلطان و سلیم و بلبل و سنبل چیشد ، موفق باشید (:

آیا مقاله برای شما مفید بود ؟

خیر

0

تقریبا

0

بله

2

برای ثبت نظر باید وارد حساب کاربری خود شوید
رای شما با موفقیت ثبت شد
متاسفانه خطایی در ثبت نظر رخ داد

Iran Developers Telegram Group

نظرات کاربران


نظری موجود نیست , اولین نظردهنده باشید !

نکات ارسال نظرات

نظرات فینگلیش به هیچ عنوان تایید نخواهند شد

هنگام نوشتن نام و ایمیل معتبر خود را وارد نمایید

در دیدگاه هایتان از الفاظ مناسب استفاده کنید

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *