Deepfake

Audio deepfake yaratmaq üçün təqlid əsaslı səs yaratma diaqramı

Mətndən nitq alqoritmdən və insanın real nitqinin audio yazılarının kompüterdə istifadə etməklə həmin şəxsin səsini “saxta” etmək mümkündür. Audio deepfake belə yaradılır. Bu texnologiyadan istifadə etməklə filmləri lokallaşdırarkən aktyorların səsini uyğunlaşdırmaq, nitq qabiliyyətini itirmiş insanlar üçün təbii nitq yaratmaq, valideynlərin səsində uşaqlar üçün audio kitablar oxumaq, nitqi müəyyən vurğuya uyğunlaşdırmaq, real video avatarlar, səsli köməkçilər yaratmaq mümkündür. Bu texnologiya ilə şəxsləri aldatmaq, gözdən salmaq və ya yanlış məlumat vermək üçün də istifadə edilə bilər.

Deepfake süni intellektə əsaslandığı üçün qabaqcıl texnologiyadır. Hədəf edilən şəxsin bütün hərəkətlərini, mimikalarını və üz cizgilərini ən incə detalına qədər araşdıra bilir və danışıq tərzini öyrənir. Bu, yaradılmış nüsxəni müvafiq xüsusiyyətlərə malik şəxsin üzərinə yerləşdirməyi asanlaşdırır. Yəni hədəfə çevrilən insanın daha əvvəl heç olmadığı bir mühitdə olduğu göstərilə bilər. O, yersiz açıqlamalar verdiyi üçün şübhə altına düşə bilər və bir çox qruplar və şəxslər tərəfindən hədəfə alına bilər. Bu, çaşqınlıqlara, anlaşılmazlıqlara və hətta hüquqi cəzalara səbəb ola bilər. Xüsusilə tanınan insanlar bu texnologiyaya görə ictimaiyyət tərəfindən kənarlaşdırıla və ya sosial təzyiqə məruz qala bilərlər. Süni intellekte əsaslanan Deepfake texnologiyasının film sektorunda işləri asanlaşdıracağı gözlənilsə də, reallığa çox bənzəyən saxta videolar hazırlaması işləri qəlizləşdirdi. "Deepfake" texnologiyası fotodan reallığa yaxın, danışan, gülən qeyri-real videolar hazırlamağa imkan yaradır. Həmçinin, bir videodakı danışığı tamamilə dəyişə bilir. Film, televiziya sektorunda əhəmiyyətli olsa da, pis məqsədlə istifadə oluna biləcəyini nəzərə alsaq, risk daşıyır.[3]

Cinayətkarlar qurbanları öz tələlərinə salmaq üçün məşhurları təqlid etmək üçün yaradılmış şəkillərdən istifadə edərək sosial mühəndislik texnikalarından istifadə edirlər. Məsələn, İlon Maskın şübhəli kriptovalyuta investisiya sxemindən yüksək gəlirlər vəd edən deepfake videosu sürətlə yayılaraq istifadəçilərin pul itirməsinə səbəb oldu. Fırıldaqçılar bu kimi saxta videolar yaratmaq üçün məşhurların şəkillərindən istifadə edir, köhnə videoları birləşdirir və sosial media platformalarında canlı yayımlar açır və onlara göndərilən kriptovalyuta ödənişlərini ikiqat artıracağını vəd edir.

Çox vaxt deepfake ilə şirkət rəhbərlərini şantaj və sənaye casusluğu kimi cinayətlər üçün bizneslərini hədəfə almaqda istifadə olunur. Məsələn, kibercinayətkarlar səsli deepfake istifadə edərək BƏƏ-də bank menecerini aldadaraq 35 milyon dollar oğurlamağı bacarıblar. inandırıcı deepfake yaratmaq üçün onun rəhbərinin səsinin kiçik bir qeydindən istifadə olunub. Deepfake ilə kriptovalyuta platforması Binance-ı aldatmağa cəhd edilib.

Deepfake-in təhlükəli tərəflərindən biri də fərdin məxfiliyini pozulmasıdır. Deepfake videolar bir insanın üzünü pornoqrafik videonun üzərinə qoyaraq, böyük zərər və sıxıntıya səbəb ola bilər. İnternetdə açıq-saçıq səhnələrdə bəzi məşhurların üzlərini pornoqrafik aktyorların üz cizgiləri ilə montaj olunduğu faktlar çoxdu. Nəticədə belə hallarda hədəf şəxslərin reputasiyası zədələnir və hüquqları pozulur.