დიპფეიქი (Deepfake)

დიპფეიქი (Deepfake) არის ხელოვნური ინტელექტით შექმნილი ან შეცვლილი რეალისტური ვიდეო, ფოტო ან ხმოვანი ჩანაწერი, რომელშიც ადამიანი ამბობს ან აკეთებს იმას, რაც სინამდვილეში არ უთქვამს ან არ გაუკეთებია. სიტყვა „deep learning“-ისა და „fake“-ის შერწყმით წარმოიშვა.

როგორ იქმნება

დიპფეიქები ღრმა სწავლების მოდელებით იქმნება. ადრე სახის შესაცვლელად ბევრი ფოტო და ტექნიკური ცოდნა სჭირდებოდა. დღეს კი გენერაციული AI-ის ინსტრუმენტები ხშირად რამდენიმე ფოტოთი ან მოკლე ხმოვანი ჩანაწერით ახერხებს ადამიანის სახის ან ხმის იმიტაციას. ამან დიპფეიქები უფრო იაფი და მასობრივი გახადა.

სახეები

• სახის ჩანაცვლება ვიდეოში;
• ტუჩების სინქრონიზაცია – ადამიანი თითქოს სხვა ტექსტს ამბობს;
• ხმის კლონირება – ყალბი სატელეფონო ზარები და ხმოვანი შეტყობინებები;
• სრულად გენერირებული ფოტოები და ვიდეოები.

რისკები

• თაღლითობა, მაგალითად ნათესავის ან ხელმძღვანელის ხმით ფულის მოთხოვნა;
• პოლიტიკური დეზინფორმაცია;
• ცნობილი ადამიანების სახელით ყალბი რეკლამები;
• ადამიანის თანხმობის გარეშე შექმნილი შეურაცხმყოფელი კონტენტი.

როგორ ამოვიცნოთ

• შეამოწმე წყარო – სად გამოქვეყნდა პირველად, ავრცელებს თუ არა სანდო მედია.
• დააკვირდი დეტალებს – უცნაური მოციმციმე კიდეები, არაბუნებრივი თვალის დახამხამება, ხელები, კბილები, ხმისა და ტუჩების შეუსაბამობა. გახსოვდეს, რომ ხარისხიან დიპფეიქებს ეს ნიშნები შეიძლება არ ჰქონდეს.
• ემოციური ზეწოლა – თუ ვიდეო ან ზარი სასწრაფო მოქმედებას ან ფულს მოითხოვს, შეჩერდი და გადაამოწმე სხვა არხით.
• შეთანხმებული „საიდუმლო სიტყვა“ – ოჯახის წევრებთან ხმის კლონირებისგან დაცვის მარტივი ხერხი.

პლატფორმების პასუხი

პლატფორმები და კომპანიები ქმნიან აღმოჩენის ინსტრუმენტებს და AI კონტენტის მარკირების სისტემებს. მაგალითად, YouTube-მა დიპფეიქების აღმოჩენის ინსტრუმენტი დანერგა, რაზეც ცალკე სტატიაში დავწერეთ. ზოგადად ხელოვნური ინტელექტის რისკების შესახებ იხილე მთავარი გვერდი, ტერმინის ისტორია კი Wikipedia-ზე.

დაკავშირებული ტერმინები

გენერაციული AI · დიფუზიის მოდელი · ღრმა სწავლება · მულტიმოდალური მოდელი · ჰალუცინაცია

ხშირად დასმული კითხვები

შეჯამება

დიპფეიქი არის გენერაციული AI-ის ყველაზე სახიფათო გამოყენება, რომელიც სულ უფრო იაფი და დამაჯერებელი ხდება. ტექნიკური ნიშნების ძებნაზე მეტად მნიშვნელოვანია წყაროს გადამოწმების ჩვევა და სიფრთხილე ემოციური მოთხოვნების მიმართ.