ჰალუცინაცია (AI hallucination) არის შემთხვევა, როცა AI მოდელი დამაჯერებლად და გამართულად წერს ინფორმაციას, რომელიც მცდარი ან სრულად გამოგონილია: არარსებულ ფაქტს, ციტატას, წყაროს ან ციფრს.
რატომ ჰალუცინირებს AI
დიდი ენობრივი მოდელი არ „ეძებს“ სიმართლეს მონაცემთა ბაზაში. ის აგენერირებს ტექსტს, რომელიც ალბათობის მიხედვით ყველაზე შესაფერისად ჟღერს. თუ საჭირო ინფორმაცია მოდელმა არ იცის ან კარგად არ ახსოვს, ის ხშირად მაინც წერს სარწმუნოდ მოჩვენებით პასუხს, ნაცვლად იმისა, რომ თქვას „არ ვიცი“.
ჰალუცინაციის რისკი იზრდება:
- ნაკლებად ცნობილ თემებზე, მათ შორის ადგილობრივ, ქართულ საკითხებზე;
- ზუსტ ციფრებზე, თარიღებზე, ციტატებსა და ბიბლიოგრაფიულ წყაროებზე;
- ახალ მოვლენებზე, რომლებიც მოდელის წვრთნის შემდეგ მოხდა.
მაგალითები
- მოდელი გთავაზობს წიგნს ან სამეცნიერო სტატიას, რომელიც არ არსებობს.
- ცნობილ ადამიანს მიაწერს ციტატას, რომელიც მას არ უთქვამს.
- კანონის არარსებულ მუხლს ასახელებს.
როგორ შევამციროთ რისკი
- გადაამოწმე მნიშვნელოვანი ფაქტები სანდო წყაროებით.
- სთხოვე წყაროები და გახსენი ბმულები: არსებობს თუ არა და ნამდვილად იგივეს წერს თუ არა.
- მიეცი მასალა – თუ დოკუმენტს თავად ჩასვამ და მასზე დაყრდნობას სთხოვ, რისკი მცირდება. ამ პრინციპზეა აგებული RAG.
- დაუშვი „არ ვიცი“ – პრომპტში მიუთითე, რომ გაურკვევლობის შემთხვევაში ეს პირდაპირ თქვას.
მეტი პრაქტიკული რჩევა: როგორ გამოვიყენოთ ChatGPT სწორად. მოდელის მუშაობის პრინციპი კი ახსნილია სტატიაში რა არის ChatGPT და როგორ მუშაობს.
რატომ ჰქვია ჰალუცინაცია
ტერმინი მეტაფორაა: როგორც ადამიანი ჰალუცინაციისას ხედავს იმას, რაც რეალურად არ არსებობს, ისე მოდელიც „ხედავს“ ფაქტებს, რომლებიც არ არსებობს. ზოგიერთი მკვლევარი ამ სიტყვას აკრიტიკებს, რადგან ის მოდელს ადამიანურ თვისებებს მიაწერს, და ურჩევნია ტერმინი „კონფაბულაცია“. პრაქტიკაში კი ორივე ერთსა და იმავეს ნიშნავს: სარწმუნოდ ჟღერადი, მაგრამ მცდარი შედეგი. ეს მხოლოდ ტექსტს არ ეხება. სურათების გენერატორებიც შეიძლება ქმნიდნენ არარსებულ დეტალებს, მაგალითად ზედმეტ თითებს ან უაზრო წარწერებს.
დაკავშირებული ტერმინები
LLM · RAG · პრომპტი · ჩატბოტი · მსჯელობის მოდელი
ხშირად დასმული კითხვები
რას ნიშნავს AI ჰალუცინაცია?
ეს არის შემთხვევა, როცა AI მოდელი მცდარ ან გამოგონილ ინფორმაციას დამაჯერებლად წარმოადგენს როგორც ფაქტს.
რომელ მოდელს არ აქვს ჰალუცინაცია?
ასეთი მოდელი არ არსებობს. ახალ მოდელებს ჰალუცინაცია შეიძლება ნაკლებად ახასიათებდეთ, მაგრამ სრულად არცერთი არ არის დაზღვეული.
როგორ მივხვდე, რომ AI ჰალუცინირებს?
ყველაზე საიმედო გზა ფაქტის დამოუკიდებელი წყაროთი გადამოწმებაა. განსაკუთრებით ფრთხილად იყავი ზუსტ ციფრებთან, ციტატებთან და ბმულებთან.
შეჯამება
ჰალუცინაცია არის დიდი ენობრივი მოდელების ბუნებრივი ნაკლი და არა შემთხვევითი ხარვეზი. AI კარგი დამხმარეა, მაგრამ მნიშვნელოვანი ფაქტების საბოლოო წყაროდ ის არ უნდა იქცეს.