THE AGE OF AI
AI ქრონიკა · 22 ნოემბერი, 2026

ლოგიტები (Logits)

ლოგიტები (Logits) – მოდელის ნედლი ქულები თითო შესაძლო ტოკენისთვის, სანამ ისინი ალბათობებად გადაიქცევა.

როგორ მუშაობს ლოგიტები

შემდეგი ტოკენის არჩევამდე ენობრივი მოდელი ლექსიკონის თითოეულ ტოკენს „ქულას“ ანიჭებს. ამ ნედლ, ჯერ არანორმალიზებულ ქულებს ლოგიტები (logits) ეწოდება. შემდეგ softmax ფუნქცია მათ ალბათობებად აქცევს, რომელთა ჯამი 1-ია. სწორედ ლოგიტებზე მოქმედებს ტემპერატურა და სემპლინგის სხვა პარამეტრები, მანამ სანამ საბოლოო ტოკენი შეირჩევა.

მაგალითი ყოველდღიური ცხოვრებიდან

წინადადებაზე „ცა არის…“ მოდელი სიტყვა „ლურჯს“ მაღალ ლოგიტს მისცემს, „მწვანეს“ დაბალს, „მაგიდას“ კი ძალიან დაბალს. ალბათობებად გარდაქმნის შემდეგ „ლურჯი“ ყველაზე სავარაუდო ვარიანტი იქნება.

რატომ არის ლოგიტები მნიშვნელოვანი

  • სემპლინგი – ტემპერატურა და top-p ლოგიტებზე დაყრდნობით ცვლის, რამდენად კრეატიული იქნება პასუხი.
  • დისტილაცია – პატარა მოდელი ხშირად დიდი მოდელის ლოგიტების მიბაძვით სწავლობს.
  • კვლევა – ლოგიტები გვიჩვენებს, რამდენად „დარწმუნებულია“ მოდელი.

ლოგიტები, ალბათობები და სემპლინგი

ლოგიტების ალბათობებად გადაქცევის შემდეგ მოდელმა ტოკენი უნდა აირჩიოს. უმარტივესი გზაა ყოველთვის ყველაზე მაღალი ალბათობის ტოკენის აღება, რასაც ხარბ დეკოდირებას უწოდებენ. ის პროგნოზირებადია, მაგრამ გრძელ ტექსტში ხშირად ერთფეროვან ან განმეორებად ფრაზებს იწვევს.

ამიტომ ხშირად გამოიყენება სემპლინგი: ტოკენი შემთხვევით ირჩევა ალბათობების მიხედვით. ტემპერატურა ლოგიტებს ალბათობებად გარდაქმნამდე ყოფს ერთ რიცხვზე: დაბალი ტემპერატურა სხვაობებს ამძაფრებს, მაღალი კი ათანაბრებს. top-k და top-p კი დაბალი ალბათობის ტოკენებს საერთოდ გამორიცხავს.

ზოგ API-ში შეგიძლია ლოგიტებზე პირდაპირაც იმოქმედო, მაგალითად კონკრეტული ტოკენის ალბათობა გაზარდო ან შეამცირო. ასე შეიძლება მოდელს აუკრძალო გარკვეული სიტყვის გამოყენება ან ამოცანაში მხოლოდ რამდენიმე დაშვებული პასუხი დაუტოვო. სტრუქტურირებული გამომავალი ფორმატის გარანტიაც ხშირად ლოგიტების მსგავს შეზღუდვას ეფუძნება.

ლოგიტების ანალიზი მკვლევრებს ეხმარება, გაიგონ, რამდენად დარწმუნებულია მოდელი პასუხში. თუ რამდენიმე ტოკენს თითქმის თანაბარი ალბათობა აქვს, ეს შეიძლება მიუთითებდეს, რომ მოდელი ყოყმანობს, და ზოგი სისტემა ასეთ შემთხვევაში მომხმარებელს გაფრთხილებას აჩვენებს.

დაკავშირებული ტერმინები

ტემპერატურა · Top-p · ტოკენი · დისტილაცია · ინფერენსი · AI ლექსიკონი

ხშირად დასმული კითხვები

ლოგიტი და ალბათობა ერთი და იგივეა?

არა. ლოგიტი ნედლი ქულაა, ალბათობა კი მისგან softmax-ით მიიღება.

შემიძლია ლოგიტების ნახვა?

ზოგი API აბრუნებს „logprobs“-ს, ანუ ტოკენების ლოგარითმულ ალბათობებს.

შეჯამება

ლოგიტები მოდელის ნედლი ქულებია ყოველი შესაძლო ტოკენისთვის. მათგან მიიღება ალბათობები, რომლითაც მოდელი შემდეგ სიტყვას ირჩევს.