მცირე ენობრივი მოდელი (SLM, Small language model) – კომპაქტური ენობრივი მოდელი, რომელიც ნაკლებ რესურსს მოითხოვს და ტელეფონზე ან ლეპტოპზეც შეიძლება გაეშვას.
როგორ მუშაობს მცირე ენობრივი მოდელი
მცირე ენობრივი მოდელი (SLM) იგივე პრინციპით მუშაობს, როგორც დიდი ენობრივი მოდელი, მაგრამ გაცილებით ნაკლები პარამეტრი აქვს. ამის გამო ის ნაკლებ მეხსიერებასა და გამოთვლას მოითხოვს და შეიძლება გაეშვას ლეპტოპზე, ტელეფონზე ან კომპანიის საკუთარ სერვერზე. ასეთ მოდელებს ხშირად დისტილაციით და მაღალი ხარისხის მონაცემებით წვრთნიან, რომ ზომასთან შედარებით ძლიერი იყოს.
მაგალითი ყოველდღიური ცხოვრებიდან
ტელეფონში ჩაშენებული ასისტენტი, რომელიც შეტყობინებებს ინტერნეტის გარეშე აჯამებს, ხშირად მცირე ენობრივ მოდელს იყენებს.
რატომ არის მცირე ენობრივი მოდელი მნიშვნელოვანი
- კონფიდენციალურობა – მონაცემები მოწყობილობას არ ტოვებს.
- სიჩქარე და ფასი – პასუხი სწრაფია, ხარჯი კი დაბალი.
- შეზღუდვა – რთულ მსჯელობასა და ფართო ცოდნაში დიდ მოდელებს ჩამორჩება.
წაიკითხე: Meta-მ Muse Glimmer – ლოკალური AI მოდელი წარადგინა.
მცირე და დიდი ენობრივი მოდელები: განსხვავება
მცირე და დიდ მოდელებს შორის მკაცრი საზღვარი არ არსებობს. ჩვეულებრივ მცირედ მიიჩნევენ მოდელებს, რომლებსაც რამდენიმე მილიარდი ან უფრო ნაკლები პარამეტრი აქვთ და ჩვეულებრივ კომპიუტერზე ან ტელეფონზე ეშვება. დიდ მოდელებს კი ძლიერი სერვერები და მრავალი სპეციალური პროცესორი სჭირდება.
მცირე მოდელის უპირატესობებია სიჩქარე, დაბალი ფასი და კონფიდენციალურობა: მონაცემები მოწყობილობიდან არ გადის. ის ინტერნეტის გარეშეც მუშაობს. სამაგიეროდ, ნაკლები ცოდნა აქვს, რთულ მსჯელობაში უფრო ხშირად ცდება და იშვიათ ენებზე, მათ შორის ქართულზე, ხშირად სუსტად წერს.
მცირე მოდელის გაძლიერების გავრცელებული ხერხებია დისტილაცია დიდი მოდელიდან, მაღალი ხარისხის, საგულდაგულოდ შერჩეულ მონაცემებზე წვრთნა და კონკრეტული ამოცანისთვის ფაინ-თიუნინგი. ვიწრო ამოცანაზე კარგად მორგებულმა მცირე მოდელმა შეიძლება ზოგადი დიდი მოდელის შედეგსაც მიაღწიოს.
ხშირად ორივე ტიპი ერთად გამოიყენება: მარტივ მოთხოვნებს მცირე მოდელი პასუხობს, რთულებს კი დიდს გადასცემს. ასე სისტემა ხარჯს ზოგავს და ხარისხსაც ინარჩუნებს.
დაკავშირებული ტერმინები
LLM · დისტილაცია · კვანტიზაცია · ღია კოდის მოდელი · პარამეტრი · AI ლექსიკონი
ხშირად დასმული კითხვები
რამდენი პარამეტრია „მცირე“?
მკაცრი საზღვარი არ არსებობს. ხშირად ასე უწოდებენ რამდენიმე მილიარდ ან ნაკლებ პარამეტრიან მოდელებს.
შემიძლია SLM-ის კომპიუტერზე გაშვება?
კი, ბევრი ღია მცირე მოდელი ჩვეულებრივ ლეპტოპზეც მუშაობს.
შეჯამება
მცირე ენობრივი მოდელი კომპაქტური LLM-ია, რომელიც სწრაფად და იაფად მუშაობს. ის განსაკუთრებით სასარგებლოა მოწყობილობაზე და კონფიდენციალურ ამოცანებში.