გაწვრთნა (Training) – პროცესი, როცა მოდელი მონაცემებზე სწავლობს და შეცდომების შესამცირებლად თავის პარამეტრებს თანდათან ასწორებს.
როგორ მუშაობს გაწვრთნა
გაწვრთნისას მოდელს უამრავ მაგალითს აჩვენებენ. ყოველ ნაბიჯზე მოდელი პასუხს წინასწარმეტყველებს, შეცდომის ფუნქცია ზომავს, რამდენად შეცდა, ხოლო ოპტიმიზაციის ალგორითმი წონებს ისე ასწორებს, რომ შეცდომა შემცირდეს. ეს პროცესი მილიონობით ან მილიარდობით ჯერ მეორდება. დიდი ენობრივი მოდელების ტრენინგი ჩვეულებრივ ეტაპებად მიმდინარეობს: პრეტრენინგი, შემდეგ ინსტრუქციით გაწვრთნა და ადამიანის უკუკავშირით დახვეწა.
მაგალითი ყოველდღიური ცხოვრებიდან
ბავშვი ველოსიპედის ტარებას ბევრჯერ ცდით სწავლობს: ეცემა, ასწორებს წონასწორობას და თანდათან უკეთ ახერხებს. მოდელიც მსგავსად სწავლობს, ოღონდ მათემატიკურად და ძალიან სწრაფად.
რატომ არის გაწვრთნა მნიშვნელოვანი
- ცოდნის წყარო – მოდელის ყველა უნარი ტრენინგის დროს ყალიბდება.
- ხარჯი – დიდი მოდელების ტრენინგი ათასობით GPU-სა და დიდ ენერგიას მოითხოვს.
- ხარისხი – შედეგი დამოკიდებულია მონაცემების ხარისხსა და რაოდენობაზე.
წაიკითხე: Kimi K3.1 Pro: Moonshot AI-ის ახალი ღია მოდელი.
გაწვრთნის ეტაპები
თანამედროვე ენობრივი მოდელის გაწვრთნა რამდენიმე ეტაპად მიმდინარეობს. პირველია პრეტრენინგი, როცა მოდელი უზარმაზარ ტექსტზე შემდეგი ტოკენის პროგნოზს სწავლობს და ზოგად ცოდნას იძენს. მეორე ეტაპზე მას ინსტრუქციებითა და სანიმუშო პასუხებით წვრთნიან, რომ დავალებების შესრულება ისწავლოს. მესამე ეტაპზე ადამიანის ან ავტომატური შეფასებით ხვეწავენ, რომ პასუხები უფრო სასარგებლო და უსაფრთხო გახდეს.
ყოველი ეტაპის შემდეგ მოდელს ამოწმებენ ბენჩმარკებით და შიდა ტესტებით. ტრენინგის დროს ინჟინრები აკვირდებიან შეცდომის მრუდს და ამოწმებენ, ხომ არ შეჩერდა პროგრესი ან ხომ არ გაჩნდა არასტაბილურობა. დიდი მოდელის ტრენინგი კვირებით ან თვეებით შეიძლება გაგრძელდეს, ამიტომ პროცესს რეგულარულად ინახავენ, რომ ტექნიკური ხარვეზის შემთხვევაში ბოლო შენახული წერტილიდან გააგრძელონ.
ხშირად ირევა ტრენინგი და ფაინ-თიუნინგი. ტრენინგი ზოგადი ტერმინია და მოიცავს ნებისმიერ სწავლებას, ნულიდან დაწყებულს ჩათვლით. ფაინ-თიუნინგი კი უკვე გაწვრთნილი მოდელის დამატებითი, უფრო მცირე მასშტაბის სწავლებაა კონკრეტული მიზნისთვის. ფაინ-თიუნინგი გაცილებით ნაკლებ მონაცემსა და რესურსს მოითხოვს, ამიტომ მას ბევრი კომპანია და დეველოპერი იყენებს.
დაკავშირებული ტერმინები
პრეტრენინგი · ფაინ-თიუნინგი · შეცდომის ფუნქცია · გრადიენტული დაშვება · ინფერენსი · AI ლექსიკონი
ხშირად დასმული კითხვები
რით განსხვავდება ტრენინგი ინფერენსისგან?
ტრენინგი მოდელის სწავლებაა, ინფერენსი კი უკვე ნასწავლი მოდელის გამოყენება პასუხების მისაღებად.
სწავლობს მოდელი ჩემთან საუბრისას?
ჩვეულებრივ არა. საუბარში მოდელის წონები არ იცვლება, თუმცა კომპანიებმა მონაცემები მომავალი ტრენინგისთვის შეიძლება გამოიყენონ, თუ ამის ნებართვა აქვთ.
შეჯამება
გაწვრთნა ის პროცესია, რომლითაც მოდელი მაგალითებიდან სწავლობს და წონებს არგებს. სწორედ აქ იბადება მოდელის ყველა უნარი.