LoRA (Low-Rank Adaptation) – ფაინ-თიუნინგის იაფი მეთოდი: მთელი მოდელის ნაცვლად მხოლოდ პატარა დამატებითი მატრიცები ისწავლება.
როგორ მუშაობს LoRA
LoRA (Low-Rank Adaptation) ფაინ-თიუნინგის ეფექტური მეთოდია. დიდი მოდელის ყველა წონის შეცვლის ნაცვლად, ორიგინალური წონები „იყინება“, ხოლო მათ გვერდით ემატება პატარა დამატებითი მატრიცები, რომლებსაც მხოლოდ ისინი სწავლობენ. ასე სასწავლი პარამეტრების რაოდენობა მკვეთრად მცირდება, ტრენინგი უფრო იაფი და სწრაფი ხდება, მიღებული „ადაპტერი“ კი პატარა ფაილია, რომელიც ძირითად მოდელს ემატება.
მაგალითი ყოველდღიური ცხოვრებიდან
ღია სურათების მოდელს LoRA-თი შეიძლება ასწავლო კონკრეტული სტილი, მაგალითად ქართული ორნამენტები. ადაპტერი რამდენიმე ათეულ მეგაბაიტს იკავებს, ძირითადი მოდელი კი უცვლელი რჩება.
რატომ არის LoRA მნიშვნელოვანი
- ეკონომია – ფაინ-თიუნინგი ჩვეულებრივ GPU-ზეც ხდება შესაძლებელი.
- მოქნილობა – ერთ მოდელს შეიძლება ბევრი სხვადასხვა ადაპტერი ჰქონდეს.
- პოპულარობა – LoRA ღია მოდელების საზოგადოებაში ერთ-ერთი ყველაზე გავრცელებული მეთოდია.
LoRA-ს ვარიანტები და პრაქტიკა
LoRA-ს მთავარი პარამეტრია რანგი, ანუ რამდენად დიდია დამატებული მცირე მატრიცები. დაბალი რანგი ნაკლებ მეხსიერებას მოითხოვს და მცირე ცვლილებებისთვის საკმარისია, მაგალითად სტილის ან ფორმატის მორგებისთვის. უფრო რთული ამოცანებისთვის რანგს ზრდიან. ასევე ირჩევენ, მოდელის რომელ ფენებს დაემატოს ადაპტერები.
QLoRA აერთიანებს LoRA-სა და კვანტიზაციას: საბაზისო მოდელის წონები შეკუმშულ, ოთხბიტიან ფორმატში ინახება, ადაპტერები კი ჩვეულებრივი სიზუსტით სწავლობს. ამან შესაძლებელი გახადა საკმაოდ დიდი მოდელების ფაინ-თიუნინგი ერთ სამომხმარებლო GPU-ზე.
LoRA-ს ადაპტერი პატარა ფაილია, ხშირად რამდენიმე ათეული მეგაბაიტი, ამიტომ მისი გაზიარება მარტივია. ერთ საბაზისო მოდელზე შეიძლება რამდენიმე სხვადასხვა ადაპტერი მოამზადო და საჭიროებისამებრ შეცვალო. ეს განსაკუთრებით პოპულარულია სურათების გენერაციის მოდელებში, სადაც ადაპტერები კონკრეტულ სტილს ან პერსონაჟს ასწავლის.
ადაპტერის წონები შეიძლება საბაზისო მოდელს სამუდამოდაც შეერწყას, რის შემდეგაც მოდელი დამატებითი შენელების გარეშე მუშაობს.
მეთოდი 2021 წელს Microsoft-ის მკვლევრებმა წარადგინეს.
დაკავშირებული ტერმინები
ფაინ-თიუნინგი · პარამეტრი · მოდელის წონები · ღია კოდის მოდელი · კვანტიზაცია · AI ლექსიკონი
ხშირად დასმული კითხვები
რა არის QLoRA?
LoRA-ს და კვანტიზაციის კომბინაცია, რომელიც მეხსიერებას კიდევ უფრო ზოგავს.
LoRA სრულ ფაინ-თიუნინგზე უარესია?
ბევრ ამოცანაზე შედეგი მსგავსია, თუმცა ზოგ შემთხვევაში სრული ფაინ-თიუნინგი უკეთესია.
შეჯამება
LoRA მოდელს პატარა დამატებითი წონებით არგებს და ორიგინალს არ ცვლის. ის ფაინ-თიუნინგს იაფს და ხელმისაწვდომს ხდის.