უკუგავრცელება (Backpropagation) – ალგორითმი, რომელიც გამოთვლის, რამდენად შეუწყო ხელი თითო პარამეტრმა შეცდომას, რომ ქსელმა ისინი სწორად შეასწოროს.
როგორ მუშაობს უკუგავრცელება
უკუგავრცელება (backpropagation) ალგორითმია, რომლითაც ნეირონული ქსელი სწავლობს. ჯერ მონაცემი ქსელში წინ გადის და მიიღება პროგნოზი. შემდეგ შეცდომის ფუნქცია ზომავს, რამდენად შორსაა პროგნოზი სწორი პასუხისგან. ბოლოს შეცდომა ქსელში უკან, ფენა-ფენა „გავრცელდება“: ალგორითმი ითვლის, თითოეულმა წონამ რამდენად შეუწყო ხელი შეცდომას (გრადიენტს), რის მიხედვითაც წონები სწორდება.
მაგალითი ყოველდღიური ცხოვრებიდან
გუნდური პროექტი ცუდად დასრულდა. მენეჯერი ბოლოდან იწყებს და თითოეულ ეტაპზე არკვევს, ვინ რა წვლილი შეიტანა შეცდომაში, რომ შემდეგ ჯერზე ყველამ ზუსტად თავისი ნაწილი გამოასწოროს.
რატომ არის უკუგავრცელება მნიშვნელოვანი
- სწავლის საფუძველი – თითქმის ყველა თანამედროვე ნეირონული ქსელი უკუგავრცელებით სწავლობს.
- ეფექტურობა – მილიარდობით წონის გრადიენტს ეფექტურად ითვლის.
- ისტორია – მისმა პოპულარიზაციამ 1980-იან წლებში ნეირონული ქსელების კვლევა გააცოცხლა.
უკუგავრცელების ეტაპები
ტრენინგის ყოველი ნაბიჯი ორ ნაწილად იყოფა. პირდაპირი გავლისას მონაცემები ქსელში შესასვლელიდან გამოსასვლელისკენ მიდის და მოდელი პასუხს იძლევა. შემდეგ შეცდომის ფუნქცია ზომავს, რამდენად შორსაა ეს პასუხი სწორისგან.
უკუგავრცელებისას შეცდომა საპირისპირო მიმართულებით, ბოლო ფენიდან პირველისკენ, ვრცელდება. ჯაჭვის წესის, ანუ რთული ფუნქციის წარმოებულის გამოთვლის მათემატიკური წესის, მეშვეობით ითვლება, თითოეულმა წონამ რა წვლილი შეიტანა შეცდომაში. შედეგად მიიღება გრადიენტი, რომელსაც ოპტიმიზატორი წონების შესაცვლელად იყენებს.
ძალიან ღრმა ქსელებში გრადიენტი ფენიდან ფენაზე გადაცემისას შეიძლება ძალიან დაპატარავდეს ან პირიქით, ძალიან გაიზარდოს. ამ პრობლემების შესამსუბუქებლად იყენებენ შესაფერის აქტივაციის ფუნქციებს, ნორმალიზაციას, გადახტომის კავშირებს და გრადიენტის ზღვრით შეზღუდვას.
უკუგავრცელება პირდაპირ გავლაზე მეტ მეხსიერებას მოითხოვს, რადგან შუალედური შედეგები უნდა შეინახოს. თანამედროვე ბიბლიოთეკები, როგორიცაა PyTorch, ამ გამოთვლას ავტომატურად ასრულებენ, ამიტომ დეველოპერს წარმოებულების ხელით წერა აღარ სჭირდება.
დაკავშირებული ტერმინები
გრადიენტული დაშვება · შეცდომის ფუნქცია · ნეირონული ქსელი · ფენა · გაწვრთნა · AI ლექსიკონი
ხშირად დასმული კითხვები
უკუგავრცელება და გრადიენტული დაშვება ერთი და იგივეა?
არა. უკუგავრცელება გრადიენტებს ითვლის, გრადიენტული დაშვება კი მათით წონებს ცვლის.
ინფერენსის დროსაც მუშაობს?
არა, მხოლოდ ტრენინგისას. ინფერენსისას მონაცემი ქსელში მხოლოდ წინ გადის.
შეჯამება
უკუგავრცელება შეცდომას ქსელში უკან ავრცელებს და ითვლის, როგორ უნდა შეიცვალოს თითოეული წონა. ეს ნეირონული ქსელების სწავლის მთავარი მექანიზმია.