ბეჩი (Batch) – მაგალითების ჯგუფი, რომელსაც მოდელი ტრენინგისას ერთდროულად ამუშავებს.
როგორ მუშაობს ბეჩი
ტრენინგისას მოდელი მთელ დატასეტს ერთბაშად არ ამუშავებს. მონაცემები იყოფა პატარა ჯგუფებად, ბეჩებად. თითოეული ბეჩის დამუშავების შემდეგ მოდელი ითვლის შეცდომას და წონებს ოდნავ ასწორებს. ბეჩის ზომა ჰიპერპარამეტრია: დიდი ბეჩი უფრო სტაბილურ განახლებას იძლევა, მაგრამ მეტ მეხსიერებას მოითხოვს. ინფერენსშიც ბეჩირება ბევრ მოთხოვნას ერთად ამუშავებს, რაც GPU-ს უკეთ იყენებს.
მაგალითი ყოველდღიური ცხოვრებიდან
წარმოიდგინე მასწავლებელი, რომელიც 1000 საკონტროლოს ასწორებს. ყველას ერთად ვერ წაიკითხავს, ამიტომ 20-20 ცალს იღებს, ყოველი დასტის შემდეგ კი იწერს, რა შეცდომები განმეორდა.
რატომ არის ბეჩი მნიშვნელოვანი
- მეხსიერება – ბეჩი საშუალებას იძლევა დიდი დატასეტი GPU-ს მეხსიერებაში ნაწილ-ნაწილ ჩაეტიოს.
- სიჩქარე – პარალელური დამუშავება სწავლებასა და ინფერენსს აჩქარებს.
- ფასი – ზოგი პროვაიდერი API-ში ბეჩ-რეჟიმს უფრო იაფად სთავაზობს, თუ სწრაფი პასუხი არ გჭირდება.
ბეჩი და მსგავსი ცნებები: განსხვავება
ბეჩთან ახლოს დგას ტერმინი მინი-ბეჩი. ზოგჯერ ბეჩად მთელ დატასეტს უწოდებენ, მინი-ბეჩად კი მის პატარა ნაწილს, თუმცა პრაქტიკაში ორივე სიტყვა ხშირად ერთი და იმავე მნიშვნელობით იხმარება. ასევე მნიშვნელოვანია იტერაცია: ეს ერთი ბეჩის დამუშავება და წონების ერთხელ განახლებაა. რამდენიმე იტერაცია ერთად ქმნის ეპოქას.
ინფერენსში ბეჩირება სხვა რამეს ნიშნავს: სერვერი სხვადასხვა მომხმარებლის მოთხოვნებს აერთიანებს და GPU-ზე ერთად ამუშავებს. ეს სერვისს უფრო ეფექტურს ხდის, მაგრამ ზედმეტად დიდმა ბეჩმა თითოეული პასუხი შეიძლება შეაყოვნოს. ამიტომ პროვაიდერები სიჩქარესა და ეფექტურობას შორის ბალანსს ეძებენ.
ბეჩის ზომა სწავლის ტემპთანაც არის დაკავშირებული. დიდი ბეჩის გამოყენებისას ხშირად სწავლის ტემპსაც ზრდიან, პატარა ბეჩის დროს კი ამცირებენ. თუ ბეჩი GPU-ს მეხსიერებაში არ ეტევა, იყენებენ გრადიენტების დაგროვებას: რამდენიმე პატარა ბეჩის გრადიენტი ჯამდება და წონები მხოლოდ შემდეგ ახლდება, თითქოს ერთი დიდი ბეჩი დამუშავებულიყოს.
დაკავშირებული ტერმინები
ეპოქა · ჰიპერპარამეტრი · GPU / AI ჩიპი · გაწვრთნა · ინფერენსი · AI ლექსიკონი
ხშირად დასმული კითხვები
რა განსხვავებაა ბეჩსა და ეპოქას შორის?
ბეჩი მონაცემების პატარა ნაწილია, ეპოქა კი მთელი დატასეტის ერთხელ სრულად გავლა.
რა არის Batch API?
რეჟიმი, როცა ბევრ მოთხოვნას ერთად აგზავნი და პასუხს მოგვიანებით იღებ, ხშირად დაბალ ფასად.
შეჯამება
ბეჩი მონაცემების ჯგუფია, რომელსაც მოდელი ერთ ნაბიჯში ამუშავებს. ის სწავლებას და ინფერენსს უფრო სწრაფს და ეფექტურს ხდის.