შეცდომის ფუნქცია (Loss function) – ფორმულა, რომელიც ზომავს, რამდენად შორსაა მოდელის პასუხი სწორისგან. ტრენინგი ამ რიცხვის შემცირებას ცდილობს.
როგორ მუშაობს შეცდომის ფუნქცია
შეცდომის ფუნქცია (loss function) ერთი რიცხვით ზომავს, რამდენად ცდება მოდელი. ის მოდელის პროგნოზს სწორ პასუხს ადარებს: რაც უფრო დიდია სხვაობა, მით დიდია შეცდომის მნიშვნელობა. ტრენინგის მიზანია ამ რიცხვის შემცირება. სხვადასხვა ამოცანას სხვადასხვა ფუნქცია ერგება: რეგრესიაში ხშირად საშუალო კვადრატული შეცდომა, კლასიფიკაციასა და ენობრივ მოდელებში კი ჯვარედინი ენტროპია (cross-entropy).
მაგალითი ყოველდღიური ცხოვრებიდან
მსროლელი სამიზნეს ესვრის. შეცდომის ფუნქცია ზომავს, რამდენად შორს მოხვდა ისარი ცენტრიდან. ყოველი სროლის შემდეგ მსროლელი ასწორებს მიზანს, რომ ეს მანძილი შემცირდეს.
რატომ არის შეცდომის ფუნქცია მნიშვნელოვანი
- სწავლის მიმართულება – სწორედ ეს რიცხვი უჩვენებს ოპტიმიზაციას, რა შეცვალოს.
- მიზნის განსაზღვრა – ფუნქციის არჩევანი განსაზღვრავს, რას ისწავლის მოდელი.
- მონიტორინგი – ტრენინგის დროს შეცდომის მრუდი პროგრესის მთავარი მაჩვენებელია.
შეცდომის ფუნქციის სახეები
რეგრესიის ამოცანებში ყველაზე ხშირად გამოიყენება საშუალო კვადრატული შეცდომა: პროგნოზსა და სწორ მნიშვნელობას შორის სხვაობა კვადრატში აიყვანება და გასაშუალოვდება. ის დიდ შეცდომებს მკაცრად სჯის. თუ მონაცემებში ბევრი გამონაკლისი მნიშვნელობაა, ზოგჯერ ირჩევენ საშუალო აბსოლუტურ შეცდომას, რომელიც მათ მიმართ ნაკლებად მგრძნობიარეა.
კლასიფიკაციაში და ენობრივ მოდელებში სტანდარტია ჯვარედინი ენტროპია. ის ზომავს, რა ალბათობა მიანიჭა მოდელმა სწორ პასუხს: რაც უფრო დაბალია ეს ალბათობა, მით უფრო დიდია ჯარიმა. ენობრივი მოდელი პრეტრენინგისას სწორედ ამ ფუნქციას ამცირებს შემდეგი ტოკენის პროგნოზირებისას.
შეცდომის ფუნქციის არჩევა მოდელის ქცევას განსაზღვრავს. თუ ზოგი შეცდომა სხვებზე ძვირია, მაგალითად დაავადების გამოტოვება ცრუ განგაშზე უარესია, შეიძლება ფუნქციაში ამ შეცდომებს მეტი წონა მიენიჭოს.
ხშირად ფუნქციას ემატება რეგულარიზაციის წევრი, რომელიც ძალიან დიდ წონებს სჯის და ზედმეტი მორგების რისკს ამცირებს. ტრენინგის დროს ფუნქციის მნიშვნელობის გრაფიკი სწავლის პროცესის მთავარი სადიაგნოსტიკო ინსტრუმენტია.
დაკავშირებული ტერმინები
გრადიენტული დაშვება · უკუგავრცელება · ოპტიმიზაცია · გაწვრთნა · ზედმეტი მორგება · AI ლექსიკონი
ხშირად დასმული კითხვები
შეცდომის ფუნქცია და სიზუსტე ერთი და იგივეა?
არა. სიზუსტე ადამიანისთვის გასაგები მეტრიკაა, შეცდომის ფუნქცია კი მათემატიკური სიდიდე, რომელსაც ოპტიმიზაცია ამცირებს.
ნული უნდა გახდეს შეცდომა?
არა აუცილებლად. სასწავლო მონაცემებზე ზედმეტად დაბალი შეცდომა შეიძლება ზედმეტი მორგების ნიშანი იყოს.
შეჯამება
შეცდომის ფუნქცია ზომავს, რამდენად ცდება მოდელი, და ტრენინგს მიმართულებას აძლევს. სწორედ მისი შემცირებით სწავლობს მოდელი.