ზედმეტი მორგება (Overfitting)

ზედმეტი მორგება (Overfitting) – როცა მოდელი სასწავლო მონაცემებს ზეპირად „იმახსოვრებს“ და ახალ, უცნობ მაგალითებზე ცუდად მუშაობს.

როგორ მუშაობს ზედმეტი მორგება

ზედმეტი მორგება (overfitting) ხდება, როცა მოდელი სასწავლო მონაცემებს ზედმეტად ზუსტად „იმახსოვრებს“, მათ შორის შემთხვევით ხმაურსა და დეტალებს. ასეთი მოდელი სასწავლო მაგალითებზე შესანიშნავ შედეგს აჩვენებს, ახალ მონაცემებზე კი ცუდად მუშაობს. ამის აღმოსაჩენად იყენებენ ვალიდაციის ნაკრებს: თუ სასწავლო შეცდომა მცირდება, ვალიდაციისა კი იზრდება, მოდელი ზედმეტად ერგება.

მაგალითი ყოველდღიური ცხოვრებიდან

სტუდენტი, რომელმაც გამოცდისთვის მხოლოდ ძველი ტესტების პასუხები დაიზეპირა, იმავე კითხვებზე ყველაფერს სწორად პასუხობს, მაგრამ ახალ კითხვაზე იბნევა. ეს ზუსტად ზედმეტი მორგებაა.

რატომ არის ზედმეტი მორგება მნიშვნელოვანი

• რეალური შედეგი – მოდელის ღირებულება ახალ მონაცემებზე მუშაობით განისაზღვრება.
• ბენჩმარკები – თუ ტესტის კითხვები ტრენინგში მოხვდა, შედეგები შეიძლება ხელოვნურად მაღალი იყოს.
• თავიდან აცილება – გამოიყენება მეტი მონაცემი, რეგულარიზაცია და ტრენინგის დროულად შეჩერება.

წაიკითხე: NVIDIA AVO-მ ARC-AGI-3-ის საჯარო ტესტზე 100% შედეგი აჩვენა.

ზედმეტი მორგების თავიდან აცილების ხერხები

ყველაზე მარტივი ხერხი მეტი და მრავალფეროვანი მონაცემია: რაც მეტ განსხვავებულ მაგალითს ხედავს მოდელი, მით უფრო რთულია მათი დაზეპირება. მეორე ხერხი რეგულარიზაციაა, რომელიც ზედმეტად დიდ წონებს „სჯის“ და მოდელს უფრო მარტივი წესების სწავლისკენ უბიძგებს. ნეირონულ ქსელებში ხშირად იყენებენ dropout-ს, როცა ტრენინგისას ნეირონების ნაწილი შემთხვევით ითიშება.

კიდევ ერთი გავრცელებული მეთოდია ადრეული გაჩერება: ტრენინგი წყდება, როგორც კი ვალიდაციის შედეგი გაუარესებას იწყებს. სურათებთან მუშაობისას იყენებენ მონაცემების გამრავლებას, მაგალითად ფოტოს შემობრუნებას ან ოდნავ გადაჭრას. ზოგჯერ კი უბრალოდ უფრო პატარა მოდელის არჩევაა საკმარისი, რადგან მცირე მონაცემებზე დიდ მოდელს ზედმეტი მორგება უფრო ემართება.

ზედმეტი მორგება მხოლოდ კლასიკური მანქანური სწავლების პრობლემა არ არის. დიდ ენობრივ მოდელებსაც შეიძლება დაემახსოვროთ ტრენინგის ტექსტის ნაწილები და ზოგჯერ სიტყვასიტყვით გაიმეორონ. ეს საავტორო უფლებებისა და პერსონალური მონაცემების თვალსაზრისით არის საყურადღებო. ამიტომ ტრენინგის მონაცემებიდან დუბლიკატებს შლიან, რადგან ბევრჯერ განმეორებული ტექსტი უფრო ადვილად იზეპირება.

დაკავშირებული ტერმინები

ვალიდაციის ნაკრები · ტესტის ნაკრები · დატასეტი · ეპოქა · ბენჩმარკი · AI ლექსიკონი

ხშირად დასმული კითხვები

შეჯამება

ზედმეტი მორგება ნიშნავს, რომ მოდელმა მაგალითები დაიზეპირა და არა კანონზომიერება. კარგი მოდელი ახალ მონაცემებზეც კარგად მუშაობს.