ნიმუშებით სწავლება (Few-shot)

ნიმუშებით სწავლება (Few-shot) – როცა პრომპტში მოდელს რამდენიმე მაგალითს აჩვენებ, რომ მიხვდეს, რა სახის პასუხი გინდა.

როგორ მუშაობს ნიმუშებით სწავლება

ნიმუშებით სწავლებისას (few-shot) პრომპტში მოდელს რამდენიმე მაგალითს აძლევ: შემავალ მონაცემს და სასურველ პასუხს. მოდელი ამ ნიმუშებიდან ხვდება სტილს, ფორმატსა და წესებს და მათ ახალ შემთხვევაზე იყენებს. ამას „კონტექსტში სწავლებასაც“ (in-context learning) უწოდებენ, რადგან მოდელის წონები არ იცვლება, ის მხოლოდ კონტექსტიდან სწავლობს.

მაგალითი ყოველდღიური ცხოვრებიდან

პრომპტი: „ვაშლი → ფრუქტი; სტაფილო → ბოსტნეული; ბანანი → ?“. მოდელი უპასუხებს „ფრუქტი“, რადგან ორი მაგალითიდან ამოცანის ლოგიკა გაიგო.

რატომ არის ნიმუშებით სწავლება მნიშვნელოვანი

• ზუსტი ფორმატი – მაგალითები ეხმარება მოდელს, ზუსტად შენთვის საჭირო ფორმით უპასუხოს.
• ფაინ-თიუნინგის გარეშე – ხშირად ცალკე ტრენინგის ნაცვლად რამდენიმე მაგალითიც საკმარისია.
• ფრთხილად – ცუდი ან ცალმხრივი მაგალითები მოდელს არასწორ მიმართულებას მისცემს.

როგორ შევარჩიოთ კარგი ნიმუშები

მაგალითების ხარისხი მათ რაოდენობაზე მნიშვნელოვანია. კარგი მაგალითი ზუსტად ასახავს სასურველ ფორმატს და ტონს. თუ ყველა მაგალითი ერთნაირია, მაგალითად ყველა დადებითი შეფასებაა, მოდელი შეიძლება ამ მიმართულებით გადაიხაროს, ამიტომ ჯობს მაგალითები მრავალფეროვანი იყოს.

მაგალითების თანმიმდევრობასაც აქვს მნიშვნელობა: ზოგჯერ მოდელი ბოლო მაგალითს უფრო მეტად ბაძავს. რთული ამოცანებისთვის სასარგებლოა მაგალითებში არა მხოლოდ პასუხის, არამედ მსჯელობის ნაბიჯების ჩვენებაც, რაც chain-of-thought მიდგომას უკავშირდება.

ნიმუშები კონტექსტის ფანჯარაში ადგილს იკავებს და ყოველ მოთხოვნაზე ხარჯს ზრდის. თუ ერთი და იგივე ამოცანა ათასობითჯერ სრულდება, ზოგჯერ უფრო მომგებიანია ფაინ-თიუნინგი, რომლის შემდეგაც მაგალითები პრომპტში აღარ არის საჭირო.

ზოგი სისტემა მაგალითებს ავტომატურად ირჩევს: მოთხოვნის მსგავს მაგალითებს ბაზიდან სემანტიკური ძიებით პოულობს და პრომპტში ამატებს. ასე ყოველი მოთხოვნა ყველაზე შესაბამის ნიმუშებს იღებს.

ტერმინი ფართოდ გავრცელდა 2020 წელს GPT-3-ის წარდგენის შემდეგ, როცა აჩვენეს, რომ დიდ მოდელს რამდენიმე მაგალითით ახალი ამოცანის შესრულება შეუძლია წონების შეცვლის გარეშე.

დაკავშირებული ტერმინები

ნულოვანი სწავლება · პრომპტი · პრომპტ ინჟინერია · კონტექსტის ფანჯარა · ფაინ-თიუნინგი · AI ლექსიკონი

ხშირად დასმული კითხვები

შეჯამება

ნიმუშებით სწავლება ნიშნავს პრომპტში რამდენიმე მაგალითის მიცემას. ეს მარტივი ხერხი მოდელის პასუხებს უფრო ზუსტს და თანმიმდევრულს ხდის.