მიკერძოება (AI bias) – როცა მოდელი სისტემატურად უსამართლო ან ცალმხრივ შედეგს იძლევა, ხშირად მიკერძოებული სასწავლო მონაცემების გამო.
როგორ მუშაობს მიკერძოება
AI მოდელი მონაცემებიდან სწავლობს, ხოლო მონაცემები ადამიანთა სამყაროს ასახავს, მათ შორის მის უთანასწორობასაც. თუ ტრენინგის მონაცემებში ზოგი ჯგუფი ნაკლებადაა წარმოდგენილი ან სტერეოტიპულად არის აღწერილი, მოდელი ამ კანონზომიერებას ისწავლის და გაიმეორებს. მიკერძოება შეიძლება წარმოიშვას აგრეთვე ამოცანის არასწორი დასმიდან ან შეფასების მეთოდიდან.
მაგალითი ყოველდღიური ცხოვრებიდან
თუ სახის ამოცნობის სისტემა ძირითადად ერთი ეთნიკური ჯგუფის ფოტოებზე ისწავლის, სხვა ჯგუფის წარმომადგენლებს შეიძლება უფრო ხშირად შეეშალოს. ასევე, ენობრივმა მოდელმა პროფესიები შეიძლება სტერეოტიპულად დაუკავშიროს სქესს.
რატომ არის მიკერძოება მნიშვნელოვანი
- სამართლიანობა – მიკერძოებულმა სისტემამ შეიძლება ადამიანებს უსამართლოდ უარი უთხრას სამსახურზე ან სესხზე.
- ნდობა – მიკერძოება ამცირებს AI-ის მიმართ ნდობას.
- ენები – ნაკლებად გავრცელებულ ენებზე, მათ შორის ქართულზე, მოდელები ხშირად უარესად მუშაობენ.
წაიკითხე: AI სისტემების ეთიკა: MIT-ის ახალი ტესტირების მეთოდი.
მიკერძოების წყაროები
მიკერძოება სხვადასხვა ეტაპზე შეიძლება გაჩნდეს. პირველი წყარო მონაცემებია: თუ ისინი ძირითადად ერთი ქვეყნიდან, ენიდან ან სოციალური ჯგუფიდანაა, მოდელი სამყაროს ამ ჯგუფის თვალით დაინახავს. მეორე წყარო ანოტაციაა, რადგან ეტიკეტებს ადამიანები ანიჭებენ და მათი შეხედულებები შედეგზე აისახება. მესამე წყარო ამოცანის დასმაა: არასწორად შერჩეული მიზანი უსამართლო შედეგს შეიძლება იძლეოდეს.
მიკერძოების შესამცირებლად კომპანიები მოდელს სხვადასხვა ჯგუფზე ცალ-ცალკე ამოწმებენ და შედეგებს ადარებენ. მონაცემებს ამატებენ ნაკლებად წარმოდგენილი ჯგუფების მაგალითებს, ხოლო მნიშვნელოვან გადაწყვეტილებებში საბოლოო სიტყვას ადამიანს უტოვებენ. მომხმარებლისთვის კი სასარგებლოა, რომ AI-ის პასუხი, განსაკუთრებით ადამიანებზე მსჯელობისას, კრიტიკულად შეაფასოს.
მიკერძოება ყოველთვის აშკარა არ არის. მოდელი შეიძლება პირდაპირ არ იყენებდეს სქესს ან ეროვნებას, მაგრამ იყენებდეს მათთან დაკავშირებულ სხვა მონაცემს, მაგალითად საცხოვრებელ უბანს ან სახელს. ამიტომ მხოლოდ ერთი მახასიათებლის ამოღება პრობლემას ვერ აგვარებს. საჭიროა შედეგების რეგულარული ანალიზი და მზადყოფნა, რომ აღმოჩენილი პრობლემა დროულად გამოსწორდეს.
დაკავშირებული ტერმინები
დატასეტი · ალაინმენტი · ახსნადი AI · ჰალუცინაცია · მანქანური სწავლება · AI ლექსიკონი
ხშირად დასმული კითხვები
შეიძლება მიკერძოების სრულად აღმოფხვრა?
სრულად რთულია, მაგრამ მისი შემცირება შესაძლებელია მრავალფეროვანი მონაცემებით, ტესტირებითა და მონიტორინგით.
ვინ არის პასუხისმგებელი მიკერძოებაზე?
პასუხისმგებლობა ეკისრება სისტემის შემქმნელებს და მათ, ვინც მას რეალურ გადაწყვეტილებებში იყენებს.
შეჯამება
AI მიკერძოება მაშინ ჩნდება, როცა მოდელი მონაცემებში არსებულ უთანასწორობას იმეორებს. მისი შემცირება სამართლიანი AI-ის მთავარი ამოცანაა.