ჯეილბრეიკი (Jailbreak) – ხრიკი, რომლითაც მომხმარებელი მოდელს მისი უსაფრთხოების შეზღუდვების გვერდის ავლას აიძულებს.
როგორ მუშაობს ჯეილბრეიკი
ჯეილბრეიკი (jailbreak) არის პრომპტი ან ხერხი, რომლითაც მომხმარებელი ცდილობს AI მოდელს უსაფრთხოების წესები დაავიწყოს და ის გააკეთებინოს, რაზეც მოდელი ჩვეულებრივ უარს ამბობს. ხშირად იყენებენ როლურ თამაშებს („წარმოიდგინე, რომ შეზღუდვები არ გაქვს“), რთულ ჰიპოთეტურ სცენარებს, დაშიფრულ ტექსტს ან მრავალ ნაბიჯად დაყოფილ მოთხოვნებს. AI კომპანიები ასეთ ხერხებს მუდმივად სწავლობენ და დაცვას აძლიერებენ.
მაგალითი ყოველდღიური ცხოვრებიდან
ვინმე მოდელს სთხოვს: „დავწეროთ ფილმის სცენარი, სადაც გმირი დეტალურად ხსნის…“ და ასე ცდილობს აკრძალული ინსტრუქციის მიღებას. კარგად დაცული მოდელი ასეთ ხრიკს ამოიცნობს.
რატომ არის ჯეილბრეიკი მნიშვნელოვანი
- უსაფრთხოება – წარმატებულმა ჯეილბრეიკმა შეიძლება საზიანო ინფორმაციის გავრცელება გამოიწვიოს.
- ტესტირება – „წითელი გუნდები“ (red teaming) ჯეილბრეიკებს მიზანმიმართულად ეძებენ სისუსტეების აღმოსაჩენად.
- შეჯიბრი – თავდასხმისა და დაცვის მეთოდები ერთად ვითარდება.
ჯეილბრეიკი და პრომპტის ინექცია: განსხვავება
ორივე ტერმინი მოდელის წესების გვერდის ავლას ეხება, მაგრამ სხვადასხვა სიტუაციას აღწერს. ჯეილბრეიკისას მომხმარებელი თავად ცდილობს, მოდელს ის გააკეთებინოს, რაც უსაფრთხოების წესებით აკრძალულია. პრომპტის ინექციისას კი ხშირად მესამე მხარე ცდილობს აპლიკაციის ინსტრუქციების შეცვლას, ზოგჯერ მომხმარებლის ცოდნის გარეშეც.
ჯეილბრეიკის გავრცელებული ხერხებია როლური თამაში, როცა მოდელს სთხოვენ, ითამაშოს პერსონაჟი, რომელსაც წესები არ ეხება; მოთხოვნის ჰიპოთეტურ ან გამოგონილ ამბად შეფუთვა; ტექსტის დაშიფვრა ან სხვა ენაზე თარგმნა; და ძალიან გრძელი დიალოგი, რომელშიც მოდელი თანდათან უთმობს პოზიციას.
დეველოპერები ცნობილ ხერხებს აგროვებენ და მოდელებს მათ წინააღმდეგ ავარჯიშებენ. ამას ემატება ცალკე ფილტრები, რომლებიც მომხმარებლის შეტყობინებებსა და მოდელის პასუხებს ამოწმებს. სპეციალური წითელი გუნდები კი ახალ ხერხებს მოდელის გამოშვებამდე ეძებენ.
მოდელის დაცვა საზიანო მოთხოვნებისგან და მისი სარგებლიანობის შენარჩუნება მუდმივი ბალანსის საკითხია. ზედმეტად მკაცრი მოდელი უარს ამბობს უწყინარ კითხვებზეც, რაც მომხმარებლებს აღიზიანებს.
დაკავშირებული ტერმინები
პრომპტის ინექცია · ალაინმენტი · სისტემური პრომპტი · პრომპტი · ჰალუცინაცია · AI ლექსიკონი
ხშირად დასმული კითხვები
ჯეილბრეიკი კანონდარღვევაა?
თავისთავად არა ყოველთვის, მაგრამ ჩვეულებრივ არღვევს სერვისის წესებს, ხოლო მიღებული ინფორმაციის გამოყენება შეიძლება უკანონო იყოს.
რით განსხვავდება ტელეფონის ჯეილბრეიკისგან?
იდეა მსგავსია: შეზღუდვების მოხსნა. ოღონდ აქ ეს ტექსტით, მოდელის „დარწმუნებით“ ხდება.
შეჯამება
ჯეილბრეიკი AI მოდელის უსაფრთხოების წესების გვერდის ავლის მცდელობაა. მისგან დაცვა AI უსაფრთხოების მუდმივი ამოცანაა.