Claude Fable-5-ისთვის Anthropic-მა ბიოლოგიურ თემებზე მოქმედი უსაფრთხოების მექანიზმები განაახლა. კომპანიის განცხადებით, ცვლილებების შედეგად ბიოლოგიასთან დაკავშირებული ზედმეტი შეზღუდვები მნიშვნელოვნად შემცირდა, რის გამოც მოდელს ახლა უფრო ფართო სპექტრის ყოველდღიურ ჯანმრთელობისა და საგანმანათლებლო კითხვებზე შეუძლია პასუხის გაცემა.
ეს განახლება ავითარებს მოდელის შესაძლებლობებს
სარჩევი
Claude Fable-5-ში შემცირდა მცდარი შეზღუდვები
Anthropic-ის ინფორმაციით, შიდა ტესტირებისას განახლებამ ბიოლოგიურ თემებზე არასაჭირო უარის შემთხვევები დაახლოებით 85%-ით შეამცირა კომპანიის სხვადასხვა პროდუქტში.
პრაქტიკაში ეს ნიშნავს, რომ Claude Fable 5 უფრო ხშირად უპასუხებს ისეთ შეკითხვებს, რომლებიც ეხება ჯანმრთელობას, ბიოლოგიის სწავლებას ან სხვა ყოველდღიურ საგანმანათლებლო საკითხებს, მაშინ როდესაც ადრე მსგავსი მოთხოვნები ზოგჯერ ზედმეტად იზღუდებოდა.
რომელ თემებზე დარჩა შეზღუდვები?
მიუხედავად განახლებისა, კომპანია ხაზგასმით აღნიშნავს, რომ გარკვეული კატეგორიის მოთხოვნები კვლავ განსაკუთრებული კონტროლის ქვეშ რჩება.
თუ მოთხოვნა შეეხება ისეთ მიმართულებებს, რომლებსაც Anthropic ორმაგი დანიშნულების (dual-use) რისკის შემცველად მიიჩნევს, Claude Fable-5 კვლავ Opus 5-ზე გადაერთვება. ეს ეხება, მათ შორის:
- ვირუსოლოგიას;
- ტოქსიკოლოგიას;
- მოლეკულურ დიზაინს.
კომპანიის შეფასებით, ამ ეტაპზე Claude Fable-5 ჯერ კიდევ არ არის განკუთვნილი პროფესიონალური ბიოლოგიური კვლევებისა და მედიკამენტების შექმნის პროცესისთვის, ყოველ შემთხვევაში, მისი საჯარო ხელმისაწვდომობისთვის.
რატომ არის ეს ცვლილება მნიშვნელოვანი?
Anthropic მიიჩნევს, რომ ხელოვნური ინტელექტის ყველაზე მნიშვნელოვანი დადებითი გავლენა მომავალში სწორედ ბიოლოგიასა და მედიცინაში გამოჩნდება. ამიტომ კომპანიის მიზანია, რაც შეიძლება მეტ მკვლევარს უსაფრთხოდ მიაწოდოს თანამედროვე AI შესაძლებლობები.
ამავე დროს, კომპანია აცხადებს, რომ მომავალშიც იმუშავებს ისეთი სანდო წვდომის მექანიზმების შექმნაზე, რომლებიც ბიოლოგიის მიმართულებით უფრო ძლიერი AI შესაძლებლობების გამოყენებას უსაფრთხოების მოთხოვნებთან დააბალანსებს.
რას ნიშნავს ეს Claude Fable-5-ის მომხმარებლებისთვის
ამ განახლების შემდეგ Claude Fable-5 უფრო ნაკლებად დაბლოკავს უსაფრთხო და ლეგიტიმურ ბიოლოგიურ შეკითხვებს, რაც განსაკუთრებით სასარგებლოა სტუდენტებისთვის, მასწავლებლებისთვის და იმ მომხმარებლებისთვის, რომლებიც ჯანმრთელობისა და მეცნიერების თემებზე ზოგადი ინფორმაციის მიღებას ცდილობენ.
ამასთან, მაღალი რისკის მქონე ბიოლოგიურ მიმართულებებზე არსებული შეზღუდვები ძალაში რჩება, რაც აჩვენებს, რომ Anthropic ცდილობს შესაძლებლობების გაფართოებას უსაფრთხოების არსებული პოლიტიკის შენარჩუნებასთან ერთად.
წყაროები
სხვა თემები
ვოლტ ნაწილაკები: Claude-ის აღმოჩენა ბაქტერიებში
ChatGPT-ის მომხმარებლები 1,2 მილიარდია: OpenAI ამბობს, რომ ძიება Google-ის მეხუთედს აღწევს
Provable inference: Anthropic-მა FlashProve წარადგინა, AI პასუხის წარმომავლობის კრიპტოგრაფიული მტკიცებულება