OpenAI-მ AI უსაფრთხოების რისკების შეფასების გუნდი, ე.წ. Preparedness Team დაშალა. გუნდის მთავარი ამოცანა იყო შეეფასებინა, შეეძლო თუ არა კომპანიის AI მოდელებს მძიმე ან კატასტროფული რისკების შექმნა და ემუშავა ამ საფრთხეების შემცირების გზებზე. ინფორმაციას Financial Times ავრცელებს.
გუნდის დაშლა არ ნიშნავს, რომ OpenAI-მ მისი ყველა ფუნქცია გააუქმა. პასუხისმგებლობები კონკრეტული მიმართულებების მიხედვით გადანაწილდა და კომპანიის უკვე არსებულ გუნდებში გადავიდა. მათ შორის ცალკე გამოიყო ბიოლოგიურ და კიბერუსაფრთხოებასთან დაკავშირებული რისკები.
სარჩევი
რას აკეთებდა AI უსაფრთხოების რისკების შეფასების გუნდი
AI უსაფრთხოების რისკების შეფასების გუნდი OpenAI-ის ყველაზე ძლიერი მოდელების შესაძლებლობებთან დაკავშირებულ სერიოზულ საფრთხეებს სწავლობდა. მისი ფუნქცია იყო შეეფასებინა, შეიძლებოდა თუ არა მოდელის შესაძლებლობებს მძიმე ან კატასტროფული შედეგები მოჰყოლოდა და რა ზომებით შეიძლებოდა ამ რისკების შემცირება.
ამ მიმართულებაში შედიოდა ისეთი სფეროებიც, როგორიცაა კიბერუსაფრთხოება და ბიოლოგიური რისკები. შესაბამისად, საუბარი არ ყოფილა მხოლოდ მოდელის ჩვეულებრივ შეცდომებზე ან არასასურველ პასუხებზე – გუნდი უფრო მაღალი დონის საფრთხეებზე მუშაობდა.
რა შეიცვლება გუნდის დაშლის შემდეგ
OpenAI უსაფრთხოების ამ მიმართულებებზე მუშაობას მთლიანად არ წყვეტს. Financial Times-ის წყაროების მიხედვით, AI უსაფრთხოების რისკების შეფასების გუნდის პასუხისმგებლობები სპეციალიზებულ მიმართულებებად დაიყო და არსებულ გუნდებს გადაეცა.
მაგალითად, ბიოლოგიურ და კიბერუსაფრთხოების რისკებზე პასუხისმგებლობა შესაბამის მიმართულებებში მომუშავე თანამშრომლებს გადაეცათ. ამგვარად, ცვლილება უფრო უსაფრთხოების ფუნქციების რეორგანიზაციას წარმოადგენს, ვიდრე მათი სრულად გაუქმებას.
ამასთან, გუნდის დაშლა აჩენს კითხვას, როგორ მოხდება სხვადასხვა მაღალი დონის რისკის ერთიანად შეფასება. სწორედ Preparedness Team წარმოადგენდა სტრუქტურას, რომლის ძირითადი დანიშნულებაც ასეთი საფრთხეების სისტემურად შესწავლა იყო.
გუნდის ხელმძღვანელი OpenAI-ში რჩება
Preparedness Team-ს დილან სკანდინარო (Dylan Scandinaro) ხელმძღვანელობდა. ის OpenAI-ს 2026 წლის თებერვალში Anthropic-დან შეუერთდა.
გუნდის დაშლის მიუხედავად, სკანდინარო OpenAI-ში რჩება. გავრცელებული ინფორმაციით, ის ახლა ე.წ. recursive self-improving AI-ის უსაფრთხოების შედეგების კვლევაზე გადადის – სისტემებზე, რომლებსაც საკუთარი შესაძლებლობების გაუმჯობესებასა და სხვა მოდელების გაწვრთნაში AI-ის გამოყენება შეუძლიათ.
OpenAI-ში უსაფრთხოების სტრუქტურა უკვე არაერთხელ შეიცვალა
ეს OpenAI-ში უსაფრთხოებასთან დაკავშირებული გუნდის დაშლის პირველი შემთხვევა არ არის. ბოლო წლებში კომპანიამ გააუქმა ან გადააწყო რამდენიმე ცალკეული სტრუქტურა, რომელიც მოწინავე AI სისტემების უსაფრთხოებასა და მათ შესაძლო გავლენაზე მუშაობდა.
მათ შორის იყო Superalignment გუნდი, რომელიც განსაკუთრებით ძლიერი AI სისტემების ადამიანურ მიზნებთან შესაბამისობის პრობლემაზე მუშაობდა. Financial Times ასევე წერს, რომ აღარ არსებობს ცალკე AGI readiness მიმართულებაც.
ამ ცვლილებებს უსაფრთხოებასთან დაკავშირებული რამდენიმე თანამშრომლის წასვლაც დაემთხვა. OpenAI ბოლო პერიოდში დატოვეს ეთიკის მიმართულების ხელმძღვანელმა ქლოე ბაკალარმა (Chloé Bakalar), Chief Futurist-ის პოზიციაზე მყოფმა ჯოშ აჩიამმა (Josh Achiam) და უსაფრთხოების მიმართულების ხელმძღვანელმა იოჰანეს ჰაიდეკემ (Johannes Heidecke).
რატომ იქცევს ცვლილება ყურადღებას?
AI უსაფრთხოების რისკების შეფასების გუნდის დაშლა OpenAI-ში უფრო ფართო რეორგანიზაციის ფონზე მოხდა. Financial Times-ის ცნობით, კომპანიაში მიმდინარე ცვლილებები ემთხვევა პერიოდს, როდესაც OpenAI შესაძლო IPO-სთვის ემზადება და ორგანიზაციული სტრუქტურის გამარტივებაზე მუშაობს.
OpenAI-ის ყოფილი თანამშრომელი იან ლეიკე (Jan Leike), რომელიც 2024 წელს Superalignment გუნდიდან წავიდა, წარსულშიც აკრიტიკებდა კომპანიის უსაფრთხოების მიმართულებას. ახალი ცვლილებების ფონზე კვლავ გაჩნდა დისკუსია იმის შესახებ, რამდენად დიდი ადგილი უჭირავს უსაფრთხოების კვლევას კომპანიაში, რომელიც პარალელურად სწრაფად ავითარებს და უშვებს ახალ პროდუქტებს.
თავად OpenAI-ის პოზიცია განსხვავებულია. კომპანიის თანადამფუძნებელმა გრეგ ბროკმანმა (Greg Brockman) Financial Times-ს განუცხადა, რომ ტექნოლოგიური პროგრესი უფრო ძლიერ უსაფრთხოების მექანიზმებს მოითხოვს და კომპანიამ კვლევა, უსაფრთხოება და დაცვა მოდელების განვითარების პროცესში უფრო ღრმად გააერთიანა.
რა არის ახლა მთავარი საკითხი
ამ ეტაპზე ფაქტია, რომ OpenAI-ში AI უსაფრთხოების რისკების შეფასების გუნდი ცალკე ერთეულის სახით აღარ არსებობს. ამავე დროს, მისი ფუნქციების ნაწილი სხვა გუნდებში გადავიდა, ამიტომ ცვლილების უსაფრთხოების მიმართულების სრულად გაუქმებად შეფასება ზუსტი არ იქნება.
მთავარი საკითხი ახლა ისაა, როგორ იმუშავებს ახალი სტრუქტურა პრაქტიკაში – როგორ შეფასდება სხვადასხვა ტიპის მაღალი რისკი, როგორ გადანაწილდება პასუხისმგებლობა და რამდენად ეფექტურად შეძლებენ სპეციალიზებული გუნდები იმ ფუნქციების შესრულებას, რომლებიც აქამდე ერთ Preparedness Team-ში იყო თავმოყრილი.
სხვა თემები
Claude – Anthropic-ის AI ასისტენტი
AI-სიახლეები: როგორ ვითარდება ინდუსტრია
ფულის გამომუშავება ხელოვნური ინტელექტით – ექვსი გზა