დემის ჰასაბისი, Google DeepMind-ის თანადამფუძნებელი და აღმასრულებელი დირექტორი, აქვეყნებს პირად ესსეს სათაურით “A Framework for Frontier AI and the Dawning of a New Age”. ნობელის პრემიის ლაურეატი წერს, რომ ზოგადი ხელოვნური ინტელექტი (AGI) სავარაუდოდ სულ რამდენიმე წელიწადით შორსაა და აშშ-ს სთავაზობს ახალი სტანდარტების ორგანოს შექმნას, რომელიც Frontier-კლასის AI მოდელებს გამოშვებამდე შეამოწმებს.
ესსე ჰასაბისმა საკუთარ Substack-ზე გამოაქვეყნა და X-ზეც გააზიარა. ეს მისი აქამდე ყველაზე დეტალური საჯარო წინადადებაა AI-ის რეგულირების შესახებ.
სარჩევი
რას წერს დემის ჰასაბისი AGI-ის მოახლოებაზე
ჰასაბისის თქმით, ეს გარდამტეხი მომენტია კაცობრიობის ისტორიაში და ჩვენ “სინგულარობის მთის წვერში” ვდგავართ. AGI-ს ის ელექტროენერგიის ან ცეცხლის აღმოჩენას ადარებს და არა ინტერნეტს ან მობილურ ტექნოლოგიებს.
მისი შეფასებით, ამ ტექნოლოგიის გავლენა შესაძლოა ინდუსტრიულ რევოლუციაზე 10-ჯერ მასშტაბური იყოს და 10-ჯერ სწრაფად განვითარდეს. “ჩვენ, ფაქტობრივად, ვიპოვეთ გზა, როგორ ვაფიქროთ ქვიშა. ეს სასწაულია”, – წერს ის.
ამავდროულად, ჰასაბისი ღიად საუბრობს რისკებზეც. მისი თქმით, Frontier მოდელები უკვე ქმნიან გამოწვევებს კიბერუსაფრთხოებაში, ხოლო მომავალში შესაძლოა ბიოლოგიური და ბირთვული საფრთხეებიც გაჩნდეს. პრობლემა ისაა, რომ დარგი ინტენსიურ კომერციულ და გეოპოლიტიკურ რბოლაშია ჩართული და პროგრესი ტექნოლოგიის გააზრებას უსწრებს.
FINRA-ს მოდელზე აგებული სტანდარტების ორგანო
ესსეს ცენტრალური წინადადება ასეთია: აშშ-მ უნდა შექმნას ახალი სტანდარტების ორგანო, რომელიც FINRA-ს – უოლ-სტრიტის ინდუსტრიის მიერ დაფინანსებული თვითრეგულირების ორგანიზაციის – მოდელზე იქნება აგებული. დაფინანსება ძირითადად ინდუსტრიისგან უნდა მოდიოდეს, რათა ორგანომ მსოფლიო დონის ტექნიკური ტალანტი მოიზიდოს და მასშტაბური ტესტირებისთვის საკმარისი გამოთვლითი რესურსი ჰქონდეს.
ორგანოს საბჭოში დამოუკიდებელი ტექნიკური ექსპერტები და ღია კოდის წარმომადგენლები იქნებიან. ჰასაბისის ხედვით, წესები ყველა Frontier-კლასის მოდელს შეეხება, წარმოშობის ქვეყნისა და ღია თუ დახურული სტატუსის მიუხედავად. სტარტაპებისა და აკადემიური სექტორის არა-Frontier მოდელები კი პროცესისგან გათავისუფლდებიან.
როგორ იმუშავებს შემოწმების პროცესი
საწყის ეტაპზე Frontier ლაბორატორიები მოდელებს ნებაყოფლობით გაუზიარებენ ორგანოს, გამოშვებამდე 30 დღით ადრე. მას შემდეგ, რაც შეფასების პროტოკოლი ეფექტიანობას დაამტკიცებს, პროცესი შესაძლოა ფორმალიზდეს – ანუ მოდელს ტესტის ჩაბარება აშშ-ის ბაზარზე გამოსაშვებად მოეთხოვება.
შეფასებები მოიცავს:
- კიბერუსაფრთხოებისა და ბიოლოგიური საფრთხეების მკაცრ სამეცნიერო ტესტებს
- აგენტური AI-ის შემოწმებას დამცავი მექანიზმების გვერდის ავლის მცდელობებსა და მოტყუების ნიშნებზე
- საუკეთესო პრაქტიკების დანერგვას, მაგალითად AI-გენერირებული სურათების ციფრულ ვოთერმარკინგს
ბენჩმარკები რეგულარულად, თავიდან სავარაუდოდ კვარტალურად განახლდება. დროთა განმავლობაში ორგანომ საკუთარი, ლაბორატორიებისგან დამოუკიდებელი ტესტები უნდა შექმნას, რათა მოდელების “გადატრენინგება” კონკრეტულ ბენჩმარკებზე გამოირიცხოს. საჭიროების შემთხვევაში ორგანოს Frontier ლაბორატორიებს შორის განვითარების შენელების კოორდინაციაც შეეძლება.
რატომ ახლა – კონტექსტი კულისებს მიღმა
Axios-თან ინტერვიუში ჰასაბისმა თქვა, რომ დღევანდელი AI კიბერრისკები “გამაფრთხილებელი გასროლებია”, ხოლო 18 თვეში ეს შესაძლებლობები შესაძლოა ღია კოდის მოდელებშიც აღმოჩნდეს, სადაც მთავრობის კონტროლი ვეღარ მიწვდება.
მისივე თქმით, გასულ თვეს ტრამპის ადმინისტრაციის მოულოდნელი ზომები Anthropic-ის Mythos და Fable მოდელების მიმართ “გარკვეულწილად გამოღვიძების ზარი” იყო – მოდელები საექსპორტო კონტროლის ბრძანებით ერთ ღამეში გაიყინა და მათი განბლოკვის მოლაპარაკებები ორნახევარი კვირა გაგრძელდა, ყოველგვარი დადგენილი წესებისა და პროტოკოლის გარეშე. აღსანიშნავია, რომ Anthropic-ის ხელმძღვანელ დარიო ამოდეისაც აქვს საკუთარი წინადადება სავალდებულო რეგულირებაზე, FAA-ის ტიპის სააგენტოს სახით.
მომავალი ჯერ არ დაწერილა
ესსეს დასკვნით ნაწილში ჰასაბისი წერს, რომ ტექნიკური გამოწვევების გადაჭრის შემდეგაც დარჩება რთული ეკონომიკური და ფილოსოფიური კითხვები: როგორი ეკონომიკური მოდელები დასჭირდება პოსტ-დეფიციტურ სამყაროს და როგორ შეიცვლება აზრი და დანიშნულება ადამიანის ცხოვრებაში.
მისი მთავარი გზავნილი კი ასეთია: AGI-მდე დარჩენილი დრო ძვირფასი ფანჯარაა, რომელიც ტექნოლოგიის მთელი კაცობრიობის სასარგებლოდ ჩამოსაყალიბებლად უნდა გამოვიყენოთ. Google DeepMind-ის ხელმძღვანელის აზრით, ის, რასაც ახლა კოლექტიურად გავაკეთებთ, განსაზღვრავს, როგორ წარიმართება ცივილიზაციის შემდეგი ეტაპი.
სხვა თემები
NVIDIA AVO-მ ARC-AGI-3-ის საჯარო ტესტზე 100% შედეგი აჩვენა
ხელოვნური ინტელექტის ტიპები – გზამკვლევი
ჯეფ დინი Google-ს ტოვებს, ჰასაბისი ახალ პოზიციაზე გადადის