1,100-ზე მეტმა თანამშრომელმა წამყვანი AI კომპანიებიდან ხელი მოაწერა საჯარო განცხადებას Pacing the Frontier, რომელიც აშშ-ის მთავრობას მოუწოდებს, მხარი დაუჭიროს საერთაშორისო ძალისხმევას ხელოვნური ინტელექტის განვითარების ტემპის რეგულირებისთვის. ხელმომწერთა შორის არიან OpenAI-ის, Anthropic-ის, Google-ისა და Meta-ს შესაბამისი დარგების ხელმძღვანელები და თანამშრომლები.
ეს ერთ-ერთი ყველაზე მასშტაბური კოლექტიური მიმართვაა, რომელსაც უშუალოდ frontier მოდელებზე მომუშავე ადამიანები აწერენ ხელს.
სარჩევი
რას ითხოვს Pacing the Frontier
განცხადების მთავარი მოთხოვნა ერთი შემდეგია: აშშ-ის მთავრობამ მხარი დაუჭიროს საერთაშორისო ძალისხმევას, რომელიც შექმნის ტექნიკურ და მმართველობით ინსტრუმენტებს ავტომატიზებული AI განვითარების წინა ხაზზე ტემპის დასარეგულირებლად.
ტექსტში აღნიშნულია, რომ წამყვან AI კომპანიებს სჯერათ, ისინი ახლოს არიან AI კვლევის ავტომატიზაციასთან. ავტორების თქმით, ძნელად პროგნოზირებადია, რამდენად დააჩქარებს ეს პროგრესს, თუმცა არსებობს რეალური რისკი, რომ სისტემების შესაძლებლობები გაცდეს ჩვენს უნარს, ვაკონტროლოთ ისინი.
განცხადებაში ასევე ახსნილია, თუ რატომ არ მუშაობს ინდივიდუალური მოქმედება. თითოეული კომპანია და ქვეყანა კონკურენტული წნეხის ქვეშაა და ცალმხრივად შენელება არავის აწყობს, ხოლო მსოფლიოს დღეს არ გააჩნია ინსტრუმენტები, რომლითაც მთელი ინდუსტრიის ტემპს დაარეგულირებდა.
რომელი კომპანიების თანამშრომლები აწერენ ხელს
ხელმომწერთა სიაში წარმოდგენილია შემდეგი ორგანიზაციები:
- OpenAI და OpenAI Foundation
- Anthropic
- Google და Google DeepMind
- Meta
- Thinking Machines
- Inherent
ცნობილი ხელმომწერები
სიაში არიან ადამიანები, რომლებიც უშუალოდ ხელმძღვანელობენ frontier კვლევებს:
ცნობილი ხელმომწერები
საიტზე ხილულ ოცეულში არიან ადამიანები, რომლებიც უშუალოდ ხელმძღვანელობენ frontier კომპანიებსა და კვლევას:
- დარიო ამოდეი – Anthropic-ის აღმასრულებელი დირექტორი
- იაკუბ პაჩოცკი – OpenAI-ის მთავარი მეცნიერი
- ჯარედ კაპლანი – Anthropic-ის თანადამფუძნებელი და მთავარი სამეცნიერო ოფიცერი
- შენჯია ჟაო – Meta AI-ის მთავარი მეცნიერი
- ჯონ შულმანი – Thinking Machines-ის მთავარი მეცნიერი
- მარკ ჩენი – OpenAI-ის კვლევის მთავარი ხელმძღვანელი
- ჯასჯიტ სეხონი – Google DeepMind-ის სტრატეგიის მთავარი ხელმძღვანელი
- ანკა დრაგანი – Google-ის ვიცე-პრეზიდენტი AI უსაფრთხოებისა და გასწორების მიმართულებით
- დონ სონგი – Meta-ს ვიცე-პრეზიდენტი AI კვლევაში
- ვოიცეხ ზარემბა – OpenAI Foundation-ის AI მედეგობის ხელმძღვანელი
- ჯეკ კლარკი – Anthropic-ის თანადამფუძნებელი და საზოგადოებრივი სარგებლის მიმართულების ხელმძღვანელი
- კრის ოლა – Anthropic-ის თანადამფუძნებელი და ინტერპრეტირებადობის კვლევის ხელმძღვანელი
- ბენჯამინ მანი – Anthropic-ის თანადამფუძნებელი
- სამერ იუე – Meta-ს გასწორებისა და რისკების მიმართულების დირექტორი
- ლორა ვაიდინგერი და სტეფანი ჩანი – Google-ის უფროსი მკვლევრები
- იან ლაიკე, იულიან შრიტვიზერი, მაიკ კრიგერი – Anthropic
- ბოაზ ბარაკი – OpenAI
Anthropic-ის ოფიციალური პოზიცია
Anthropic-მა განაცხადა, რომ მხარს უჭერს პეტიციას, რომელსაც ხელი მოაწერეს კომპანიის აღმასრულებელმა დირექტორმა, რამდენიმე თანადამფუძნებელმა და უფროსმა თანამშრომლებმა.
კომპანიის თქმით, რეკურსიულ თვითგაუმჯობესებაზე გასულ თვეს გამოქვეყნებული მათივე კვლევა სწორედ იმაზე მიუთითებს, რომ საჭიროა ინსტრუმენტები AI განვითარების წინა ხაზზე ტემპის დასარეგულირებლად, რათა საზოგადოებას მოსამზადებელი დრო ჰქონდეს.
Anthropic ასევე აღნიშნავს, რომ მოხარულია ამ საკითხზე დარგში ფართო თანხმობის დანახვით.
რა არის რეკურსიული თვითგაუმჯობესება
განცხადების ფოკუსია „ავტომატიზებული AI განვითარება” – ის მომენტი, როცა ხელოვნური ინტელექტი თავად შეძლებს საკუთარი თავის გაუმჯობესებას. ინდუსტრიაში ამას რეკურსიულ თვითგაუმჯობესებას უწოდებენ.
სწორედ ეს ციკლია ხელმომწერების მთავარი შეშფოთების წყარო, რადგან ის პროგრესის ტემპს ადამიანური კონტროლისგან დამოუკიდებლად ზრდის.
რატომ სწორედ ახლა
Pacing the Frontier გამოქვეყნდა მას შემდეგ, რაც OpenAI-მ განაცხადა, რომ მისმა მოწინავე მოდელებმა Hugging Face-ის შიდა სისტემები გატეხეს. კომპანიამ ინციდენტი უპრეცედენტოდ შეაფასა და ამან ტექნოლოგიაზე შეზღუდვების დაწესების მოთხოვნები გააძლიერა.
განცხადებას თან ახლავს 70-მდე პირადი კომენტარი, რომლებიც ხელმომწერებმა პირადი შეხედულებით დაწერეს და არა კომპანიების სახელით. მათში მეორდება ერთი აზრი: პროგრესის ტემპი აჩქარდა და კოორდინაციის მექანიზმები ჩამორჩება.
OpenAI-ის ოფიციალური პოზიცია
OpenAI-მ ცალკე განცხადებით დააფიქსირა, რომ მთავარი კითხვაა, როგორ უნდა ისარგებლოს ყველაზე ძლიერი AI-ით ყველამ.
კომპანიის თქმით, მომავალში frontier მოდელების განვითარების აჩქარება შესაძლოა იმდენად მაღალი გახდეს, რომ მსოფლიოს დასჭირდეს AI-ის წინსვლის ტემპის რეგულირება. OpenAI აცხადებს, რომ სურს წვლილი შეიტანოს აშშ-ის მთავრობის მიერ წარმართულ სამუშაოში, სხვა ლაბორატორიებთან და ღია კოდის საზოგადოებასთან ერთად, ისეთი ინსტრუმენტებისა და მექანიზმების შესამუშავებლად, რაც ამას შესაძლებელს გახდის.
ჰასაბისის ესსე იმავე პრობლემაზე
ახლახანს Google DeepMind-ის თანადამფუძნებელმა და აღმასრულებელმა დირექტორმა დემის ჰასაბისმა გამოაქვეყნა წერილი, რომელიც ამავე თემას ეხება. მან აშშ-ს შესთავაზა FINRA-ს მოდელზე აგებული სტანდარტების ორგანოს შექმნა, რომელიც frontier-კლასის მოდელებს გამოშვებამდე შეამოწმებს.
ორ დოკუმენტს შორის პირდაპირი გადაკვეთაა. ჰასაბისის თქმით, საჭიროების შემთხვევაში ასეთ ორგანოს frontier ლაბორატორიებს შორის განვითარების შენელების კოორდინაციაც უნდა შეეძლოს, ანუ ზუსტად ის ფუნქცია უნდა შეასრულოს, რომელსაც Pacing the Frontier ითხოვს.
ამაზე თავად პეტიციაშიც არის მინიშნება. ხელმომწერი სტეფანი ჩანი, Google-ის უფროსი მკვლევარი, კომენტარში წერს, რომ შენელების შესაძლებლობას AI-ის არაერთმა ცნობილმა ლიდერმა დაუჭირა მხარი საჯაროდ, მათ შორის DeepMind-ის აღმასრულებელმა დირექტორმა.
განსხვავება ფორმატშია. ჰასაბისი კონკრეტულ ინსტიტუტს და შემოწმების პროცედურას ითხოვს, Pacing the Frontier კი ინსტიტუციურ დიზაინს არ განსაზღვრავს და საერთაშორისო ძალისხმევაზე საუბრობს. ორივე ერთსა და იმავე დაშვებას ეყრდნობა: ცალმხრივი შენელება არავის აწყობს.
ვინ დგას ინიციატივის უკან
განცხადება თავად frontier AI კომპანიების თანამშრომლებმა გამოაქვეყნეს. ორგანიზაციული მხარდაჭერა უზრუნველყო ორმა დამოუკიდებელმა არაკომერციულმა ორგანიზაციამ – Guidelight AI Standards და Encode AI.
ხელმოწერა მხოლოდ frontier AI კომპანიების თანამშრომლებს შეუძლიათ. ვერიფიკაციისთვის საჭიროა კორპორაციული ელფოსტა ან დასაქმების სხვა დამადასტურებელი მტკიცებულება, რაც სიის სანდოობას ზრდის.
რას ამბობენ კრიტიკოსები
ინიციატივას მოწინააღმდეგეებიც ჰყავს და მთავარი კონტრარგუმენტი ასეთია: ტემპის საერთაშორისო რეგულირება ვერ შეაჩერებს იმ მოთამაშეებს, რომლებიც შეთანხმებაში არ შედიან, და შედეგად აშშ საკუთარ პოზიციას დაასუსტებს კონკურენტების სასარგებლოდ.
ამ ხედვით, უსაფრთხოების კონკრეტული რისკები უფრო მიზნობრივი ინსტრუმენტებით უნდა მოგვარდეს და არა მთელი დარგის შენელებით.
განცხადების ავტორები ამ შენიშვნას პირდაპირ არ პასუხობენ, თუმცა სწორედ ამიტომ საუბრობენ საერთაშორისო და არა ცალმხრივ ძალისხმევაზე. ხელმოწერების რაოდენობა კი ისევ იზრდება, რადგან ფორმა ღიაა და საიტზე მითითებული ციფრი სტატიკური არ არის.
რას ცვლის ეს რეალურად
Pacing the Frontier არ არის რეგულაციის კონკრეტული პროექტი და არც მოდელების გამოშვების შეჩერების მოთხოვნა. ეს არის თხოვნა, რომ აშშ-ის მთავრობამ დაიწყოს იმ ტექნიკური და მმართველობითი ინსტრუმენტების შექმნა, რომლებიც დღეს არ არსებობს.
სხვა თემები
დარიო ამოდეი: AI-ის განვითარების ტემპი უნდა შევანელოთ
Meta-მ პერსონალური AI აგენტი Muse წარადგინა
Google DeepMind-მა AlphaGenome Atlas წარადგინა