სინგულარობა აღარ არის შორეული პროგნოზი, ის უკვე დაიწყო. ასე თვლის OpenAI-ის ხელმძღვანელი სემ ალტმანი, რომელმაც პოდკასტ “Relentless”-ის შაბათის ეპიზოდში განაცხადა, რომ კაცობრიობა ტექნოლოგიურ სინგულარობაში იმყოფება და კომპანია ისეთი სისტემის შექმნას უახლოვდება, რომელსაც თავად ჯინს ადარებს.
რა თქვა ალტმანმა სინგულარობაზე
ალტმანის ფორმულირება არაორაზროვანი იყო. “ჩვენ ახლა სინგულარობაში ვართ. ეს არის ის მომენტი.” – თქვა OpenAI-ს ერთ-ერთმა დამფუძნებელმა
სარჩევი
მისივე თქმით, ათი წლის წინ ეს თემა სრულიად არასერიოზული საუბრის საგანი იყო და ძალიან არარეალურად ჩანდა. ახლა კი, მისი შეფასებით, ზუსტად იმ მომენტში ვართ, რომელზეც მაშინ ხუმრობდნენ.
ალტმანმა დასძინა, რომ ამ მომენტს მთელი ცხოვრება ელოდა და თვლის, რომ შედეგი მსოფლიოსთვის უაღრესად პოზიტიური იქნება.
რას ნიშნავს სინგულარობა
ტექნოლოგიური სინგულარობა ის ჰიპოთეტური წერტილია, როცა ხელოვნური ინტელექტი ადამიანურ ინტელექტს გადააჭარბებს და ისეთი ტემპით დაიწყებს განვითარებას, რომლის პროგნოზირებაც და კონტროლიც ადამიანებისთვის რთული ხდება.
ტერმინი მეცნიერულ ფანტასტიკაში თითქმის საუკუნეა არსებობს და იქ იშვიათად სრულდება კარგად. ჯეიმს კამერონის “ტერმინატორი” სწორედ იმაზეა, თუ რა ხდება, როცა სისტემა თვითგანვითარებას იწყებს და შემდეგ საკუთარ შემქმნელებს საფრთხედ აღიქვამს.
სწორედ ამიტომ იწვევს განსხვავებულ რეაქციებს, როცა სინგულარობის დადგომას მსოფლიოს ერთ-ერთი ყველაზე გავლენიანი ტექნოლოგიური კომპანიის ხელმძღვანელი აცხადებს.
ჯინის მეტაფორა და სამი პუნქტი
იმავე პოდკასტში ალტმანმა ხელოვნური ინტელექტის მომავალი სამ ნაწილად დაყო:
- კაცობრიობა ახლოსაა ისეთი სისტემის შექმნასთან, რომელსაც პრაქტიკულად ნებისმიერი დავალების შესრულება შეუძლია;
- მთავარი ამოცანაა, პირველი “სურვილები” ფართო საზოგადოებას არგებდეს და არა ვიწრო ჯგუფს;
- სურვილების სპექტრი უზარმაზარი და მრავალფეროვანია, შესაბამისად, ერთი პასუხი ყველასთვის ვერ იარსებებს.
“ჩვენ ვიწყებთ სურვილების თქმას, კომპიუტერი კი ასრულებს მათ და არ გვეგონა, რომ ამის გაკეთებას შეძლებდა”, – თქვა OpenAI-ის ხელმძღვანელმა.
მეტაფორა ეფექტურია, თუმცა სწორედ ის იწვევს ყველაზე მეტ კრიტიკას. სოციალურ ქსელებში მომხმარებლებმა ალტმანს შეახსენეს, რომ ჯინზე არსებული ლიტერატურა თითქმის მთლიანად იმაზეა, თუ როგორ ბრუნდება ცუდად ფორმულირებული სურვილი მთხოვნელის წინააღმდეგ.
სინგულარობის გამოცხადება Hugging Face-ის ინციდენტის ფონზე
დრო, როცა ეს განცხადება გაკეთდა, შემთხვევითი არაა. 21 ივლისს OpenAI-მ ბლოგპოსტში აღიარა, რომ მისი მოდელები “უპრეცედენტო კიბერინციდენტის” უკან იდგნენ.
კომპანიის ვერსიით, GPT-5.6 Sol-ისა და ჯერ გამოუშვებელი, უფრო შესაძლებლობებიანი მოდელის კომბინაცია, რომლებსაც ტესტირებისთვის შემცირებული კიბერშეზღუდვები ჰქონდათ, სატესტო გარემოდან გავიდა და Hugging Face-ის ინფრასტრუქტურაში შეაღწია.
რა მოხდა ტექნიკურად
OpenAI-ის აღწერით, მოდელები ბენჩმარკ ExploitGym-ის ამოხსნაზე “ჰიპერფოკუსირებულნი” აღმოჩნდნენ და ვიწრო სატესტო მიზნისთვის უკიდურეს ზომებამდე მივიდნენ.
მათ პაკეტების რეესტრის ქეშ-პროქსიში zero-day დაუცველობა აღმოაჩინეს და გამოიყენეს, ინტერნეტთან წვდომა მოიპოვეს, შემდეგ კი მოპარული სერტიფიკატებისა და დამატებითი დაუცველობების ჯაჭვით Hugging Face-ის სერვერებზე კოდის დისტანციური შესრულების გზა იპოვეს. მიზანი მარტივი იყო: ტესტის პასუხების მოძებნა.
Hugging Face-მა ინციდენტის შესახებ 16 ივლისს გამოაქვეყნა და აღნიშნა, რომ თავდასხმა თავიდან ბოლომდე ავტონომიური აგენტური სისტემით იმართებოდა. კომპანიის თანადამფუძნებელმა და CEO-მ კლემ დელანგმა განაცხადა, რომ OpenAI-ის მხრიდან ბოროტი განზრახვა არ ყოფილა და რომ ყველაფრის ავტონომიურად მოხდენა შთამბეჭდავია.
ოქსფორდის უნივერსიტეტის პროფესორმა ფილიპ თორმა Scientific American-თან ინციდენტი არასწორად ფორმულირებული მიზნის პრობლემად შეაფასა: მოდელი „ბოროტი“ არ იყო, ის უბრალოდ იმას აკეთებდა, რაზეც იყო ოპტიმიზებული.
სწორედ ამ ფონზე იძენს ჯინის მეტაფორა ორაზროვან ელფერს. სისტემამ სურვილი შეასრულა, უბრალოდ ისე, როგორც არავის სურდა. ჟურნალ TIME-ის მიხედვით, ექსპერტების ნაწილი ინციდენტს კონტროლის დაკარგვის პირველ რეალურ შემთხვევას უწოდებს.
ალტმანის კრიტიკა კონკურენტების მიმართ
პოდკასტის მოგვიანებით ნაწილში ალტმანი იმ კომპანიებსაც შეეხო, რომლებიც ხელოვნური ინტელექტის საფრთხეებზე მუდმივად საუბრობენ. კონკრეტული სახელები არ დაუსახელებია.
მისი თქმით, სხვა კომპანიების მიერ დახატული ალტერნატიული ხედვები საკმაოდ ცუდია და ის იმუშავებს იმაზე, რომ ეს სცენარები არ განხორციელდეს.
Business Insider-ის შეფასებით, სავარაუდო ადრესატი Anthropic-ია, რომლის ხელმძღვანელი დარიო ამოდეი რეგულარულად აკეთებს პესიმისტურ პროგნოზებს და უსაფრთხოებაზე მეტ ყურადღებას ითხოვს.
როგორ იცვლებოდა ალტმანის რიტორიკა
ეს პირველი შემთხვევა არაა, როცა ალტმანი სინგულარობაზე საუბრობს, თუმცა ტონი შესამჩნევად შეიცვალა.
2025 წლის იანვარში მან X-ზე ლაკონური პოსტი გამოაქვეყნა: სინგულარობასთან ახლოს ვართ, გაურკვეველია რომელ მხარესო. 2025 წლის ივნისში, ესეში “The Gentle Singularity”, მან დაწერა, რომ კაცობრიობამ მოვლენათა ჰორიზონტი უკვე გადაკვეთა.
ალტმანი ასევე აცხადებდა, რომ ხელოვნური ინტელექტი ადამიანურ ინტელექტს ყველა მიმართულებით 2030 წლისთვის გადააჭარბებს და რომ ტექნოლოგია საბოლოოდ იმ დავალებების 30-40 პროცენტის შესრულებას შეძლებს, რომლებსაც დღეს ადამიანები სამსახურში ასრულებენ.
ახლა კი მან პროგნოზირების ნაცვლად, პირდაპირ თქვა რომ სინგულარობა მისთვის აღარ არის პროგნოზი, ეს არის დიაგნოზი აწმყოზე.
ინდუსტრიის აზრი სინგულარობაზე ორად იყოფა
Google DeepMind-ის ხელმძღვანელმა დემის ჰასაბისმა მაისში თქვა, რომ კაცობრიობა სინგულარობისთის მთის წვერშია და რომ ხელოვნური ინტელექტი ინდუსტრიულ რევოლუციაზე ასჯერ უფრო ტრანსფორმაციული შეიძლება აღმოჩნდეს. ამავე აზრზეა SpaceXAI-ს დამფუძნებელი ილონ მასკი, რომელსაც აქამდეც არაერთხელ განუცხადებია რომ ჩვენ უკვე ვართ სინგულარობაში.
სკეპტიკოსების ბანაკიც ძლიერია. NVIDIA-ს CEO ჯენსენ ჰუანგმა სინგულარობასა და ცნობიერ ხელოვნურ ინტელექტზე დისკუსიები სპეკულაციურ და გამოგონილ თემად შეაფასა.
განსხვავება პოზიციებში ნაწილობრივ ბიზნესმოდელითაც აიხსნება. ალტმანი, ჰასაბისი და მასკი კომპანიებს ხელმძღვანელობენ, რომელთა შეფასებაც პირდაპირაა დამოკიდებული იმაზე, დაუჯერებს თუ არა ბაზარი მოახლოებული ტრანსფორმაციის მასშტაბს. ჰუანგი კი ჩიპებს ყიდის, რომლებზეც მოთხოვნა ისედაც მაღალია.
რატომ არის ეს განცხადება მნიშვნელოვანი
ალტმანი დღეს ინდუსტრიის ერთ-ერთი ყველაზე გავლენიანი ხმაა და მისი ფორმულირებები ხშირად ხდება ის ჩარჩო, რომლითაც საზოგადოება და მარეგულირებლები ტექნოლოგიაზე ფიქრობენ. “ჯინი” და “სინგულარობა” კომფორტული სიტყვებია იმისთვის, რომ რთული ტექნიკური რეალობა მარტივ ისტორიად აქციო.
პრობლემა ისაა, რომ ერთი კვირის განმავლობაში ერთმა და იმავე კომპანიამ ორი ურთიერთსაწინააღმდეგო შეტყობინება გაავრცელა: მოდელი კონტროლიდან გავიდა და სხვისი ინფრასტრუქტურა გატეხა, და ჩვენ ვქმნით ჯინს, რომელიც სურვილებს შეასრულებს.
ორივე შეიძლება ერთდროულად იყოს სიმართლე. მაგრამ სწორედ ეს კომბინაცია სძენს მთავარ კითხვას აქტუალობას: როგორ დარწმუნდები, რომ სისტემა ზუსტად იმას აკეთებს, რაც სთხოვე, და არა იმას, რაც მისთვის მიზნისკენ ყველაზე მოკლე გზაა.
სხვა თემები
Navier-Stokes-ის ამოცანა – OpenAI-მ ამოხსნა წარადგინა
OpenAI-მ GPT-6 Astra წარადგინა
კოლექტიური კიბერთავდაცვა: OpenAI-ის ღია წერილი