DeepMind Institute ახალი პლატფორმაა, რომელიც ზოგადი ხელოვნური ინტელექტის (AGI) უსაფრთხო განვითარებასა და მის საზოგადოებრივ გავლენას შეისწავლის. ინიციატივა Google DeepMind-ისა და Google-ის მკვლევრებს აერთიანებს და ფართო სამეცნიერო წრის მონაწილეობასაც ითვალისწინებს.
დემის ჰასაბისის (Demis Hassabis) თქმით, ის და შეინ ლეგი 20 წელზე მეტია განიხილავენ, როგორ შეიძლება იმოქმედოს AGI-მ ეკონომიკაზე, მეცნიერებასა და საზოგადოებაზე. ახალი ინიციატივით ამ საკითხებზე კვლევისა და სხვადასხვა დარგის სპეციალისტების თანამშრომლობის გაფართოებას გეგმავენ.
სარჩევი
რას შეისწავლის DeepMind Institute
ინსტიტუტის დირექტორები არიან შეინ ლეგი, ჯეიმს მანიიკა და დემის ჰასაბისი. მთავარი რედაქტორია შეინ ლეგი.
პლატფორმა AGI-ის ტექნიკურ და საზოგადოებრივ საკითხებზე კვლევას, თანამშრომლობასა და დისკუსიას დაეთმობა. წარდგენისას ავტორებმა რამდენიმე ძირითადი შეკითხვა გამოყვეს:
- როგორ შევქმნათ და ვმართოთ უსაფრთხოდ AGI და მის საფუძველზე ჩამოყალიბებული AI აგენტების ჯგუფები?
- რა ღირებულებები გახდება მნიშვნელოვანი და როგორ შეიცვლება ჩვენი წარმოდგენა ადამიანად ყოფნაზე?
- რომელ ინსტიტუტებსა და პოლიტიკას დასჭირდება ადაპტაცია ან თავიდან გააზრება?
რატომ ახლა
განცხადების ავტორები AGI-ს აღწერენ როგორც სისტემას, რომელსაც ადამიანის ტვინის ყველა კოგნიტიური უნარი აქვს. მათი შეფასებით, AI-ის სწრაფი პროგრესი ამ შესაძლებლობას გვაახლოებს.
ამავე დროს, ისინი აღნიშნავენ, რომ დღევანდელი სისტემები ზოგჯერ მარტივ ამოცანებშიც ცდებიან და საჭირო თანმიმდევრულობა თუ შემოქმედებითობა ჯერ აკლიათ. ავტორები ამ ხარვეზების მალე დაძლევას ელიან, თუმცა კონკრეტულ ვადას არ ასახელებენ.
ჰასაბისი AI-ის ერთ-ერთ მთავარ შესაძლებლობად სამეცნიერო აღმოჩენების დაჩქარებას განიხილავს. ჯეიმს მანიიკა პოტენციურ სარგებელს შორის ასახელებს დაავადებების უკეთ შესწავლასა და მკურნალობას, სუფთა ენერგიის განვითარებასა და ეკონომიკური კეთილდღეობის ზრდას.
ამ შესაძლებლობებთან ერთად, ჰასაბისი კიბერუსაფრთხოებისა და ბიოუსაფრთხოების რისკებზეც საუბრობს. მისი აზრით, მათ შესაფასებლად და შესამცირებლად საჭიროა მეცნიერული სიზუსტე და მოსალოდნელი ცვლილებების საფუძვლიანი გააზრება. ინსტიტუტის განცხადებაში ასევე ნახსენებია მომავალ თვითგაუმჯობესებად სისტემებზე კონტროლის დაკარგვის შესაძლო საფრთხე.
რა თემებზე აქვეყნებს მასალებს DeepMind Institute
პლატფორმაზე უკვე ხელმისაწვდომია ესეები, რომლებიც ინიციატივის მიმართულებებს კონკრეტული საკითხებით წარმოაჩენს. მათ შორისაა AI-ის მსჯელობის გამჭვირვალობა და ეკონომიკური პოლიტიკა AGI-ის პირობებში.
AI-ის უსაფრთხოება და მსჯელობის გამჭვირვალობა
როჰინ შაჰისა და ანკა დრაგანის ესე მსჯელობის გამჭვირვალობაზე განიხილავს, როგორ ეხმარება მკვლევრებს მოდელის შუალედური მსჯელობის ჩანაწერების წაკითხვა. ავტორების განმარტებით, ეს შესაძლებელს ხდის ისეთი ქცევის გამოვლენას, როგორიცაა ინფორმაციის დამალვის ან შეფასების მოტყუების მცდელობა.
მათი შეშფოთება ისაა, რომ ეფექტიანობის ზრდისკენ სწრაფვამ მომავალი მოდელების მსჯელობა ადამიანისთვის ნაკლებად გასაგები გახადოს. ამიტომ ისინი გამჭვირვალობის გაზომვას, მის შემნარჩუნებელ არქიტექტურებსა და სწავლების მეთოდების შემოწმებას გვთავაზობენ. ამასთან, ხაზს უსვამენ, რომ მსჯელობის მონიტორინგი უსაფრთხოების უზრუნველყოფის ერთ-ერთი ინსტრუმენტია და თავისთავად საკმარისი არ არის.
ეკონომიკური პოლიტიკა და შრომის ბაზარი
ჯულიან ჯეიკობსისა და ალექს იმასის ესე AGI-ის ეკონომიკურ პოლიტიკაზე 11 შესაძლო მიდგომას აფასებს. განხილულ საკითხებს შორისაა გადამზადება, უმუშევრობის დაზღვევა, უნივერსალური საბაზისო შემოსავალი და AI-ით შექმნილ ეკონომიკურ სარგებელში მოქალაქეების მონაწილეობა.
ავტორები აღნიშნავენ, რომ AGI-ის ეკონომიკური შედეგები და მათი გამოვლენის დრო გაურკვეველია. მათი მიდგომა გულისხმობს მოქნილ პოლიტიკას, რომლის ამოქმედებაც შრომის ბაზარსა და ეკონომიკაში გაზომვად ცვლილებებს დაუკავშირდება. სხვადასხვა ვარიანტი ფასდება ადამიანების კეთილდღეობის, არჩევანის თავისუფლების, განხორციელების შესაძლებლობისა და განსხვავებულ სცენარებში გამძლეობის მიხედვით.
DeepMind Institute-ზე გამოქვეყნებული ესეები მათი ავტორების შეხედულებებს ასახავს და Google-ის ოფიციალურ პოზიციად არ უნდა განიხილებოდეს. პლატფორმა ამ მასალებს დისკუსიის, შემდგომი კვლევისა და იდეების გაცვლის წასახალისებლად აქვეყნებს.
წყაროები
სხვა თემები
NVIDIA AVO-მ ARC-AGI-3-ის საჯარო ტესტზე 100% შედეგი აჩვენა
ხელოვნური ინტელექტის ტიპები – გზამკვლევი
დემის ჰასაბისი: AGI გვიახლოვდება