ხელოვნურმა ინტელექტმა შესაძლოა უახლოეს ათწლეულში მთელი კაცობრიობა დაღუპოს, — მიიჩნევს კომპანია Anthropic-ის ხელოვნური ინტელექტის უსაფრთხოების ექსპერტი ევან ჰიუბინგერი. მისი შეფასებით, ასეთი სცენარის ალბათობა დაახლოებით 10%-ია.
X-ზე გამოქვეყნებულ პოსტში ჰიუბინგერმა აღნიშნა, რომ დღეს არსებული AI-მოდელებისგან მომდინარე რისკები შედარებით მცირეა. თუმცა, ხელოვნური ინტელექტის ტექნოლოგიების ძალიან სწრაფი განვითარების ფონზე, მომავალმა მოდელებმა შესაძლოა დამოუკიდებლობის ისეთ დონეს მიაღწიონ, რომ კაცობრიობის არსებობისთვის საფრთხედ იქცნენ.
ეს განცხადება გაკეთდა Financial Times-ის ცნობების ფონზე, რომლის მიხედვითაც Anthropic-მა თავისი უახლესი მოდელის წვდომა არ მისცა ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტს (AISI) — ერთ-ერთ წამყვან ორგანიზაციას, რომელიც AI-სთან დაკავშირებულ რისკებს აფასებს.
ჰიუბინგერს დეტალურად არ განუმარტავს, კონკრეტულად როგორ შეიძლება მომავალში ხელოვნური ინტელექტის სისტემებმა კაცობრიობას შეუტიონ.
მისი განცხადება იყო პასუხი AI-ის ექსპერტ ჯეიკობ კოქსონის პოსტზე. კოქსონმა, რომელიც ადრე OpenAI-ში მუშაობდა, ამ კვირაში Anthropic დატოვა.
„არცერთი ეს კომპანია პასუხისმგებლიანად არ იქცევა“, — დაწერა კოქსონმა Anthropic-იდან წასვლის მიზეზებზე საუბრისას.
„ძალიან მალე ეს იქნება სისტემები, რომლებიც ადამიანის ინტელექტს გადააჭარბებენ, შეძლებენ თითქმის ყველაფრის გატეხვას, ერთ ღამეში რევოლუციას მოახდენენ ნებისმიერ სფეროში და, ამასთანავე, რეალურ ძალაუფლებასა და რესურსებზე წვდომასაც მიიღებენ“, — განაცხადა ჯეიკობ კოქსონმა.
დიდი ბრიტანეთის მთავრობამ არ გააკეთა კომენტარი ცნობაზე, რომ AISI-ს Anthropic-ის უახლეს AI-მოდელზე წვდომა არ მიეცა. მთავრობის წარმომადგენელმა განაცხადა, რომ ბრიტანეთის ხელისუფლება „აგრძელებს მჭიდრო თანამშრომლობას ინდუსტრიის პარტნიორებთან, მათ შორის Anthropic-თან, და მუშაობს AI-მოდელების უსაფრთხოების გაუმჯობესებაზე“.
კემბრიჯის უნივერსიტეტის პროფესორმა ნილ ლოურენსმა BBC Radio 4-ის პროგრამა Today-ში თქვა, რომ, მისი აზრით, აშშ თანდათან უარს ამბობს ხელოვნური ინტელექტის სფეროში სხვა ქვეყნებთან და საერთაშორისო ორგანიზაციებთან თანამშრომლობაზე.
„ჩემი აზრით, ეს გასაკვირი არ არის, თუ გავითვალისწინებთ, რომ აშშ-ში ხელოვნურ ინტელექტს პირველ რიგში ჩინეთთან კონკურენციის კონტექსტში განიხილავენ და ქვეყანა სულ უფრო მეტად იზოლაციონიზმისკენ იხრება. სავსებით შესაძლებელია, რომ [აშშ-ის] ადმინისტრაცია ზოგიერთ მოკავშირესთან თანამშრომლობის შემცირებას ემხრობოდეს“, — განაცხადა მან.
„ხელოვნური ინტელექტი კაცობრიობის, როგორც სახეობის, არსებობას უქმნის საფრთხეს“
ჰიუბინგერმა თავის პუბლიკაციაში, რომელსაც 10 მილიონზე მეტი ნახვა ჰქონდა, დაწერა: „ჩვენ სრულიად გულწრფელად ვფიქრობთ“, რომ ხელოვნური ინტელექტი კაცობრიობის, როგორც სახეობის, არსებობას საფრთხეს უქმნის.
„ვფიქრობ, Anthropic ყველაფერს აკეთებს, რაც შეუძლია, თუმცა ჯერ არ გვაქვს გეგმა, როგორ შევუთანხმოთ სუპერინტელექტის მიზნები ადამიანურ ღირებულებებს, და ამ პრობლემის გადაჭრისკენ არც კი მივდივართ“, — დასძინა მან.
ჰიუბინგერი AI-ის ე.წ. alignment-ის — ხელოვნური ინტელექტის მიზნების ადამიანურ ღირებულებებთან შესაბამისობის — საკითხებზე მუშაობს. ამ სფეროს სპეციალისტები ცდილობენ, AI-სისტემებში ისეთი ეთიკური პრინციპები და შეზღუდვები ჩადონ, რომლებიც ადამიანის ღირებულებებს შეესაბამება. მარტივად რომ ვთქვათ, მათი მიზანია, ხელოვნური ინტელექტის მოქმედებები ადამიანის ინტერესებსა და ღირებულებებს არ დაუპირისპირდეს.
ბევრი წამყვანი მკვლევარი აცხადებს, რომ ამ მიმართულებით არსებული მცდელობები შესაძლოა საკმარისი არ იყოს. ამის ერთ-ერთ ნიშნად სახელდება ამ ზაფხულს მომხდარი რამდენიმე შემთხვევა, როდესაც ავტონომიურად მოქმედმა AI-აგენტებმა და სისტემებმა კიბერშეტევები განახორციელეს.
OpenAI-მ, Anthropic-მა და Meta-მ საჯაროდ გაავრცელეს ინფორმაცია შემთხვევებზე, როდესაც მათი ხელოვნური ინტელექტის ინსტრუმენტები ჰაკერულ საქმიანობაში გამოიყენეს.
Anthropic-ის აგვისტოს უსაფრთხოების ანგარიშში ნათქვამია, რომ დაბალია რისკი, რომლის მიხედვითაც კომპანიის AI-მოდელები შეიძლება აღარ დაემორჩილონ იმ ორგანიზაციის მითითებებს, რომელიც მათ იყენებს, ჩაერიონ მის სისტემებში და ეს სისტემები საკუთარი მიზნებისთვის გამოიყენონ.
ასევე „დაბალ“ რისკად არის შეფასებული შესაძლებლობა, რომ AI-მოდელებმა დამოუკიდებლად განახორციელონ ავტომატიზებული კვლევა და განვითარება, რასაც ორგანიზაციისთვის „კატასტროფული ზიანის“ მიყენება შეუძლია. თუმცა Anthropic-ში აცხადებენ, რომ ამ შეფასებაში ახლა უფრო ნაკლებად არიან დარწმუნებული, ვიდრე ადრე.
„ჩვენ ვხედავთ ამ მიმართულებით მოვლენების შესაძლო დაჩქარების პირველ ნიშნებს“, — ნათქვამია განცხადებაში.
ხელოვნური ინტელექტის სფეროს წამყვანი სპეციალისტები AI-ტექნოლოგიებთან დაკავშირებულ უსაფრთხოების რისკებზე უკვე წლებია საუბრობენ. OpenAI-ის, Google DeepMind-ისა და Anthropic-ის ხელმძღვანელები მსგავსი გაფრთხილებებით ჯერ კიდევ 2023 წელს გამოვიდნენ.
თუმცა ბოლო კვირებში გაფრთხილებები გაცილებით უფრო საგანგაშოდ ჟღერს, რადგან გაჩნდა ნიშნები, რომ კომპანიებს ახალი AI-მოდელების კონტროლის შენარჩუნება შესაძლოა სულ უფრო მეტად უჭირდეთ.
სექტემბრის დასაწყისში OpenAI-ის მოწინავე მოდელების შემუშავების ხელმძღვანელმა იაკუბ პაჩოცკიმ AI-ის პროგრესთან მიმართებით „უკიდურესი სიფრთხილისკენ“ მოუწოდა. მისი თქმით, შესაძლოა დამატებითი ზომები გახდეს საჭირო იმის უზრუნველსაყოფად, რომ „ ადამიანებმა კონტროლი მომავალშიც შეინარჩუნონ [AI-ზე]“.
ბოლო თვეებში ინდუსტრიის არაერთმა წამყვანმა წარმომადგენელმა, მათ შორის Anthropic-ის ხელმძღვანელებმა დარიო ამოდეიმ და ჯარედ კაპლანმა, ხელოვნური ინტელექტის ახალი მოდელების შექმნის ტემპის შენელებისკენ მოუწოდეს.
ღია წერილში, რომელსაც AI-კომპანიების 1300 თანამშრომელი აწერს ხელს, აშშ-ის მთავრობას მოუწოდებენ, „მხარი დაუჭიროს საერთაშორისო ძალისხმევას იმ ტექნიკური და მმართველობითი ინსტრუმენტების შესაქმნელად, რომლებიც ახალი ხელოვნური ინტელექტის სისტემების განვითარების ტემპის რეგულირებისთვისაა საჭირო“.