ხელოვნური ინტელექტის შესაძლებლობები უფრო სწრაფად იზრდება, ვიდრე კაცობრიობის უნარი, აკონტროლოს ის, ამიტომ კატასტროფის თავიდან ასაცილებლად დროა, განვითარების ტემპი შევანელოთ — ასე ფიქრობენ თავად ხელოვნური ინტელექტის შემქმნელები. ამერიკული კომპანიები თეთრ სახლთან მოლაპარაკებებს მართავენ, ხოლო მათი ასობით თანამშრომელი ხელს აწერს ღია წერილს, რომელშიც ხელოვნური ინტელექტის განვითარების სიჩქარის შეზღუდვას მოითხოვენ — მანამდე, სანამ ის კონტროლიდან გამოვა და მძიმე შედეგებს გამოიწვევს.
მხოლოდ ბოლო რამდენიმე დღის განმავლობაში ინდუსტრიის ორი ლიდერის — OpenAI-სა და Anthropic-ის — პროგრამებმა შეძლეს მკაცრად იზოლირებული სატესტო „ქვიშის ყუთებიდან“ ღია ინტერნეტში გასვლა და საკუთარი ინტერესებისთვის სხვა სისტემების გატეხვა. ამას დიდი ხანია ელოდნენ და ეშინოდათ — და, როგორც ჩანს, გადამწყვეტი მომენტი დადგა.
„პირველად მოხდა, რომ ამან სულის სიღრმემდე შემძრა და ვერ ვხვდები, ხალხი რატომ რეაგირებს ასე მშვიდად“, — განაცხადა სემ ალტმანმა, OpenAI-ს ხელმძღვანელმა — კომპანიისა, რომელმაც ChatGPT შექმნა.
„რა უნდა გავაკეთოთ, თუ განვითარება ამავე ტემპით გაგრძელდება? შესაძლოა, ხელოვნური ინტელექტის განვითარების სიჩქარის შეკავება მოგვიწიოს“, — თქვა მან ამ კვირაში პოდკასტში Invest Like the Best.
Anthropic-ის ხელმძღვანელი და Claude-ის შემქმნელი დარიო ამოდეი ჯერ კიდევ ივნისში აფრთხილებდა საზოგადოებას, რომ ერთი-ორი წლის განმავლობაში ხელოვნური ინტელექტი თვისებრივ ნახტომს განახორციელებდა და ისეთ საფრთხედ გადაიქცეოდა, რომელსაც სახელმწიფო დონეზე წინააღმდეგობის გაწევა დასჭირდებოდა.
„ბოლო თვეებში გაჩნდა ხელოვნური ინტელექტის წარმოუდგენელი ძალისა და აქედან გამომდინარე რისკების უტყუარი მტკიცებულებები. კიბერუსაფრთხოება უკვე კითხვის ნიშნის ქვეშ დგას. არც ბიოლოგიური საფრთხეა შორს, შემდეგ კი ხელოვნური ინტელექტის დამოუკიდებლობის საკითხიც დადგება“, — დაწერა ამოდეიმ ივნისში გამოქვეყნებულ ესეში.
„დადგა დრო, ხელოვნური ინტელექტის სერიოზულ და სავალდებულო რეგულირებაზე გადავიდეთ“, — გააფრთხილა მან საზოგადოება და უსაფრთხოების მკაცრი ზედამხედველობის შემოღება მოითხოვა — არა ავიაციისა თუ მედიკამენტების სფეროში მოქმედი სტანდარტების დონეზე, არამედ გაცილებით მკაცრად, ისე, როგორც რადიოაქტიური მასალების ბრუნვა კონტროლდება.
OpenAI-მ ამ კვირაში განაცხადა, რომ ახალი მოდელის შესაძლებლობების დახურულ გარემოში — „ქვიშის ყუთში“ — ტესტირებისას პროგრამამ ინტერნეტში გაღწევა შეძლო და ტესტისთვის საჭირო „შპარგალკის“ მოსაძებნად გარე პლატფორმა Hugging Face გატეხა.
ამის შემდეგ Anthropic-მა საკუთარი 140 ათასი ტესტის აუდიტი ჩაატარა და სამი შემთხვევა აღმოაჩინა, როდესაც Claude-ის მოდელებმა ინტერნეტზე წვდომა გარე პარტნიორის გარემოს გავლით მოიპოვეს, შემდეგ კი კიდევ სამი კომპანიის სისტემები გატეხეს.
ხელოვნური ინტელექტი კონტროლიდან გამოდის
ხელოვნური ინტელექტის წამყვანი კომპანიების ხელმძღვანელთა შიშებს მათი თანამშრომლებიც იზიარებენ.
ამ კვირაში ხელოვნური ინტელექტის 1 300-ზე მეტმა დეველოპერმა ხელი მოაწერა ღია წერილს, რომელშიც აშშ-ის ხელისუფლებას მოუწოდებენ, სხვა ქვეყნებთან გააერთიანოს ძალისხმევა და ერთობლივად შეიმუშაოს „ტექნიკური და მარეგულირებელი ინსტრუმენტები მოწინავე ხელოვნური ინტელექტის მოდელების ავტომატური შექმნის ტემპის მიზანმიმართულად შესაკავებლად“.
„მსოფლიოს წამყვანი ხელოვნური ინტელექტის კომპანიები აღიარებენ, რომ მოდელების შექმნის პროცესის ავტომატიზაციას ძალიან მიუახლოვდნენ. რთულია ზუსტად განისაზღვროს, რამდენად დააჩქარებს ეს ხელოვნური ინტელექტის განვითარებას, თუმცა არსებობს რეალური რისკი, რომ ახალი სისტემების შექმნის შესაძლებლობები სწრაფად გასცდება ჩვენი გაგებისა და მათი მართვის უნარის ფარგლებს“, — ნათქვამია წერილში.
თუმცა აქ პრობლემა იჩენს თავს. ხელოვნური ინტელექტის განვითარებაში უზარმაზარი თანხებია ჩადებული და კონკურენცია თანამშრომლობას ხელს უშლის. ფინიშთან მეორე ნომრად მისვლა არავის სურს, ამიტომ არც განვითარების შენელება უნდა ვინმეს, — აღნიშნულია ღია წერილში.
ეს მართლაც ასეა, დაადასტურა აშშ-ის პრეზიდენტმა დონალდ ტრამპმა. შეერთებული შტატები ხელოვნური ინტელექტის სფეროში როგორც ინვესტიციების მოცულობით, ისე მიღწევების რაოდენობით მსოფლიო ლიდერია.
„ვფიქრობთ, როგორ გავაკონტროლოთ ის. ამავე დროს, ლიდერობაც უნდა შევინარჩუნოთ“, — განაცხადა ტრამპმა OpenAI-ის ხელოვნური ინტელექტის „ქვიშის ყუთიდან“ თვითნებურ და მავნებლურ გაღწევასთან დაკავშირებით.
ამერიკის ხელისუფლება მოწინავე მოდელების გამოშვების ვადებში აქამდეც ჩარეულა. ბოლოს ასეთი რამ Anthropic-ის მოდელ Mythos-ის გამოშვებისას მოხდა.
მას შემდეგ, რაც OpenAI-ის აგენტი გამოცდაზე ჩავარდნის შიშით საკუთარი ინიციატივით ჰაკერად იქცა, კომპანიის ხელმძღვანელი სემ ალტმანი ვაშინგტონში გაემგზავრა. ოთხშაბათს ის სენატორებს შეხვდა, ხუთშაბათს კი — აშშ-ის პრეზიდენტის ადმინისტრაციის წარმომადგენლებს.
კონგრესში ვიზიტის შემდეგ ალტმანმა ჟურნალისტებს განუცხადა, რომ ღია წერილში გამოთქმულ მოსაზრებებს მთლიანობაში ეთანხმება, თუმცა თავად წერილისთვის ხელი არ მოუწერია. თეთრი სახლიდან გამოსვლის შემდეგ მას კომენტარი აღარ გაუკეთებია.
როგორ უნდა დარეგულირდეს ხელოვნური ინტელექტი
აშშ-ის ხელისუფლებამ ხელოვნური ინტელექტის რეგულირების მიმართულებით პირველი ნაბიჯები უკვე უახლოეს დღეებში უნდა გადადგას.
1 აგვისტოს იწურება ერთ-ერთი მნიშვნელოვანი ვადა, რომელიც მოწინავე ხელოვნური ინტელექტის მოდელების განვითარებისა და უსაფრთხოების შესახებ ტრამპის ივნისის ბრძანებულებით არის განსაზღვრული. ამ თარიღამდე ოფიციალურმა პირებმა უნდა დაადგინონ, რომელი სისტემები მიეკუთვნება ამ კატეგორიას და რომელ მათგანზე გავრცელდება „განსაკუთრებული რეჟიმი“.
ეს რეჟიმი სრულმასშტაბიანი რეგულირებისგან ჯერ კიდევ შორსაა და გარკვეულწილად ჰგავს იმას, რაც Mythos-ის შემთხვევაში მოხდა. როდესაც Anthropic-ის დეველოპერებმა Claude-ის ახალი ვერსიის დამანგრეველი პოტენციალი გააცნობიერეს, გამოშვების პროცესი შეანელეს და ხელისუფლებას, სამხედროებს, უმსხვილეს ბანკებსა და ეროვნული უსაფრთხოებისთვის მნიშვნელოვან სხვა ინსტიტუტებს შესაძლებლობა მისცეს, ახალი საფრთხის მიმართ საკუთარი კიბერდაცვის მოწყვლადობა შეემოწმებინათ.
რეგულირების კრიტიკოსები მიიჩნევენ, რომ ის შესაძლოა კონკურენციის ჩახშობისა და დახურული სისტემის შექმნის მიზეზი გახდეს. ასეთ სისტემაში მოწინავე ხელოვნური ინტელექტის მოდელების უპირატესობებსა და სარგებელს ხელისუფლებასთან და დეველოპერებთან დაახლოებული ადამიანების ვიწრო წრე მიიღებს, საზოგადოება კი დაზარალდება.
„ხელოვნური ინტელექტის მეშვეობით ძალაუფლების კონცენტრაცია საშინელებაა“, — განაცხადა სემ ალტმანმა. — „მაშინებს ისეთი სამყარო, სადაც სრულიად საფუძვლიანი შიშები გამოიყენება იმის სათქმელად, რომ ხელოვნური ინტელექტი საშიშია, ამიტომ ის იმ ადამიანების ვიწრო ჯგუფის ხელში უნდა დარჩეს, რომლებსაც ესმით მისი, თქვენ კი ნუ იდარდებთ — ყველაფერს თქვენს ნაცვლად გადაწყვეტენ“.
„ამიტომ უნდა გავარკვიოთ, როგორ მოვიქცეთ ისე, რომ არ გაჩნდეს განცდა, თითქოს რეგულირება ვიღაცის ინტერესებისთვის შემოაქვთ და ეს ყველაფერი წამყვან დეველოპერებს შორის გარიგებას არ დაემსგავსოს“, — თქვა ალტმანმა. — „ეს მარტივი არ არის, მაგრამ ძალიან მნიშვნელოვანია, ყველაფერი სწორად გაკეთდეს“.
