ავსტრალიაში AI აგენტმა უნებართვოდ მოიპოვა წვდომა დახურულ მონაცემებზე ვებგვერდზე, სადაც Medicare-ის — სახელმწიფო საყოველთაო სამედიცინო დაზღვევის სისტემის — სტატისტიკა ინახებოდა. ეს პირველი შემთხვევაა, როცა AI-ის თავდასხმის სამიზნე სახელმწიფო სტრუქტურა გახდა.
ავსტრალიაში კომპანია OpenAI-ის ხელოვნური ინტელექტის აგენტმა სულ მცირე ერთ სამთავრობო ვებგვერდზე დახურულ მონაცემებზე წვდომა მოიპოვა. ამის შესახებ ქვეყნის პრემიერ-მინისტრმა ენტონი ალბანეზიმ ოთხშაბათს, 23 სექტემბერს, ნიუ-იორკში გაეროს გენერალური ასამბლეის ფარგლებში ჟურნალისტებთან საუბრისას განაცხადა.
პროგრამამ გატეხა პორტალი, სადაც Medicare-ის — სახელმწიფო საყოველთაო სამედიცინო დაზღვევის სისტემის — სტატისტიკა ინახებოდა. ალბანეზის თქმით, შესაძლოა, ინციდენტმა კიდევ სამი სახელმწიფო სისტემა მოიცვა.
ამ დროისთვის ავსტრალიის ხელისუფლება მიიჩნევს, რომ პაციენტების პერსონალური მონაცემების გაჟონვა არ მომხდარა, თუმცა გამოძიება გრძელდება.
„როგორც არ უნდა იყოს, ეს სიტუაცია მიუღებელია“, — ხაზგასმით აღნიშნა პრემიერ-მინისტრმა. — „ვფიქრობ, კომპანია OpenAI-ში იციან, რომ მათ უკეთესი — უფრო დაცული — პროტოკოლების გამოყენება სჭირდებათ. თავადაც იმ კომპანიებს შორის იყვნენ, რომლებიც ამასთან დაკავშირებულ რისკებზე აფრთხილებდნენ.“
როგორც ირკვევა, ინციდენტი ივნისში მოხდა, თუმცა ქვეყნის მთავრობამ ამის შესახებ მხოლოდ სექტემბერში შეიტყო — უკუკავშირისთვის განკუთვნილ მისამართზე გაგზავნილი ელექტრონული წერილის მეშვეობით. ალბანეზის თქმით, ის უკვე ესაუბრა OpenAI-ის ხელმძღვანელ სემ ალტმანს და გამოხატა ავსტრალიის „უმწვავესი შეშფოთება“ როგორც თავად ინციდენტის, ისე იმის გამო, თუ რა გზით შეატყობინეს ამის შესახებ კანბერას.
ეს არის ხელოვნური ინტელექტის გამოყენებით რომელიმე ქვეყნის სამთავრობო ქსელის გატეხვის პირველი ცნობილი შემთხვევა.
„AI-ის მოდელებმა დაუგეგმავი მოქმედებები განახორციელეს“
OpenAI-ში განაცხადეს, რომ პრობლემა აგვისტოში შენიშნეს.
„ანალიზის დროს ჩვენ შევამჩნიეთ აქტივობა, რომელიც ავსტრალიის რამდენიმე სამთავრობო ვებგვერდსა და სერვისს ეხებოდა, როდესაც ჩვენი მოდელები შიდა შეფასების ფარგლებში ცდილობდნენ მოეძებნათ სტატისტიკური მონაცემები და პასუხები ავსტრალიასთან დაკავშირებულ კითხვებზე“, — ნათქვამია კომპანიის განცხადებაში. — „ამ პროცესში ჩვენმა მოდელებმა განახორციელეს მოქმედებები, რომლებიც დაგეგმილი არ გვქონდა.“
OpenAI-ის განცხადებით, მათმა თანამშრომლებმა ვერ აღმოაჩინეს მტკიცებულება, რომ პაციენტების მონაცემებზე წვდომა იქნა მოპოვებული.
თავის მხრივ, ენტონი ალბანეზიმ აღნიშნა, რომ მომხდარი „თვალსაჩინო მაგალითი“ გახდა იმისა, თუ რატომ აპირებს ავსტრალია ხელოვნური ინტელექტის სფეროს რეგულირებისთვის შესაბამისი ნორმების შემუშავებას.
AI-ის მონაწილეობა კიბერუსაფრთხოების ინციდენტებში
ეს უკვე პირველი ინციდენტი არ არის, რომელიც AI-ის არაპროგნოზირებად მოქმედებებს უკავშირდება.
მაგალითად, ივლისის ბოლოს კიდევ ერთმა ამერიკულმა ტექნოლოგიურმა გიგანტმა — Anthropic-მა — აღიარა, რომ მისი AI-მოდელების კიბერუსაფრთხოების წინასწარი ტესტირებისას მათ სამი სხვა კომპანიის უსაფრთხოების სისტემებში შეაღწიეს.
მანამდე ცნობილი გახდა OpenAI-სთან დაკავშირებული კიდევ ერთი ინციდენტის შესახებ. ტესტირების დროს კომპანიის აგენტები, რომლებიც GPT-5.6 Sol-სა და კიდევ ერთ, ჯერ გამოუშვებელ მოდელზე მუშაობდნენ, იზოლირებული გარემოს ფარგლებს გასცდნენ, უცნობი მოწყვლადობა აღმოაჩინეს და კომპანია Hugging Face-ის საწარმოო ინფრასტრუქტურის ნაწილზე წვდომა მოიპოვეს.
ამის შემდეგ Hugging Face-მა OpenAI-ს კიბერდაცვის საშუალებების შესამუშავებლად 100 მილიონი დოლარის (87 მილიონი ევრო) ღირებულების გამოთვლითი რესურსები მოსთხოვა.