„მე მას 50 ათასი შევთავაზე, რომ მე და ჩემი შვილი მოეკლა, მაგრამ მან უარი თქვა, რადგან საქმე ბავშვს ეხებოდა.“
„მინდოდა გამეგო, საიდან მოდის ადამიანების მოკვლის ეს სურვილი. მომწონს იმის ყურება, როგორ იტანჯება სხვა ადამიანი.“
თითქმის ორი თვის განმავლობაში 36 წლის ბრაზილიელი ფერმერი ChatGPT-ს ამ და სხვა მსგავს შეტყობინებებს უგზავნიდა. პოლიციის ვერსიით, კაცი საკუთარი რვა წლის შვილის მოკვლას, სხვა ადამიანებზე თავდასხმას და შემდეგ თვითმკვლელობას გეგმავდა.
სწორედ ეს შეტყობინებები, საბოლოოდ მისი დაკავების საფუძველი გახდა.
OpenAI-მ, ChatGPT-ის შემქმნელმა კომპანიამ, ფერმერის შეტყობინებებზე FBI-ს ყურადღება გაამახვილა. ამერიკულმა უწყებამ კი ამის შესახებ ბრაზილიის ხელისუფლებას აცნობა.
კაცის ადვოკატი ამტკიცებს, რომ მისი დაცვის ქვეშ მყოფი უბრალოდ „სხვადასხვა სისულელეს ელაპარაკებოდა“ ჩატბოტს და არანაირი დანაშაული არ ჩაუდენია.
ეს მსგავსი ტიპის ერთ-ერთი იშვიათი შემთხვევაა და პოლიციის, სასამართლოებისა და ხელოვნური ინტელექტის შემქმნელების წინაშე სულ უფრო აქტუალურ და რთულ კითხვას აჩენს: რა უნდა მოხდეს, თუ AI-ჩატბოტი პოტენციურ საფრთხეს ჯერ კიდევ მანამდე გამოავლენს, სანამ რაიმე დანაშაული მოხდება?
კაცი, რომლის სახელსაც მედია მისი შვილის ვინაობის დასაცავად არ ასახელებს, 19 ივნისს სან-გაბრიელ-და-პალიას მუნიციპალიტეტის სოფლის ტერიტორიაზე დააკავეს. ეს სამი დღის შემდეგ მოხდა, რაც ბრაზილიის იუსტიციის სამინისტროს კიბერდანაშაულთან ბრძოლის განყოფილებამ ინფორმაცია შტატის პოლიციას გადასცა.
„საქმეს პრიორიტეტული სტატუსი მივანიჭეთ მისი სერიოზულობის გამო და ასევე იმიტომ, რომ მამა, სავარაუდოდ, შვილის მოკვლას 20 ივნისამდე გეგმავდა“, — განაცხადა ესპირიტუ-სანტუს შტატის კიბერდანაშაულთან ბრძოლის პოლიციის განყოფილების ხელმძღვანელმა ბრენუ ანდრადემ.
ანდრადეს თქმით, ეჭვმიტანილს შვილთან პრაქტიკულად არ ჰქონდა ურთიერთობა და მხოლოდ ალიმენტს იხდიდა. გამოძიება ვარაუდობს, რომ ამ გადახდების აუცილებლობით უკმაყოფილება შესაძლო დანაშაულის ერთ-ერთი მოტივი შეიძლება ყოფილიყო.
მის სახლში ჩხრეკისას პოლიციამ აღმოაჩინა ოთხი ბოთლი უცნობი ნივთიერებებით და თოკი გამზადებული მარყუჟით, რაც გამომძიებლების აზრით, შესაძლოა თვითმკვლელობის განზრახვაზე მიუთითებდეს.
პოლიცია ასევე მიიჩნევს, რომ ChatGPT-სთან საუბრისას ეჭვმიტანილი შესაძლო თავდასხმებს სკოლებზე, ეკლესიებსა და პოლიციის თანამშრომლებზე განიხილავდა.
მედიის მიერ ნანახ ერთ-ერთ შეტყობინებაში ეწერა:
„თუ მივალ იმ ადგილას, სადაც ნარკოტიკებით ვაჭრობენ, და დაახლოებით ოთხ დამნაშავეს მოვკლავ, ქალაქში ცნობილი გავხდები. ამის შემდეგ მხოლოდ ერთი-ორი პოლიციელის მოკვლა დამრჩება და მერე მშვიდად შევძლებ სიკვდილს.“
სხვა შეტყობინებაში კაცი წერდა:
„ვფიქრობ, ცეცხლსასროლი იარაღი ვიყიდო და პოლიციელებს სროლა დავუწყო, რათა მათ საპასუხო ცეცხლი გახსნან და მომკლან. ჩემთვის ეს კარგი იქნება.“
გამოძიების თანახმად, კაცი ასევე ეძებდა ინფორმაციას ტოქსიკური ნივთიერებების, მათ შორის რიცინის შესახებ და ცდილობდა ChatGPT-ის უსაფრთხოების შეზღუდვების გვერდის ავლას შეკითხვების სხვაგვარად ფორმულირებით.
„ყველაფერი, რაზეც პლატფორმამ შეგვატყობინა, ადგილზე პოლიციის მისვლის შემდეგ დადასტურდა“, — განაცხადა ანდრადემ.
თავად კაცი უარყოფს, რომ შვილისთვის ზიანის მიყენებას აპირებდა.
54-დღიანი პატიმრობის შემდეგ, 13 აგვისტოს, იგი გაათავისუფლეს. მისთვის ბრალი ჯერ არ წაუყენებიათ, თუმცა პოლიციის გამოძიება გრძელდება.
ფერმერის მიმართ აღკვეთის ღონისძიებები მოქმედებს: მას ელექტრონული სამაჯურის ტარება ევალება და შვილთან ან ბავშვის დედასთან კონტაქტის უფლება არ აქვს.
გამომძიებლები ეჭვმიტანილის მობილურ ტელეფონს სწავლობენ და ამოღებული ნივთების ექსპერტიზის შედეგებს ელოდებიან. მათ უნდა დაადგინონ, გადადგა თუ არა კაცმა რაიმე კონკრეტული ნაბიჯი თავისი გეგმების განსახორციელებლად — მათ შორის, ნამდვილად დაუკავშირდა თუ არა დაქირავებულ მკვლელს, როგორც ამას, სავარაუდოდ, ChatGPT-სთან საუბრისას ამტკიცებდა.
ამ მტკიცებულებებმა შეიძლება აჩვენოს, გადავიდა თუ არა ეჭვმიტანილი დანაშაულზე ფიქრისა და მომზადების ეტაპიდან უშუალო შესრულებაზე. ბრაზილიის სისხლის სამართლის კანონმდებლობის მიხედვით, როგორც წესი, დანაშაული ჩადენილად მხოლოდ მაშინ ითვლება, როცა მისი უშუალო განხორციელების ეტაპი იწყება.
დაცვა ამტკიცებს, რომ კაცს მსგავსი ქმედებები არ განუხორციელებია.
„თუ ხელოვნურ ინტელექტთან საუბარი და მისთვის ნათქვამი ნებისმიერი სისულელე დანაშაულია, მაშინ ყველას ციხეში ჩასმა მოგვიწევს“, — ამბობს დვოკატი პედრუ პაულუ პესი.
მიიჩნევა, რომ შემთხვევები, როდესაც ხელოვნური ინტელექტის შემქმნელი კომპანიები მომხმარებლების შესახებ სამართალდამცავებს თავად ატყობინებენ, ჯერჯერობით ძალიან იშვიათია.
აგვისტოში OpenAI-მ FBI-ს ინფორმაცია გადასცა ფლორიდის 25 წლის მცხოვრების შესახებ მას შემდეგ, რაც მან ყოფილი შეყვარებულის გაუპატიურებისა და მოკვლის გეგმებზე ისაუბრა, — წერდა ამერიკული მედია.
ესპირიტუ-სანტუს პოლიციის წარმომადგენლის, ანდრადეს თქმით, ფერმერის საქმე შტატში პირველი შემთხვევა იყო, როდესაც შემოწმების საფუძველი თავად ხელოვნური ინტელექტის სისტემის სიგნალი გახდა, ხოლო მთელ ბრაზილიაში — მხოლოდ მესამე მსგავსი შემთხვევა.
„პოლიციისთვის ეს კიდევ ერთი გზაა იმის დასადგენად, იყენებდა თუ არა ადამიანი ხელოვნურ ინტელექტს დანაშაულის ჩადენასთან დაკავშირებული ინფორმაციის მოსაძიებლად“, — თქვა ანდრადემ.
თუმცა AI-კომპანიების მსგავსი სიგნალების გამოძიებაში გამოყენება მრავალ კითხვას აჩენს — მათ შორის, შეიძლება თუ არა მომხმარებლის მიერ ჩატბოტისთვის გაგზავნილი შეტყობინებები სასამართლოში მტკიცებულებად იქნეს მიღებული.
გამომძიებლები აცხადებენ, რომ OpenAI-მ მათ მომხმარებლის მონაცემები და მის მიერ გაგზავნილი შეტყობინებები გადასცა, თუმცა ChatGPT-ის პასუხები არ მიუწოდებია.
„ჩვენ არ მიგვიღია პასუხები, რომლებსაც მას ჩატბოტი აძლევდა“, — აღნიშნა ანდრადემ.
სისხლის სამართლის ადვოკატის, მაირა ფერნანდესის თქმით, ეს მტკიცებულებების თვალსაზრისით პრობლემას ქმნის, რადგან შეტყობინებების შესაფასებლად მათი კონტექსტის ცოდნა აუცილებელია.
„ეს არ შეიძლება იყოს პატარა ნაწყვეტი ან რედაქტირებული ვერსია. საჭიროა მთელი მიმოწერა სრულად“, — განაცხადა მან.
ფერნანდესი მიიჩნევს, რომ ეჭვმიტანილისა და ChatGPT-ის სრული მიმოწერა დაადგენდა, მხოლოდ მომხმარებლის სიტყვებზე რეაგირებდა თუ არა ჩატბოტი, თუ თავადაც რაიმე ფორმით წარმართავდა საუბარს.
გავრცელებულ განცხადებაში OpenAI-მ არ განმარტა, რატომ არ გადასცა გამომძიებლებს ChatGPT-ის პასუხები. კომპანიამ მხოლოდ აღნიშნა, რომ შეუძლია სამართალდამცავებს შეატყობინოს, თუ გამოავლენს „სარწმუნო და დაუყოვნებელ საფრთხეს სხვა ადამიანებისთვის ზიანის მიყენების შესახებ“.
ამ წლის აპრილში ფლორიდის ხელისუფლებამ OpenAI-ის მიმართ სისხლის სამართლის გამოძიება დაიწყო, რათა დაედგინა, შეიძლებოდა თუ არა ChatGPT-ის ტექნოლოგიას რაიმე როლი ეთამაშა გასულ წელს ფლორიდის სახელმწიფო უნივერსიტეტში მასობრივი სროლის დროს ორი ადამიანის მკვლელობაში.
OpenAI ამ ბრალდებებს უარყოფს. კომპანია ამტკიცებს, რომ ChatGPT მხოლოდ იმ ინფორმაციას აწვდიდა, რომელიც ისედაც საჯაროდ იყო ხელმისაწვდომი და არ წაახალისებდა ან ხელს არ უწყობდა უკანონო ქმედებებს.
ფერნანდესის თქმით, ამ შემთხვევაში ხელისუფლებისთვის ინფორმაციის გადაცემის გადაწყვეტილება შეიძლება აიხსნას იმით, რომ სავარაუდო მსხვერპლი კონკრეტული, იდენტიფიცირებადი ბავშვი იყო. თუმცა იურისტი აფრთხილებს, რომ მხოლოდ ხელოვნური ინტელექტის შეფასებაზე დაფუძნებული გამოძიებების დაწყება ჩვეულ პრაქტიკად არ უნდა იქცეს.
„სხვაგვარად, გამოძიება შეიძლება ნებისმიერი ადამიანის წინააღმდეგ დაიწყოს მხოლოდ იმიტომ, რომ ხელოვნურმა ინტელექტმა მისი სიტყვები ასე გაიგო“, — ამბობს ის.
ფერნანდესის აზრით, აუცილებელია ისეთი მექანიზმების შექმნა, რომლებიც რეალურ საფრთხეს ემოციური აფეთქებისგან, ფანტაზიისგან ან განზრახ პროვოკაციული განცხადებებისგან განასხვავებს.
პატრისია პეკი, პროფესორი და ციფრული სამართლის სპეციალისტი, მიიჩნევს, რომ ეს საქმე ხელოვნური ინტელექტის როლის უფრო ფართო ტრანსფორმაციას ასახავს: კონტენტის შექმნის ინსტრუმენტიდან ის ინტერაქტიულ სისტემად იქცევა, რომელსაც „პოტენციურად საშიშ ქმედებებთან დაკავშირებული ქცევითი მოდელების გამოვლენა შეუძლია“.
მისი აზრით, გარკვეულ გარემოებებში AI-კომპანიებს შეიძლება სამართლებრივი ვალდებულებაც კი გაუჩნდეთ, ხელისუფლებას საფრთხის შესახებ შეატყობინონ.
„როდესაც საუბარი აღარ გამოხატავს მხოლოდ აბსტრაქტულ განზრახვას და კონკრეტულ საფრთხეზე იწყებს მინიშნებას — როცა არსებობს განსაზღვრული მსხვერპლი, ხელმისაწვდომია ჩანაფიქრის განსახორციელებელი საშუალებები და ჩნდება დაუყოვნებელი რისკი — წარმოიშობა ეთიკური, ზოგიერთ შემთხვევაში კი სამართლებრივი ვალდებულებაც, იმოქმედო“, — ამბობს პეკი.
თუმცა, ფერნანდესის მსგავსად, ისიც აფრთხილებს მსგავსი მექანიზმების გადაჭარბებული გამოყენების წინააღმდეგ.
„AI-ის გამოყენების ეთიკა უნდა ეფუძნებოდეს არა პრინციპს — „ყველაფერი აკონტროლე“, არამედ პრინციპს — „ჩაერიე მხოლოდ მაშინ, როცა რისკი ამას ამართლებს“. მთავარი ამოცანაა, თავიდან ავიცილოთ როგორც უმოქმედობა, ისე გადაჭარბებული თვალთვალი.“