როცა ტყუილს აღარ ჰყავს ავტორი, - დეზინფორმაცია ხელოვნური ინტელექტის ეპოქაში

ხელოვნურმა ინტელექტმა ინფორმაციის შექმნისა და გავრცელების წესები რადიკალურად შეცვალა. დღეს, ერთი შეხედვით, რეალისტური ფოტოს, ვიდეოს, ხმისა თუ ტექსტის მიღმა შესაძლოა, აღარ იდგეს არც ჟურნალისტი, არც კონკრეტული ავტორი და, მეტიც, არც რეალური მოვლენა.

ტექნოლოგიური შესაძლებლობების ზრდასთან ერთად, სულ უფრო რთული ხდება ერთმანეთისაგან ნამდვილისა და ხელოვნურად შექმნილის, ფაქტისა და მანიპულაციის გამიჯვნა.

სად გადის ზღვარი დეზინფორმაციასა და შეცდომით გავრცელებულ მცდარ ინფორმაციას შორის; რას ცვლის ხელოვნური ინტელექტი ამ კლასიფიკაციაში; რამდენად გვიცავს ფაქტების გადამოწმების არსებული მექანიზმები და როგორ უნდა შეიცვალოს თავად ჟურნალისტის პროფესიული პასუხისმგებლობა, - ამ და სხვა აქტუალურ საკითხებზე ჟურნალისტი, მედიისა და კომუნიკაციების მკვლევარი, პროფესორი ნინო ჭალაგანიძე გვესაუბრება.

რესპონდენტის შესახებ

მე გახლავართ კანცლერის მოადგილე კავკასიის საერთაშორისო უნივერსიტეტში, სადაც, აგრეთვე, ვუძღვები მულტიმედია ცენტრის საქმიანობას; ვარ სამაგისტრო და სადოქტორო საგანმანათლებლო პროგრამების ხელმძღვანელი თბილისის სახელმწიფო უნივერსიტეტში. სხვადასხვა საფეხურზე ვკითხულობ სასწავლო კურსებს.

მნიშვნელოვანია აგრეთვე, რომ ვარ განათლების ხარისხის განვითარების ეროვნული ცენტრის საკოორდინაციო საბჭოს წევრი, რაც საშუალებას მაძლევს, ხელი მეჭიროს პულსზე: ვეცნობოდე მიმდინარე პროცესებს პირველწყაროდან და დროულად;  გამოვთქვა მოსაზრებები, მოკრძალებული წვლილი შევიტანო გადაწყვეტილებების მიღებაში და ვიზრუნო სისტემის განვითარებაზე.

არაერთგზის ვიყავი ჩართული შოთა რუსთაველის საქართველოს ეროვნული სამეცნიერო ფონდის საგრანტო პროექტებში. ჩემი პროდიუსერობით მომზადდა  დოკუმენტური ფილმები, მათ შორის: „ქართლის ცხოვრება მარიამ ლორთქიფანიძესთან ერთად“, „ყვარლიდან მთაწმინდამდე - გურამ შარაძის მოტივებზე“  და სხვ.

გახლავართ 45-მდე სამეცნიერო ნაშრომისა და 7 სახელმძღვანელოს ავტორი/თანაავტორი, მრავალი წიგნის რეცენზენტი და რედაქტორი, მასობრივი კომუნიკაციის საერთაშორისო სამეცნიერო ჟურნალის: „ნექსუსის“ თანარედაქტორი. ასევე, ვარ სერგეი მესხის სახელობის პრემიის ლაურეატი ქართული ჟურნალისტიკის განვითარებაში შეტანილი წვლილისთვის; საქართველოს ნაციონალური ბიზნესრეიტინგის  გამარჯვებული  ნომინაციით: წლის მედიამენეჯერი.

ჩვენ რთულ ინფორმაციულ ხანაში გვიწევს ცხოვრება, რომელიც ციფრული კატაკლიზმებითა და შესაბამისი გამოწვევებით ხასიათდება. ვისაუბროთ იმ პრობლემებზე, რომლებიც ვიწრო მედიურ ჩარჩოს გასცდა და ყოველი ჩვენგანის ცხოვრებაზე ზემოქმედებს. როგორ გესმით ტერმინი „დეზინფორმაცია“? 

დეზინფორმაცია ჩვენი ეპოქის ერთ-ერთი ყველაზე დიდი ბოროტებაა. ესაა მიზანმიმართულად კონსტრუირებული და გავრცელებული ყალბი ან შეცდომაში შემყვანი კონტენტი, რომლის მიზანიცაა რეციპიენტის შეხედულებებისა და ქცევის მანიპულირება.

შეიცვალა თუ არა დეზინფორმაციის ცნების მნიშვნელობა ბოლო წლებში და როგორ? 

დიახ, ბოლო წლებში ცნების მნიშვნელობა ნამდვილად შეცვლილია. თუკი ისტორიულ წყაროებს ჩავხედავთ, თვალსაჩინო გახდება, რომ ტერმინი სათავეს საბჭოთა სადაზვერვო საქმიანობიდან იღებს, სადაც იგი ფარული სახელმწიფო ოპერაციების კონტექსტში გამოიყენებოდა. სადღეისოდ კი ეს ცნება გაცილებით ფართოა და მოიცავს როგორც სახელმწიფო, ასევე არასახელმწიფო მოქმედი პირების მანიპულაციურ პრაქტიკებს, მათ შორის: deepfake-ებს და AI-ს მიერ გენერირებულ კონტენტს.

ხელოვნური ინტელექტის გავლენის არეალი და მომხმარებელთა წრე ყოველდღიურად, შეიძლება, ყოველწუთიერადაც იზრდება. როგორია მისი ეფექტი ინფორმაციის გავრცელებაზე?

თქვენი კითხვა დღეისთვის კვლევის ყველაზე აქტუალურ ფაქტორებს უკავშირდება და აქედანვე ვიტყვი, რომ მისი გავლენა შეიძლება შეფასდეს როგორც უარყოფითი, ისე დადებითი კუთხით, ანუ ერთი და იგივე ტექნოლოგია შესაძლოა, განვიხილოთ როგორც პრობლემის წყარო, ასევე - გამოსავალი. 

ბოლოდან დავიწყებ: AI ტექნოლოგიები ყოველდღიურად ახალ შესაძლებლობებს ქმნის სიყალბის გამოვლენის, ვერიფიკაციისა და საჯარო განათლების კუთხითაც; რაც შეეხება უარყოფით გავლენებს, აქ ჩამონათვალი დიდია: უპირველესად, გენერაციული AI-სისტემები იძლევა დეზინფორმაციის დაბალბიუჯეტიანი, მასშტაბური წარმოებისა და სამიზნე აუდიტორიაზე მიწოდების საშუალებას. ასევე, Deepfake-ი და AI შესაძლებლობები მუდმივ ჭიდილშია ერთმანეთთან, ანუ გამოვლენის ხელსაწყოები და ყალბი კონტენტი ერთმანეთს მუდმივად ეჯიბრება და თანამედროვე ტექნოლოგიების ეს ბრძოლა მომხმარებლის ცხოვრების ხარისხზე არცთუ კარგად აისახება.

ქმნის თუ არა AI ახალ საფრთხეებს მედიის სიზუსტისთვის? 

ეს კითხვა ჩემი წინა პასუხის გაგრძელებაა. ყალბი კონტენტის გავრცელების სისწრაფე ციფრულ პლატფორმებზე ხშირად სცილდება ვერიფიკაციის ტრადიციულ მეთოდებს.  ჟურნალისტები, სიზუსტის ნაცვლად, სისწრაფეს ანიჭებენ პრიორიტეტს, განსაკუთრებით, Breaking News სიტუაციებში. შედეგიც სახეზეა!

რამდენად რეალურ პრობლემად აღიქვამთ deepfake-ებსა და AI-ს მიერ გენერირებულ ტექსტებს? 

მიმაჩნია, რომ სერიოზულ პრობლემასთან გვაქვს საქმე. შევეცდები, შედარებით მარტივად აგიხსნათ, სად ვხედავ რეალურ საფრთხეებს:

Deepfake-ების პრობლემა არა მხოლოდ მასობრივი მოტყუება, არამედ მათი კონკრეტული სამიზნეების წინააღმდეგ გამოყენებაცაა. პრობლემებს შორის გამოვყოფდი: კრიზისულ მომენტებში პოლიტიკოსების ყალბ განცხადებებს; ჟურნალისტების/აქტივისტების რეპუტაციის განადგურებასა და სხვა.

AI-გენერირებული ტექსტის შემთხვევაში პრობლემა სხვა დონეზეა: ე.წ. საინფორმაციო ხმაურში - ინფორმაციის უზარმაზარ ნაკადში ჭეშმარიტების გამორკვევა თითქმის შეუძლებელი ხდება.

როგორ გავარჩიოთ ერთმანეთისგან Misinformation და Disinformation?

პოპულარული ენით რომ ავხსნათ: მისინფორმაცია (Misinformation) არის მცდარი ინფორმაცია, რომელსაც ადამიანი უნებლიეთ, ბოროტი ზრახვების გარეშე ავრცელებს,  უბრალოდ არ იცის, რომ ტყუილია. ხოლო დეზინფორმაცია (Disinformation) არის მცდარი ინფორმაცია, მაგრამ განზრახ შექმნილი და გავრცელებული. ანუ კონკრეტული პირი ან პირთა ჯგუფი განზრახ, შეგნებულად ატყუებს სხვებს.

ჩვენთვის, ვინც პროცესებს ვაკვირდებით, ძირითადი გამოწვევა ისაა, რომ ზემოაღნიშნულ ორ ტყუილს შორის გამყოფი ხაზის გავლება პრაქტიკაში თითქმის შეუძლებელია, რადგან არ ვიცით, ადამიანი გულუბრყვილოა თუ შეგნებულ ბოროტმოქმედებას ეწევა.

გამოწვევაც ამაშია: კლასიკური განმარტება „განზრახვაზე“ დგას, მაგრამ როდესაც AI ავტომატურად აგენერირებს ყალბ კონტენტს, განზრახვა აღარ ეკუთვნის ერთ კონკრეტულ ადამიანს. ალგორითმმა „არ იცის“ რომ ტყუის, მაგრამ იმ ადამიანმა, ვინც ეს ალგორითმი გაუშვა, ძალიან კარგად იცის, რას აკეთებს.

შესაბამისად, ჩვენ წინაშეა განზრახ შექმნილი სისტემა, რომელიც მცდარ ინფორმაციას ტირაჟირებს. 

გვესაუბრეთ Malinformation-ზე - იყენებენ თუ არა რეალურ ინფორმაციას უფრო ხშირად ზიანის მისაყენებლად?

გიდასტურებთ, რომ Malinformation სადღეისოდ ყველაზე ეფექტური იარაღია ზიანის მისაყენებლად, რადგან სინამდვილეზეა აგებული. 

პირველი მაგალითი კონტექსტიდან ამოგლეჯას უკავშირდება. ეს შეიძლება იყოს  ავტორიტეტული პირის მიერ რეალურად ნათქვამი ციტატა, რომელიც ისეა მოჭრილი, რომ საპირისპირო შინაარსს იძენს. მეორე მაგალითად შეიძლება მოვიაზროთ დროის მანიპულაცია: ძველი ფოტო-ვიდეომასალის გამოყენება სხვა ფაქტთან მიბმით. ასევე, ე.წ. შერჩევითი გამჟღავნება: ადამიანის პირადი ინფორმაცია, რომელიც ჭეშმარიტია, მაგრამ მის დასაკნინებლად, მეტიც, გასანადგურებლად ვრცელდება.

AI-ის პირობებში აღნიშნული განსაკუთრებით საშიში ხდება, ვინაიდან სისტემებს შეუძლია მასშტაბურად მოიძიოს, გადაალაგოს და ხელსაყრელ დროს გაავრცელოს რეალური ინფორმაცია ყველაზე დამაზიანებელი ეფექტით. ამ შემთხვევაში ბოროტმოქმედი აღარ საჭიროებს ტყუილის გავრცელებას, საკმარისია მხოლოდ სტრატეგიის შემუშავება. 

ამიტომაც მიიჩნევა, რომ Malinformation ყველაზე რთული კატეგორიაა - ფაქტ-ჩეკინგი უძლურია მის წინააღმდეგ, რადგან გაშუქებული ამბავი რეალურ ფაქტებზეა დაფუძნებული.

რა სირთულეებს აწყდებით ინფორმაციის გადამოწმებისას? 

თანამედროვე ეპოქის მთავარი გამოწვევა ისაა, რომ AI-გენერირებული კონტენტი სულ უფრო ძნელი გამოსავლენია. deepfake-ების დეტექტორები ჩამორჩება თვითონ ტექნოლოგიის განვითარებას. ამასთან, დღეს ინფორმაცია იმდენად სწრაფად ვრცელდება, რომ ფაქტ-ჩეკინგი რეაგირებას ხშირად აგვიანებს.  

შეიცვალა თუ არა ჟურნალისტის პროფესიული პასუხისმგებლობა AI ეპოქაში? 

გართულდა ჟურნალისტობა. თუკი ადრე ჩვენი პროფესიის ადამიანისთვის საკმარისი იყო ინფორმაციის მოძიება და გადაცემა, დღეისთვის ეს საბაზისო საკვალიფიკაციო მინიმუმი საკმარისი აღარ არის. გაიზარდა ვერიფიკაციის „ტვირთი“: ადრე მხოლოდ ადამიანურ წყაროებს ვამოწმებდით, ახლა კი უნდა ამოვიცნოთ AI კვალი, - გამოსახულება, ხმა... ანუ ჟურნალისტი სერიოზულ ტექნიკურ მომზადებას საჭიროებს და მუდმივ წვრთნას გადის, რადგან გუშინდელი კომპეტენცია დღეს საკმარისი აღარაა. 

აქვე, არ უნდა დავივიწყოთ: მედიაპროდუქციის წარმოებისას, AI-ს გამოყენების შემთხვევაში, ჟურნალისტი ვალდებულია, აუწყოს ამის შესახებ აუდიტორიას. 

როგორ შეიძლება, მედიასექტორმა ხსენებულ გამოწვევებს უპასუხოს? 

ვფიქრობ, რომ ეს ერთი მედლის ორი მხარეა. პირველი, - მედიასექტორმა უნდა იზრუნოს გამჭვირვალობასა და ჟურნალისტების პერმანენტულ გადამზადებაზე; მეორე, - საზოგადოება უნდა იყოს მედიაწიგნიერი, რადგან სიყალბისგან ყველაზე მდგრადი თავდაცვა სწორედ კრიტიკულად მოაზროვნე აუდიტორიაა.

საჭიროა თუ არა Misinformation/Disinformation/Mal-information კლასიფიკაციის გადახედვა? 

აკადემიურ სექტორში ამ საკითხის ირგვლივ დებატები დაწყებულია. მე კი დავამატებდი, რომ საჭიროა არა მარტო კატეგორიების გადახედვა, არამედ მთლიანი ლოგიკის შეცვლა - „განზრახვიდან“ „ზიანზე“ დაფუძნებულ კლასიფიკაციაზე გადასვლა.

ვფიქრობ, მთავარი პრობლემა ტექნოლოგიების განვითარებას კი არა, სანდოობის კრიზისს უკავშირდება. მომხმარებელი დეზინფორმაციას ენდობა არა იმიტომ, რომ გონიერი არ არის, არამედ იმიტომ, რომ დაკარგული აქვს ნდობა ინსტიტუტების: მედიის, მთავრობის, მეცნიერების მიმართ. ამიტომაც პრობლემის არსია სამკურნალო, სხვა შემთხვევაში, ყველა ტექნიკური გადაწყვეტა მხოლოდ სიმპტომის მკურნალობას დაემსგავსება.

საუბრის ბოლოს, - ჩვენმა რესპონდენტმა, პროფესორმა ნინო ჭალაგანიძემ გამოწვევების დაძლევის კონტექსტში კიდევ ერთხელ აღნიშნა, რომ მედიამ სანდოობა უნდა დაიბრუნოს არა მარკეტინგული ხრიკებით, არამედ - ხილული პასუხისმგებლობით: შეცდომების აღიარებით, წყაროების გამჭვირვალობით. მისივე თქმით, სახელმწიფომ უნდა დაასუბსიდიროს მედიაწიგნიერება, რადგან ეს გრძელვადიანი და ყველაზე ეფექტიანი ინვესტიციაა მშვიდი და პროგრესული მომავლისთვის.