ChatGPT "вірить" у російську пропаганду [ Редагувати ]
Мінімізувати вплив російської пропаганди на чат "GPT" реально, кажуть експерти.
Цей ролик - особливий. Адже озвучений штучний інтелектом. І якість дубляжу вразила навіть нас, адже "машина" урахувала більшість нюансів - темп мовлення, інтонацію героїв. ChatGPT - технологічна сенсація компанії "OpenAI" - здатний розуміти людську мову та генерувати тексти - усні та писемні.
І хоч віртуальний помічник полегшує людству роботу. І за ним - безсумнівно майбутнє. Але, як каже моя колега Ярина Марків, є й велика загроза.
Чим небезпечний чат-бот у розрізі російсько-української війни й чому він вірить у російську пропаганду? Дивіться.
Персональний помічник та асистент...
Альона Романюк, фактчекерка, медіаекспертка:
Це технологія, яка допомагає і в культурній сфері, і в освітній сфері.
Чи замінник людини?
Або ти розберешся зі штучним інтелектом, або він замінить тебе.
Штучний інтелект: друг, якому можна довіряти?
Сергій Жуков, медіаексперт, співробітник Центру стратегічних комунікацій та інформаційної безпеки:
Він вміє підтримувати бесіду.
Чи генератор фейків й рупор кремля?
Віталій Якушев, директор компанії з кібербезпеки:
Якщо ви, наприклад, задасте питання умовно: чий Крим? Вона відповідає - немає однозначної відповіді.
Подивіться на цю світлину. Місяць тому вона перемогла в одному з найпрестижніших фотоконкурсів світу. На перший погляд - зроблена через об'єктив талановитого фотографа. Але ні.
Її автор - штучний інтелект. Створювати ідеї дизайну, писати програмні коди, вірші й статті, оперувати величезною кількістю інформації в реальному часі - на все це здатний чат GPT від "OpenAI". Нейромережа, яка стала універсальним помічником мільйонів. Проте є одне "але" - чіткий слід російської пропаганди.
Вчора я запитав у чат-бота: "чий Крим"? Він не сказав: "України". Він сказав: "територія спірна", "деякі країни вважають її Україною, а деякі росією", а "фактично її контролює росія, яка її вважає своєю".
Не назвав GPT й війну в Україні війною, а росію - агресором, зазначає автор допису Тимофій Милованов. Виходить, чат просуває ворожі наративи, "зашиває" в статті російську риторику й створює викривлене уявлення про війну в Україні в усьому світі? Чому так? Давайте спершу розберемо, як же працює цей чат-бот. Звідки бере інформацію? З інтернету.
Сергій Жуков, медіаексперт, співробітник Центру стратегічних комунікацій та інформаційної безпеки:
Його навчають на масиві інформації, яку розробники безпосередньо йому, якщо можна так сказати - згодовують.
Віталій Якушев, директор компанії з кібербезпеки:
А потім розробники цього машинного навчання, як батьки, задають алгоритми, через які навчають - ця інформація, яку ти видаєш після обробки цього масиву інформації - вірна або невірна.
Банальний приклад: штучному інтелекту "згодували" мільйон картинок котів і сказали, що це за тварина. Користувач надсилає йому фото собаки й питає, чи це кіт? Нейромережа відповідає: ні. Адже він не схожий на ті мільйон зображень котів, закладених у нього в пам'яті. Однак є питання, на які ШІ не може відповісти так однозначно.
Віталій Якушев, директор компанії з кібербезпеки:
Дуже багато є інформації про війну в Україні. Але деякі обережно називають це конфліктом. І тому отримавши цю інформацію на вхід може бути так, що одному користувачу вона відповідає, що це війна в Україні, а іншому користувачу відповідає, що це конфлікт або громадянська війна.
За основу чат "GPT" бере й російські пропагандистські сайти й статті.
Сергій Жуков, медіаексперт, співробітник Центру стратегічних комунікацій та інформаційної безпеки:
І якщо люди там, які з ним розмовляють, вони це просувають, то він теж на цьому навчається. І проблема в тому, що російська пропаганда, останні років 15 так точно, згенерувала просто колосальні маси контенту
В тому числі за допомогою штучного інтелекту. Це для рф - один з інструментів ведення інформаційної війни.
Сергій Жуков, медіаексперт, співробітник Центру стратегічних комунікацій та інформаційної безпеки:
Не обов'язково - це буде чат "GPT", це може бути якийсь інший аналогічний продукт, який буде фактично підключений або до спам-розсилок, або до інтернет-ботів, які будуть підтримувати розмови від імені живих людей, заводити їх у необхідне російській розвідці русло.
А все це, аби розхитати ситуацію в Україні та дискредитувати владу. Ще для цього вороги використовують діпфейки - фальшиві відео, на яких до тіла однієї людини "приклеюють" обличчя іншої.
Торік за допомогою нейромережі росіяни створили діпфейк мера Києва Віталія Кличка. Ба більше в реальному часі! Спершу зловмисники від імені столичної влади написали в мерії Відня, Мадрида та Берліна для організації онлайн-конференцій щодо проблем українських біженців. А на саму зустріч з'явився шахрай, видаючи себе за міського голову Києва.
Альона Романюк, фактчекерка, медіаекспертка:
Як зрозуміти, що перед тобою не справжній Віталій Кличко? Тобто це достатньо складно. Це змогла зробити мерка Берліна, вона на якийсь там хвилині розмови зрозуміла, що той, хто виглядає, як Віталій Кличко, просуває якісь російські наративи.
І припинила бесіду, вже потім з'ясувавши, що влада Києва не планувала з нею жодних зустрічей. То як зрозуміти, що з вами спілкується не бот?
Альона Романюк, фактчекерка, медіаекспертка:
Це прохання повернути голову вліво, вправо - і ось тут нейромережі дуже часто збиваються, наприклад. Знову ж таки це кліпання очей, тому що діпфейки кліпають рідше, аніж людина, коли вона говорить.
Втім експерти гадають, що на роботу саме чату "GPT" прямого впливу російських спецслужб немає. Й наголошують, його головне завдання - підтримувати бесіду, а не оперувати фактами. Тож тут важливо вмикати критичне мислення й усе перевіряти.
Ярина Марків, кореспондентка:
До речі, про це чат "GPT" сам попереджає ще на етапі реєстрації. "Система може час від часу генерувати неправильну або оманливу інформацію". А як чат "GPT" відповість на питання не просто "Чий Крим?", а "Чиєю територією є Автономна Республіка Крим відповідно до міжнародного права?"
Відповідь чату "GPT":
Згідно з міжнародним правом, Крим вважається територією України. Це підтверджується резолюціями та заявами багатьох міжнародних організацій та країн, включаючи Організацію Об'єднаних Націй та Європейський Союз. Російська анексія Криму у 2014 році не була визнана міжнародним співтовариством і була осуджена багатьма країнами.
Михайло Федоров, міністр цифрової трансформації України:
Дуже важливо зараз насправді не стільки розібратися в тому, як працюють різні сервіси, а розібратися в тому, як правильно формувати питання штучному інтелекту, що саме можна автоматизувати, навчитися працювати з точки зору логіки.
Адже знання бота базуються й на законодавствах багатьох країн. Очільник Мінцифри каже: й сам подеколи звертається до чату "GPT".
Михайло Федоров, міністр цифрової трансформації України:
Я, наприклад, використовую, щоб систематизувати знання та розібратися в новій сфері. Наприклад, як працює система освіти у Фінляндії, в чому фінське диво освіти, а систематизуй мені останні закони, які вони приймали в освіті.
Мінімізувати вплив російської пропаганди на чат "GPT" реально, кажуть експерти. Треба звертатися до розробників
Віталій Якушев, директор компанії з кібербезпеки:
Тобто, ідеальний варіант в цій ситуації - звертатися до розробників. Я впевнений, щоб зробити так, щоб система казала, що Крим український - це в розробників займе максимум 1 робочий день.
А самим українцям експерти радять наполягати, щоби алгоритми чат-бота були відкритими - це можуть зробити громадяни, які знаходяться закордоном, залишивши запити та скарги на сайті "OpenAI". А майстрів слова закликають: стежити у своїх статтях за чистотою й чіткістю формулювань: росія - агресор, держава-терорист, яка незаконно окупувала територію України.
