росія використовує мережі пропагандистських сайтів для поширення мільйонів фейкових матеріалів, які можуть впливати на відповіді генеративного штучного інтелекту. Через це чатботи здатні відтворювати російські наративи як нібито нейтральну та достовірну інформацію. Про нову загрозу в інформаційній війні заявив командувач Сил безпілотних систем ЗСУ Роберт Бровді з позивним Мадяр у своєму Telegram-каналі «Мадяр».
За його словами, цей різновид когнітивних операцій належить до стратегічних загроз, які в Силах безпілотних систем вивчають у контексті технологічних викликів і ризиків 2027 року.
Як росія намагається впливати на відповіді ШІ
Роберт Бровді пояснив, що генеративні чатботи формують відповіді на основі інформації з різних джерел в інтернеті. Користувач отримує готовий узагальнений текст, однак не завжди замислюється, звідки походять використані дані та наскільки вони достовірні.
«Штучний інтелект правди не знає. Він переказує інтернет в буквальному сенсі», — наголосив командувач СБС.
За його словами, росія однією з перших зрозуміла, як можна використати цю особливість технологій у пропагандистських цілях. З 2022 року, стверджує Бровді, активно працює мережа сайтів під назвою «Правда», яка налічує близько двох сотень ресурсів різними мовами.
Щодня ці сайти публікують від 10 до 20 тисяч однотипних статей. За оцінкою командувача, це становить приблизно 4–6 мільйонів матеріалів на рік.
Бровді зазначає, що такі тексти створюють не стільки для читачів, скільки для алгоритмів, які збирають, аналізують та узагальнюють інформацію.
Як тисячі фейкових публікацій створюють ілюзію правди
За описом командувача СБС, пропагандистська схема працює так: одне неправдиве твердження багаторазово повторюють у тисячах матеріалів, перекладають різними мовами та розміщують на численних сайтах, які можуть посилатися один на одного.
У результаті автоматизовані системи бачать численні згадки про одну й ту саму тезу й можуть сприймати її як широко підтверджену інформацію. Якщо чатбот використовує такі матеріали під час формування відповіді, він ризикує відтворити фейк упевненим і зовні нейтральним тоном.
Таким чином, пропагандистський наратив може втратити очевидні ознаки першоджерела й виглядати як звичайне пояснення подій.
Окрему небезпеку, за словами Бровді, становлять запитання, у яких неправдиве твердження вже закладене в самій постановці. У такому разі чатбот може не поставити під сумнів вихідне припущення, а натомість побудувати відповідь навколо нього.
Мадяр навів приклад маніпулятивного запитання
Як приклад командувач згадав запитання про нібито спалення бійцями полку «Азов» опудала президента США Дональда Трампа.
За словами Бровді, ще у 2024 році чотири з десяти чатботів, яким поставили це запитання, відповіли ствердно та навели посилання на джерела. Цей приклад він використав, щоб показати, як неправдиве припущення може отримати підтвердження у відповідях автоматизованих систем.
Командувач також заявив, що, за результатами досліджень популярних чатботів, приблизно в третині випадків вони можуть відтворювати наративи, пов’язані з російськими фейками. Водночас у дописі не наведено назв усіх досліджених систем і методології, за якою отримали ці показники.
Як захиститися від інформаційних маніпуляцій
Роберт Бровді наголосив, що поширення подібних матеріалів є одним із викликів сучасної інформаційної війни. За його словами, росія продовжує використовувати пропагандистські інструменти, а протидіяти їм необхідно не лише технологічними засобами, а й критичним мисленням.
«Критичне мислення не варто делегувати. Навіть найрозумнішій машині. Вмикайте клепку і завжди перевіряйте джерело та інформацію», — закликав командувач Сил безпілотних систем ЗСУ.
Він підкреслив, що його мета — звернути увагу на загрозу, яку вивчають поряд з іншими викликами сьогодення та майбутнього.
Отже, відповіді штучного інтелекту не варто сприймати як безумовний доказ правдивості інформації. Щоб не стати жертвою генеративних ІПСО, необхідно перевіряти першоджерела, зіставляти дані з незалежними публікаціями та критично оцінювати запитання, у яких уже містяться неперевірені твердження.