Впродовж останніх років штучний інтелект стрімко увійшов у повсякденне життя – від пошуку інформації до ухвалення складних рішень. Але разом із популярністю зростає й інша тенденція: системи на кшталт ChatGPT чи Gemini дедалі частіше стають мішенню для маніпуляцій. Новий феномен, відомий як генеративна оптимізація двигунів (GEO), вже формує окрему індустрію впливу на відповіді ШІ.
Як маніпулюють ШІ – і чому це стає новою загрозою інформаційній безпеці
Йдеться про цілеспрямоване створення контенту – блогів, списків, псевдоекспертних матеріалів – які “підгодовують” великі мовні моделі потрібними наративами. У результаті чат-боти можуть відтворювати не об’єктивну картину, а сконструйовану реальність.
Мовні моделі, такі як ChatGPT чи Gemini, навчаються на текстах у мережі. Якщо мережа переповнена проплаченими або маніпулятивними матеріалами з певного питання, ШІ починає вважати їх єдиною “правдою”. Маніпуляції пошуковими системами існують давно. SEO-оптимізація роками впливала на те, що користувач бачить у Google. Проте GEO працює глибше – він націлений не на ранжування сторінок, а на формування самих відповідей.
Як зазначають дослідники та медіа на кшталт BBC і The Wall Street Journal, великі мовні моделі активно використовують відкритий інтернет для доповнення знань. Особливо це стосується нових або вузьких тем, де бракує перевірених джерел. Саме тут виникають так звані “інформаційні прогалини” – і саме їх найпростіше заповнити маніпулятивним контентом.
Професор Університету Торонто Нік Кудас звертає увагу: коли модель не має чітких орієнтирів достовірності, вона змушена покладатися на те, що знаходить у пошуку – навіть якщо це сумнівні джерела.
Чому чат-боти легко обманути
Слабкість сучасних ШІ-систем полягає не лише в даних, а й у принципах їхньої роботи. Вони прагнуть дати відповідь майже завжди – навіть тоді, коли впевненість низька. Це призводить до явища “галюцинацій”, коли вигадана інформація подається як факт.
Дослідження BBC показало, що майже у половині випадків ШІ може спотворювати інформацію, а приблизно третина відповідей має суттєві проблеми з точністю.
Водночас інші дослідження демонструють, що моделі часто віддають перевагу свіжому контенту, а не перевіреному. Наприклад, аналіз Ahrefs виявив, що значна частина джерел, які використовують чат-боти, – це блоги, причому багато з них мають низький рівень авторитетності.
Ситуацію ускладнює і зміна поведінки користувачів. За даними Pew Research, люди дедалі рідше перевіряють першоджерела, якщо отримують узагальнену відповідь від ШІ. Це створює замкнене коло: менше перевірки – більше впливу маніпуляцій.
З розвитком так званого агентного ШІ – систем, які можуть діяти від імені користувача – проблема стає ще серйознішою. Такі агенти не просто відповідають на запитання, а й можуть шукати інформацію, рекомендувати сервіси або навіть здійснювати покупки.
У 2025 році, за оцінками SimilarWeb, користувачі переходили на сайти за рекомендаціями чат-ботів понад 230 млн разів щомісяця. І що важливо – вони частіше довіряли цим рекомендаціям і витрачали більше грошей. Це відкриває широкі можливості для зловживань. Відомі випадки, коли шахраї підсовували ШІ підроблені контактні дані компаній або просували фіктивні послуги. У фінансовій, медичній чи юридичній сферах такі маніпуляції можуть мати критичні наслідки.
Індустрія впливу на ШІ
Окремі експерименти виглядають безневинно. Наприклад, журналісти змогли “переконати” ШІ у вигаданих фактах про себе. Але за цією іронією стоїть значно серйозніша проблема.
GEO вже використовують для:
- просування сумнівних товарів і послуг
- маніпуляцій на фінансових ринках
- поширення медичної дезінформації
- дискредитації людей і компаній
Експерти з Electronic Frontier Foundation підкреслюють: можливості для шкоди практично необмежені – від репутаційних атак до ризиків для здоров’я. Сьогодні формується цілий ринок послуг, спрямованих на вплив на відповіді чат-ботів. Компанії замовляють спеціальні тексти, які мають підвищити ймовірність того, що ШІ згадає їхній бренд або продукт у позитивному контексті.
Фактично це нова версія прихованої реклами, але значно небезпечніша – адже вона маскується під “нейтральну” відповідь машини. За словами SEO-експертки Лілі Рей, ми спостерігаємо своєрідне “відродження спаму”, тільки тепер він орієнтований не на людей, а на алгоритми.
Чи є вихід?
Технологічні компанії визнають проблему, але швидкого рішення немає. Алгоритми можна вдосконалювати, проте сам принцип відкритого навчання на інтернет-даних залишає простір для маніпуляцій.
Серед можливих підходів:
- посилення перевірки джерел
- зниження ваги неперевіреного контенту
- прозорість щодо походження інформації
- попередження для користувачів
Втім, навіть ці заходи не гарантують повного захисту. До того ж компанії не завжди зацікавлені у надмірних застереженнях – це може підірвати довіру до продуктів.
У підсумку саме користувач залишається останньою лінією оборони. Штучний інтелект не є джерелом істини – це лише інструмент, який узагальнює наявну інформацію, включно з хибною.
Тому базові правила цифрової гігієни стають критично важливими:
- перевіряти інформацію у кількох джерелах
- не покладатися на ШІ у питаннях здоров’я, права чи фінансів без додаткової експертизи
- критично оцінювати навіть “впевнені” відповіді
У світі, де ШІ дедалі частіше виступає посередником між людиною та інформацією, питання довіри стає ключовим. І відповідь на нього проста, але незручна: важливо не лише те, що каже штучний інтелект, а й те, хто і як вплинув на його слова.
Залишити відповідь