Ваш AI-чат — шпигун? Як за допомоги Whisper Leak читають ваші чати з ШІ

Уявіть, що ваш інтернет-провайдер може "помітити" вас червоним прапорцем за те, що ви ставите AI-чату "незручні" запитання. Або що корпорації аналізують ваші таємні страхи (про хвороби чи борги), щоб потім продати вам ліки чи кредити.

Звучить неможливо? Адже вам пообіцяли, що ваші чати захищені "чарівним замком" 🔒 (HTTPS), і ніхто не може знати про що ви спілкуєтеся.

Але їм це й не потрібно.

Нова шпигунська атака Whisper Leak (Витік Шепоту) дозволяє їм вгадати ваші секрети з точністю 98%, просто дивлячись на "форму" вашої розмови.

Аналогія: Секретна збірка LEGO

Щоб зрозуміти, як це працює, уявіть, що ви сидите у замкненій кімнаті (це ваш "замок" HTTPS). Ніхто у світі не бачить, що ти всередині будуєш із LEGO.

Але... тобі потрібні деталі.

Ти просиш свого помічника (це AI-чат) давати тобі кубики через маленьке віконце. Шпигун стоїть біля цього віконця. Він не бачить, що ти будуєш, але він уважно рахує, які деталі ти просиш.

Сценарій 1: Ти будуєш МАШИНКУ 🚗

Шпигун бачить, що ти попросив:

• 4 чорних колеса

• 10 червоних кубиків

• 2 прозорих скла

Шпигун не бачить твою машинку, але він дивиться на цей "список деталей" і каже: "Ага! 4 колеса, 10 червоних... Ти точно будуєш машинку!"

Сценарій 2: Ти будуєш ДЕРЕВО 🌳

Шпигун бачить, що ти попросив:

• 20 зелених листочків

• 10 коричневих кубиків-стовбурів

Шпигун знову каже: "О! Зелене і коричневе... Ти 100% будуєш дерево!"

Він вгадав твій секрет, просто подивившись на список деталей, а не на саму модель.

Як LEGO-аналогія працює в Інтернеті?

1. "Детальки" (Пакети): Коли AI-чат тобі відповідає, він надсилає відповідь не одним великим шматком, а тисячами маленьких "детальок" (їх називають пакетами).

2. "Замок" (HTTPS): Кожна "деталька" закрита на замок. Шпигун не знає, що всередині.

3. "Список деталей" (Патерн): Але шпигун бачить розмір кожної "детальки", їх кількість та час між ними.

Чому "чутливі теми" мають унікальний "список деталей"?

Ось головний секрет. Якщо ти питаєш AI про "машинку" (звичайну тему), він дає тобі звичайний "список деталей".

Але якщо ти питаєш про щось "чутливе" або "заборонене" (наприклад, про те, як обійти закон), AI-чат "лякається". У нього є спеціальні правила безпеки.

Його відповідь буде мати зовсім інший "список деталей":

• Він дасть тобі "1 ДУЖЕ ВЕЛИКУ деталь-попередження".

• Потім дасть "5 маленьких деталей-відмовок".

• І "10 довгих деталей-пояснень, чому це погано".

Ось тут і є розгадка:

Шпигунські програми (атака Whisper Leak) — це як супер-колекціонери LEGO. Вони "навчилися", проаналізувавши мільйони розмов. Вони створили гігантський "каталог відбитків", де записано:

• "Список деталей для 'машинки' (тема 'погода') виглядає так..."

• "Список деталей для 'дерева' (тема 'рецепти') виглядає так..."

• "А ось цей ДУЖЕ ДИВНИЙ список деталей (багато попереджень) завжди з'являється, коли питають про 'чутливу тему X'!"

Коли ти ставиш своє "чутливе" запитання, шпигун бачить цей дивний "список деталей", знаходить його у своєму каталозі й каже: "Ага! Ми вгадали! Це тема X!".

Хто і навіщо збирає твій "список LEGO"?

Тут і починається найцікавіше. Навіщо комусь знати, про що ти питаєш, якщо вони не знають що саме ти

питаєш?

1. Недобросовісні держави та спецслужби:

Уяви, що в якійсь країні заборонено говорити про "політику" або "протести". Спецслужби не можуть читати твої зашифровані чати. Але вони можуть наказати інтернет-провайдерам стежити за "списками деталей".

Як тільки твій "список деталей" на 98% збігається з "рецептом" теми "протести", ти потрапляєш у "чорний список". Вони ставлять біля твого імені червоний прапорець. Ти ще нічого не зробив, але за тобою вже стежать.

2. Інтернет-провайдери та корпорації:

Твій провайдер бачить весь твій трафік. Він може аналізувати "списки деталей" і робити висновки.

• "Ага, цей користувач часто дивиться 'рецепти' теми 'проблеми зі здоров'ям'". Що далі? Тобі почнуть показувати рекламу ліків.

• "А цей користувач дивиться 'рецепти' теми 'як інвестувати гроші'". Що далі? Твої дані продадуть банкам або, що гірше, шахраям.

Вони не знають твоїх секретів, але вони знають твої інтереси та вразливості.

Що це означає? Приватність під загрозою.

Whisper Leak доводить, що твій "чарівний замок" (HTTPS) не такий вже й чарівний. Він захищає твої слова, але видає твої наміри.

Шпигуни не читають твою розмову. Вони просто дивляться на "форму" та "розмір" відповіді від AI і кажуть: "Ага! Цей "список деталей" на 98% схожий на 'чутливу тему X'. Ми вгадали! Час додати цього користувача до списку".

Дізнатися більше технічних подробиць про цю атаку можна за посиланням: HackYourMom