Вірусний запит з «порожньою кімнатою» показав дані, які ChatGPT зберігає про користувачів
Вірусний запит до ChatGPT, у якому користувачі просять заповнити порожню кімнату відомостями про себе, показав обсяг даних, які модель зберігає в пам'яті. Для власників криптоактивів такі дані можуть стати основою для фішингових атак.
Як працює запит «порожня кімната»
Користувач завантажує до ChatGPT зображення незаповненої сірої кімнати і вводить інструкцію заповнити простір відомостями про нього. Модель спирається на попередні діалоги та додає до кімнати характерні деталі. Популярний криптоакаунт у X закликав підписників виконати це завдання й опублікувати результати.
Кожен предмет у кадрі відповідає певному фрагменту даних, які колись було передано чат-боту. Скриншоти у відкритому доступі дають змогу будь-кому побачити особистий профіль автора.
Що саме зберігає пам'ять ChatGPT
За інформацією OpenAI, пам'ять ChatGPT працює у двох режимах.
- Збережені елементи: індивідуальні відомості, зокрема ім'я користувача, налаштування та цілі.
- Історія чатів: доступна передплатникам Plus і Pro. Модель може звертатися до минулих розмов, навіть якщо явно збережених даних немає.
Зростання обсягу такої пам'яті ускладнює перехід на іншу платформу. У обговореннях це називають lock-in пам'яті ШІ.
Чому для власників криптоактивів ризики вищі
На початку року розробники виявили дані криптогаманців у чатах Claude, які Google проіндексував через публічні посилання.
Профіль зі згадками про суми активів, біржі чи маршрути подорожей дає шахраям контекст для персоналізованих повідомлень. Чанпен Чжао, засновник Binance, наголошував, що головна загроза від ШІ полягає у фішингу та витоку інформації, а не у зломі криптографії біткойна.
Як переглянути та вимкнути пам'ять
OpenAI дає змогу переглядати, видаляти або вимикати пам'ять у налаштуваннях персоналізації. Режим тимчасового чату відокремлений від персональних відомостей: він їх не використовує і не редагує.
Частина криптоспільноти пропонує власні способи захисту. Віталік Бутерін, співзасновник Ethereum, створив концепцію, яка приховує ідентичність у запитах до ШІ ще до того, як модель їх отримає.
Регуляторний контекст і ціна помилок
Суд штату Нью-Мексико зобов'язав Meta сплатити штраф у $25 млрд через порушення конфіденційності користувачів Facebook.
Такі рішення підвищують фінансову відповідальність компаній за управління персональними відомостями.
Що це означає для користувачів криптоактивів
- Публікація скриншотів пам'яті ШІ відкриває профіль користувача для будь-кого, тож ділитися ними не варто.
- Згадки про суми активів, біржі та маршрути в чатах можуть стати основою для фішингу.
- Перевірка налаштувань персоналізації показує, що саме модель пам'ятає, і дає змогу видалити зайве.
Порожня кімната наочно показує обсяг даних. За логікою джерела, зі зростанням пам'яті такий перегляд збережених знань може стати звичною практикою для провайдерів ШІ.
Примітка редакції: Суму штрафу Meta ($25 млрд) і дату рішення суду в джерелі не уточнено; перед публікацією варто перевірити першоджерело.
Примітка редакції: Дата витоку даних у чатах Claude в джерелі вказана лише як «на початку року», точна дата відсутня.
Часті питання
Що зберігає пам'ять ChatGPT?
Пам'ять ChatGPT містить збережені елементи з індивідуальними відомостями: ім'я користувача, налаштування та цілі. Передплатники Plus і Pro можуть давати моделі доступ до історії чатів, тож вона звертається до минулих розмов навіть без явно збережених даних. Переглянути або видалити пам'ять можна в налаштуваннях персоналізації.
Чому вірусний запит із кімнатою небезпечний для власників криптоактивів?
Скриншоти показують профіль користувача, а в ньому можуть бути суми активів, біржі та маршрути подорожей. Такі відомості дають шахраям контекст для персоналізованого фішингу. Публікація в X робить їх доступними будь-кому, тому ділитися такими зображеннями не варто.
Як вимкнути пам'ять ChatGPT?
OpenAI дає змогу переглядати, видаляти або вимикати пам'ять у розділі персоналізації. Режим тимчасового чату, за інформацією джерела, не використовує персональні відомості та не редагує їх. Перед змінами корисно переглянути, які дані вже збережено.
Що таке «параноїдальний режим» для ШІ?
Це концепція, яку розробив співзасновник Ethereum Віталік Бутерін. Її мета приховати ідентичність користувача в запитах до ШІ ще до того, як модель їх обробить. Запит анонімізується до передачі моделі, отже ідентичність користувача в ньому не відображається. Джерело не описує технічну реалізацію, тож детальні механізми варто перевірити в першоджерелі.
Раніше ми писали
Джерела
