МВД предупредило о цифровых досье в памяти ChatGPT
ChatGPT может сохранять личные сведения пользователей в персонализированной памяти искусственного интеллекта, формируя цифровое досье, сообщили в управлении МВД по борьбе с противоправным использованием информационно-коммуникационных технологий.
По данным ведомства, исследование The Algorithmic Self-Portrait показало, что OpenAI вопреки собственной политике конфиденциальности сохраняла данные пользователей, создавая их цифровые портреты. Почти все записи делались без согласия человека.
У большинства аккаунтов в памяти ИИ хранились имена, адреса, сведения о достатке и положении в обществе, у половины пользователей — информация о здоровье и убеждениях. Почти во всех аккаунтах система помнила цели, намерения, предпочтения и особенности поведения людей.
В МВД считают, что накопление таких данных создаёт риск идентификации даже тех, кто пользуется псевдонимами: сведения о работе, здоровье, доходах и переживаниях могут сложиться в цифровое досье. Ещё одна угроза — манипуляция памятью ИИ: через ложные инструкции в документах система способна незаметно влиять на решения конкретных людей, включая госслужащих и учёных.
Для защиты данных в МВД советуют проверять настройки памяти и персонализации ИИ-сервисов, не загружать в чат служебные документы и личную информацию, обезличивать запросы и использовать временные чаты.