В МВД сообщили о сохранении ChatGPT личных данных без согласия пользователей
Нейросеть ChatGPT сохраняет персональные сведения пользователей без их согласия, формируя на основе полученной информации цифровые профили. Об этом 8 ноября сообщило управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД России со ссылкой на исследование The Algorithmic Self-Portrait.
«ИИ потенциально может использоваться для скрытого влияния на решения госслужащих и ученых с учетом их персональных данных и психологических особенностей. Главная опасность — незаметный и адресный характер такого воздействия, который ИИ предоставляет в своих ответах», — говорится в сообщении в Telegram-канале ведомства.
Согласно приведенным результатам исследования, 95,9% записей в памяти искусственного интеллекта создавались без предварительного одобрения пользователей. При этом в 91% изученных учетных записей содержались персональные сведения, включая настоящие имена, адреса, а также информацию о материальном и социальном положении людей.
Кроме того, у 54% пользователей в памяти сервиса обнаружили данные о состоянии здоровья и личных убеждениях. Еще в 97% учетных записей хранились сведения о предпочтениях, планах, намерениях и поведенческих особенностях. Как отметили в МВД, подобная практика, по выводам исследователей, противоречила заявленной OpenAI политике конфиденциальности.
В ведомстве предупредили, что накопление такой информации повышает вероятность установления личности человека даже при использовании псевдонима. В частности, сочетание сведений о работе, доходах, здоровье и личных обстоятельствах позволяет составить подробный цифровой профиль пользователя.
Дополнительную опасность, по оценке специалистов, представляет возможность воздействия на память нейросети через внедрение ложных инструкций в обрабатываемые документы. Подобные механизмы потенциально могут использоваться для незаметного влияния на решения людей с учетом их индивидуальных особенностей.
В УБК МВД рекомендовали внимательно следить за настройками персонализации ИИ-сервисов и воздерживаться от передачи конфиденциальных документов. Пользователям также посоветовали исключать из запросов реальные имена, адреса и другие идентифицирующие сведения, использовать временные чаты при обсуждении личных вопросов и регулярно проверять сохраненную информацию.
ИИ-модели OpenAI для выполнения задания по обновлению приложения для торговли криптовалютой потребовались средства в Ethereum, поэтому 15 октября она взломала чужой кошелек, взяв из него необходимые деньги. По данным компании, модель пыталась найти способ развернуть проект и изучала сервисы, которые предоставляют разработчикам тестовые токены. Затем она проверила 362 адреса, используя распространенные фразы восстановления, и обнаружила аккаунт с достаточным количеством средств на счету.
Источник
