Поисковик с «чат-ботом» от Microsoft небезопасен. Эксперты все объяснили
. Они дали советы, как сократить риски утечки данных из-за GPT-3.5Эксперты по кибербезопасности: поисковик Bing с «чат-ботом» от Microsoft небезопасен
Использование обновленного поисковика Bing со встроенной нейросетью GPT-3.5 несет некоторые риски. Эксперты сообщили РБК Life, что встроенная технология в некоторых случаях может помочь злоумышленникам в написании вредоносного программного обеспечения.
О технологии
«Такого рода технологии снижают порог входа во многие области. Есть опасения, что будет распространено написание эксплойтов, вредоносного программного обеспечения и так далее. Но разработчики ограничивают возможности нейросети в таких областях. Если создать правильный запрос, то нейросеть действительно может помочь злоумышленникам», — считает руководитель отдела перспективных технологий Positive Technologies Александра Мурзина.
Однако, по ее словам, в случае с поисковыми сервисами разработчики на своей стороне смогут фильтровать такие запросы. Другая сложность в том, что нейросеть не может поручиться за достоверность данных, поскольку обучается на информации из открытых источников.
«ChatGPT как вид больших языковых моделей (large language models) обучается на данных в том числе из открытых источников. Поэтому часто возникают вопросы к фактчекингу ответов нейросети. Как поисковая система ChatGPT оригинально не задумывалась, что иногда и пишет сама. И именно такое ее использование имеет некоторые риски. Есть мнение, что в интернете можно найти подтверждение любому факту — именно в этом и есть опасность, если воспринимать такие модели как источник информации».
Компания Microsoft представила обновленный поисковик Bing с «умным» чат-ботом. Он работает на улучшенной модели GPT-3.5. Теперь поисковик обрабатывает запросы до 1000 символов, поддерживает 100 языков, а также умеет править код из браузера Edge. Bing будет анализировать результаты запроса и на их основе представлять краткий ответ.
Уязвимостей в самом браузере пока нет, отметил специалист по кибербезопасности Сергей Вакулин. Однако они могут появиться в процессе эксплуатации.
«На данный момент уязвимостей нет, но они могут появиться впоследствии. Не могу спрогнозировать, когда мы это увидим, но мы увидим в любом случае архив с запросами от конкретных людей. Запись в лог-файл уже, скорее всего, ведется, но не с целью сбора информации, а с целью выявления недостатков».
Бояться за свои персональные данные при использовании обновленного Bing пользователям не стоит, уверяет аналитик отдела анализа и оценки цифровых угроз Infosecurity a Softline Company Максим Грязев.
«Пользователи могут спокойно применять эту программу-поисковик и не бояться за свои персональные данные, потому что она, как и аналогичные программы, не требует подтверждать свою личность или регистрироваться, а значит, и вносить свои персональные данные. Ну, а если их нет, то и утекать нечему».
Если же предстоит использование интерактивного чат-бота, который требует для авторизации использование какого-то аккаунта, Грязев рекомендует указывать социальную сеть, которая используется реже всего. Желательно, чтобы в ней был указан минимум личной информации. Так пользователь существенно сократит риски утечки чувствительных данных.
Для улучшения качества ответов таких нейросетей запросы пользователей могут накапливаться, систематизироваться и обрабатываться. Потенциально через нейросети могут происходить утечки исходного кода или другой важной информации, сообщил специалист группы исследования безопасности банковских систем Positive Technologies Юрий Ряднина.
«Только в том случае, когда разработчики используют подобные инструменты в работе и отправляют части исходного кода в чат. Однако это абсолютно точно не значит, что нужно отказаться от использования подобных сервисов. При этом, как и всегда, следует быть внимательным и четко осознавать, что и куда ты отправляешь», — пояснил Ряднина.
При этом все эксперты сходятся во мнении нейросеть ChatGPT уже сейчас значительно повлияла на жизнь во всех сферах, а искусственный интеллект и дальше будет внедряться повсеместно. Однако говорить о том, что своих профессий лишится большая часть специалистов, эксперты не берутся. Они считают, что у многих работа может упроститься, но будут и те, кому придется освоить новое ремесло.
Ранее стало известно, что чат-ботом ChatGPT воспользовались около 100 млн активных ежемесячных пользователей. Этого показателя удалось достичь спустя всего два месяца после запуска площадки. Это делает ChatGPT «самым быстрорастущим потребительским приложением в истории». Для достижения таких же показателей TikTok понадобилось девять месяцев, а Instagram (принадлежит Meta, которая признана экстремистской и запрещена в России) — 2,5 года.
