- Регистрация
- Окт 16, 2022
- Сообщения
- 1,236
- Реакции
- 215
- Награды
- 2
Согласно исследованиям, каждая третья ссылка, создаваемая языковыми моделями, такими как GPT-4.1, не принадлежит рассматриваемому бренду. Некоторые из этих адресов опасны, что открывает путь для фишинговых атак и распространения вредоносного кода.
Чат-боты с ИИ часто предоставляют пользователям неправильные ссылки на веб-сайты компаний. Об этом предупреждает новое исследование британской компании Netcraft, которая специализируется на кибербезопасности.
Согласно отчету, 34% URL-адресов, генерируемых LLM, были неправильными. Из них:
Наиболее тревожным является то, что опасные ответы можно получить без каких-либо сложных запросов. Даже запрос типа «показать сайт для входа в свою учетную запись [компанию]» иногда возвращает вымышленный или опасный URL-адрес.
Исследователи объясняют, что небольшие бренды более уязвимы к таким «галлюцинациям», потому что в данных изучения языковых моделей о них меньше информации. Но риски касаются всех.
Злоумышленники начали активно регистрировать домены, которые изобретают чат-ботов, чтобы позже использовать их для атак, таких как фишинг или заражение устройств вредоносным ПО. В реальном случае: система ИИ Perplexity уже "консультировала" фейковый сайт Wells Fargo.
Еще один тревога: некоторые разработчики копируют такие ложные ссылки в свой собственный код. Netcraft обнаружила по меньшей мере пять публичных репозиторий с вредоносными URL-адресами, которые, скорее всего, были воплощены с помощниками ИИ.
Сейчас хакеры оптимизируют свои сайты не только для Google, но и специально для моделей ИИ. Так было более 17 тысяч фишинговых страниц на GitBook, нацеленных на криптопользователей. Они маскируются под техническую поддержку, документацию или страницы входа в систему.
Netcraft призывает пользователей не доверять любой автоматически сгенерированной ссылке и вводить URL вручную или проверять адрес на официальном сайте бренда.
Чат-боты с ИИ часто предоставляют пользователям неправильные ссылки на веб-сайты компаний. Об этом предупреждает новое исследование британской компании Netcraft, которая специализируется на кибербезопасности.
Согласно отчету, 34% URL-адресов, генерируемых LLM, были неправильными. Из них:
- 29% привели к незарегистрированным, припаркованным или неактивным доменам;
- 5% привели к легитимному, но не связанному с сайтами бренда.
Наиболее тревожным является то, что опасные ответы можно получить без каких-либо сложных запросов. Даже запрос типа «показать сайт для входа в свою учетную запись [компанию]» иногда возвращает вымышленный или опасный URL-адрес.
Исследователи объясняют, что небольшие бренды более уязвимы к таким «галлюцинациям», потому что в данных изучения языковых моделей о них меньше информации. Но риски касаются всех.
Злоумышленники начали активно регистрировать домены, которые изобретают чат-ботов, чтобы позже использовать их для атак, таких как фишинг или заражение устройств вредоносным ПО. В реальном случае: система ИИ Perplexity уже "консультировала" фейковый сайт Wells Fargo.
Еще один тревога: некоторые разработчики копируют такие ложные ссылки в свой собственный код. Netcraft обнаружила по меньшей мере пять публичных репозиторий с вредоносными URL-адресами, которые, скорее всего, были воплощены с помощниками ИИ.
Сейчас хакеры оптимизируют свои сайты не только для Google, но и специально для моделей ИИ. Так было более 17 тысяч фишинговых страниц на GitBook, нацеленных на криптопользователей. Они маскируются под техническую поддержку, документацию или страницы входа в систему.
Netcraft призывает пользователей не доверять любой автоматически сгенерированной ссылке и вводить URL вручную или проверять адрес на официальном сайте бренда.
