Большинство организаций в мире уже столкнулись с новыми киберугрозами, связанными с генеративным ИИ. Компания Gartner провела исследование, проведенное среди 302 руководителей в области кибербезопасности в Северной Америке, Европе и Азии.
62% компаний сообщили о кибератаках с использованием дипфейков. Чаще всего речь шла об использовании поддельных изображений и видео. Злоумышленники использовали их для введения сотрудников в заблуждение или вмешательства в автоматизированные процессы.
Еще 32% компаний сообщили о кибератаках на приложения с генеративным ИИ. Хакеры специально создавали манипулятивные запросы, чтобы заставить чат-боты или другие модели выдавать опасные или искаженные ответы.
Кроме того, 29% организаций подверглись атакам на корпоративную инфраструктуру GenAI. Речь идет о случаях, когда злоумышленники пытались взломать системы, обеспечивающие работу решений на основе ИИ в компаниях. Аналитик Gartner Акиф Хан посоветовал бизнесу сосредоточиться на усилении базовых систем безопасности и внедрении отдельных решений для новых типов угроз.
Напоминаем, что чат-боты могут помочь интернет-мошенникам обманывать пожилых людей. А недавно хакеры нашли способ обмануть Gemini и украсть данные пользователей.
