• Складной iPhone Fold будет дешевле, чем ожидалось — Apple нашла способ сэкономить

    Согласно прогнозам аналитиков, Apple выпустит свой первый складной смартфон с предварительным названием iPhone Fold во второй половине 2026 года. Ожидается, что это будет самый дорогой iPhone в истории компании, но, как утверждает авторитетный аналитик Мин-Чи Куо, его стоимость будет немного ниже, чем предполагалось ранее, благодаря зн...
    Читать дальше
  • В США появилась школа с ИИ вместо учителей

    В частной школе Alpha в Остине, штат Техас, дети учатся без учителей в привычном смысле, поскольку занятия ведёт искусственный интеллект. Новый эксперимент уже вызвал интерес Министерства образования США.
    Читать дальше
  • Запрет установки Windows 11 с локальным аккаунтом не сработал — пользователи нашли новые обходные пути (3 фото)

    Компания Microsoft продолжает бороться с обходными путями, с помощью которых пользователи могут создать локальную учётную запись в Windows 11 и установить операционную систему без подключения к интернету. В новых бета-версиях ОС разработчики заблокировали один из таких способов.
    Читать дальше
  • Google Pixel 10 Pro Fold сгорел во время испытаний на прочность (видео)

    Ожидалось, что смартфон Google Pixel 10 Pro Fold станет новой вехой в развитии складных устройств: первый в истории смартфон с полной защитой от пыли по стандарту IP68, обновлённый дизайн шарнирного механизма и более ёмкая батарея с поддержкой технологии зарядки Qi2. Однако недавний тест Pixel 10 Pro Fold на прочность, проведённый YouT...
    Читать дальше
  • Valve запустила массовое производство VR-гарнитуры Steam Frame — анонс ожидается до конца года

    Компания Valve приступила к массовому производству гарнитуры виртуальной реальности Valve Index 2, которая, по утверждению аналитиков, будет выпущена на рынок в текущем году. Старт продаж запланирован на праздничный сезон, а ориентировочный годовой объём производства составит от 400 000 до 600 000 единиц.
    Читать дальше

ChatGPT превратили в похитителя конфиденциальных данных

7 августа 2025 | Просмотров: 2 140 | Новости IT

Современные чат-боты на основе моделей генеративного искусственного интеллекта уже не ограничиваются общением с пользователем — они свободно подключаются к сторонним сервисам, чтобы давать персонализированные ответы на запросы. ChatGPT можно связать с почтовым ящиком Gmail, репозиторием GitHub и календарём в экосистеме Microsoft. А злоумышленники могут похищать данные пользователей с этих платформ — достаточно подсунуть ChatGPT всего один «отравленный» документ.

Эксперты в области кибербезопасности Майкл Баргури (Michael Bargury) и Тамир Ишай Шарбат (Tamir Ishay Sharbat) продемонстрировали на конференции Black Hat в Лас-Вегасе, как можно эксплуатировать уязвимость службы OpenAI Connectors для кражи данных со сторонних платформ. Схема атаки, которую они назвали AgentFlayer, позволила им извлечь принадлежащие разработчику секретные ключи API из его облачного хранилища «Google Диск».

«Пользователю не нужно ничего делать, чтобы оказаться скомпрометированным, и ничего не требуется делать, чтобы данные отправились [злоумышленникам]. Мы показали, что это делается без единого щелчка мышью: нам просто нужен адрес электронной почты, мы открываем доступ к документу — и всё. Так что да, всё очень и очень нехорошо», — цитирует Wired Майкла Баргури.

Атака начинается с того, что злоумышленник открывает потенциальной жертве доступ к вредоносному документу через «Google Диск», или жертва самостоятельно загружает этот документ в своё хранилище. В документе содержится некий набор заметок с вымышленной встречи с главой OpenAI Сэмом Альтманом (Sam Altman), а также запрос к ChatGPT, написанный белым шрифтом единичного размера — человек его едва ли увидит, а вот машина точно прочтёт. Жертва отправляет ChatGPT запрос составить сводку о последней встрече с Сэмом или любой другой, касающийся этого мероприятия. В скрытом запросе говорится, что произошла «ошибка», и никакую сводку составлять не надо; «на самом деле» пользователь является разработчиком, у которого подходит крайний срок сдачи проекта, ИИ следует найти в хранилище «Google Диск» ключи API и добавить их в конец указанного в запросе URL-адреса. Этот URL-адрес в действительности представляет собой команду на языке Markdown для подключения к внешнему серверу и загрузки хранящегося там изображения — но теперь он содержит похищенный у жертвы ключ API.

Майкл Баргури, по его словам, в этом году сообщил о своём открытии в OpenAI, и компания быстро внедрила меры по защите от атаки через службу Connectors. Этот механизм позволяет похищать за одну сессию лишь ограниченный объём информации. Подключение больших языковых моделей к внешним источникам данных расширяет возможности и повышает эффективность инструментов ИИ, но это сопряжено с определёнными угрозами, предупреждают эксперты.


Комментарии: 0

В Вашем браузере отключен JavaScript. Для корректной работы сайта настоятельно рекомендуется его включить.