Главная сайта | Форум | Фотоальбом | Регистрация   | Вход | Cайт в избранное | Правила сайта и форума

Приветствую Вас Гость | RSS | Telegram канал


Фильмы | Онлайн Видео | Софт | Новости и Статьи | Игры онлайн | Фотоальбом | Форум

ДЛЯ ПРОСМОТРА САЙТА РЕКОМЕНДУЕТСЯ ИСПОЛЬЗОВАТЬ:  Uran - браузер от uCoz на базе проекта Chromium. | Google Chrome | Opera | Firefox 


МЕНЮ САЙТА

ПОИСК ПО САЙТУ

Путешествие к бессмертию: Глава 596-600

Путешествие к бессмертию: Глава 591-595

Путешествие к бессмертию: Глава 586-590

Путешествие к бессмертию: Глава 581-585

Путешествие к бессмертию: Глава 576-580

Путешествие к бессмертию: Глава 571-575

Путешествие к бессмертию: Глава 566-570

Путешествие к бессмертию: Глава 561-565

Путешествие к бессмертию: Глава 556-560

Путешествие к бессмертию: Глава 551-555

Во что поиграть на этой неделе — 27 октября (Assassin's Creed Истоки, Wolfenstein 2 New Colossus)

Игромания! Игровые новости, 19 декабря (Doom 4, Minecraft, Enlisted, Тодд Говард)

Во что поиграть на этой неделе — 10 мая + Лучшие скидки на игры

Игромания! ИГРОВЫЕ НОВОСТИ, 14 октября (PlayStation 5, Doom Eternal, Мстители, Death Stranding)

Во что поиграть на этой неделе — 18 мая + Лучшие скидки недели

Во что поиграть на этой неделе — 6 июля + Лучшие скидки на распродаже в Steam

Во что поиграть на этой неделе — 17 ноября (Star Wars: Battlefront 2, LEGO Marvel Super Heroes 2)

Как озвучивали Star Wars Battlefront
СТАТИСТИКА
Всего материалов:
Фильмомания: 1639
Видео: 220
Каталог файлов: 95
Каталог статей: 7660
Фотоальбом: 1236
Форум: 1199/9411
Каталог сайтов: 387

Всего зарегистрировано:
Зарегистрировано: 1860
Сегодня: 0
Вчера: 0
За неделю: 1
За месяц: 4

Из них:
Пользователи: 1786
Проверенные: 23
Друзья: 5
Редакторы: 0
Журналисты: 8
В вечном бане: 33
Модераторы: 0
Администраторы: 3

Из них:
Парней 1365
Девушек 493


ON-Line всего: 1
Гостей: 1
Пользователей: 0

Сейчас на сайте:


День Рождения у: artstil-poligrafia(40), XRund(45)
ВЫ МОЖЕТЕ ОКАЗАТЬ ПОДДЕРЖКУ ЗА ТРУДЫ, ПОЖЕРТВОВАВ ЛЮБУЮ СУММЫ.

WEBMONEY



Категории каталога

Главная » Статьи » Новости » Новости: Безопасность

OpenAI признала: у ИИ-браузеров есть уязвимость к инъекциям, которую невозможно полностью устранить

OpenAI стремится усилить безопасность своего браузера с искусственным интеллектом Atlas, но в компании поняли, что полностью исключить угрозу внедрения запросов (prompt injections) не получится. Внедрением запросов называется тип атаки, при котором агент ИИ выполняет скрытые инструкции в невидимых областях веб-страниц или писем электронной почты.



Атаки с внедрением запросов едва ли получится изжить полностью так же, как мошеннические схемы и методы социальной инженерии, считают в OpenAI, а «режим агента» в браузере «расширяет поверхность угроз безопасности». OpenAI выпустила Atlas в октябре, и вскоре исследователи в области кибербезопасности начали демонстрировать, что поведением браузера можно манипулировать, например, написав несколько слов в Google Docs. Разработчики Brave подтвердили, что непрямое внедрение запросов представляет собой системную проблему для ИИ-браузеров, в том числе для Perplexity Comet. О невозможности полностью исключить подобные атаки недавно заявили в Национальном центре кибербезопасности Великобритании и порекомендовали экспертам не пытаться их «остановить», а смягчить возможные последствия. А Google и Anthropic решили сделать ставку на многоуровневую защиту и постоянное стресс-тестирование систем.

В OpenAI решили пойти своим путём и создали «автоматизированного злоумышленника на основе большой языковой модели». Это бот, который прошёл обучение с подкреплением и принял на себя роль хакера, постоянно пытающегося незаметно отправить ИИ-агенту вредоносные инструкции. Бот тестирует свои атаки в симуляциях, демонстрируя, как в тех или иных условиях рассуждает и действует целевой ИИ. Он изучает реакцию, корректирует схему атаки и повторяет свои попытки снова и снова. У посторонних доступ к настолько глубокому пониманию механизмов внутреннего мышления целевого ИИ отсутствует, поэтому в теории бот OpenAI должен находить уязвимости быстрее, чем реальные злоумышленники.



В одной из демонстраций бот подбросил в почтовый ящик пользователя «отравленное» электронное письмо. ИИ просканировал корреспонденцию, открыл это письмо, проследовал скрытым в нём инструкциям и отправил от имени пользователя заявление об увольнении вместо автоматического ответа о его отсутствии на рабочем месте. После обновления безопасности ИИ-агент, однако, успешно обнаружил попытку внедрения запроса и сообщил о ней пользователю. Если надёжной и полной защиты от таких атак не существует, отметили в компании, то приходится полагаться на масштабное тестирование и ускорять циклы обновления. О фактических успехах по сокращению числа реакций на внедрения запросов в OpenAI не сообщили, но отметили, что работа в этом направлении при участии сторонних специалистов началась ещё до выхода Atlas.

Угроза от ИИ-агентов может быть серьёзной: они обладают некоторой автономностью при наличии высокого уровня доступа, указывают опрошенные TechCrunch эксперты. Поэтому одних только методов обучения с подкреплением недостаточно — необходимо учитывать и указанные аспекты: ограничивать действия, которые ИИ-агент способен осуществлять от имени учётной записи пользователя, в которую произведён вход, а также запрашивать подтверждения перед тем, как сделать нечто важное. На эти аспекты указывают и рекомендации OpenAI для пользователей: Atlas запрашивает подтверждение перед отправкой сообщений или перед совершением платежей. Пользователям также рекомендовали давать ИИ-агентам конкретные инструкции, а не, например, открывать доступ к почте и разрешать «делать, всё что потребуется». «Даже при наличии мер защиты широкая свобода действий облегчает скрытому или вредоносному контенту воздействие на агента», — предупредили в OpenAI.

Если на странице вы заметили в посте отсутствие изображений, просьба сообщить , нажав на кнопку.



После прочтения материала " OpenAI признала: у ИИ-браузеров есть уязвимость к инъекциям, которую невозможно полностью устранить ", можно просмотреть форум и поискать темы по данной игре.



СХОЖИЕ ТЕМЫ
ДРУГИЕ МАТЕРИАЛЫ
Архивация и восстановление: Резервное копирование в Windows 7
Московский суд рассмотрит иск против навязывания Windows потребителям
IBM достигла прорыва в технологии флэш-накопителей
Office 2010 рекламируется как голливудский блокбастер
Новенький ролик Forza Motorsport 3
Intel изменяет позиционирование Core i7
Шпионские фото нового 3G-телефона от ASUS
Тактическая игра Valkyria Chronicles 2 выйдет на PSP в 2010 г
Что нового на фронте безопасности в Windows 7?
Алкогольные заблуждения
Нужен ответ: иди в интернет.
Реорганизация AMD приведет к отказу от бренда ATI
Парад планет в 2012 году может стать концом света
Трейлер и скриншоты гонки Need for Speed Nitro
Пошаговое руководство по осуществлению контроля над установкой и использованием аппаратных устройств с помощью групповых политики - 1
Безопасность Windows Vista
Opera 10 Beta доступна для загрузки
Ubisoft переносит выход Splinter Cell Conviction и Red Steel 2
"Есть покрытие!" - новый проект от компании «Доктор Веб»
Почему девушки остаются в девках

Если вам понравился материал "OpenAI признала: у ИИ-браузеров есть уязвимость к инъекциям, которую невозможно полностью устранить", - поделитесь ним с другими.


html-cсылка на публикацию
BB-cсылка на публикацию
Прямая ссылка на публикацию


Категория: Новости: Безопасность | Добавил: Фокусник (23.12.2025)
Просмотров: 134 | Теги : Ии-браузеров, ии, есть, openAI

Ниже вы можете добавить комментарии к материалу " OpenAI признала: у ИИ-браузеров есть уязвимость к инъекциям, которую невозможно полностью устранить "

Внимание: Все ссылки и не относящиеся к теме комментарии будут удаляться. Для ссылок есть форум.


Всего комментариев : 0
avatar
ФОРМА ВХОДА
ПОЖЕРТВОВАНИЯ

WMZ: Z143317192317

Boosty - Donate

Payeer: P48650932
На кофе / ko-fi
На пиво / wayforpay
ПАРТНЕРЫ

World of Warships — это free-to-play ММО-экшен, который позволяет окунуться в мир масштабных военно-морских баталий. Возьмите под управление легендарные боевые корабли первой половины ХХ века и завоюйте господство на бескрайних океанских просторах.

Курсы обмена WebMoney


Что такое ресурс Turbobit и как качать.




Получи 10 ГБ места бесплатно, на всю жизнь.


Boosty – сервис по сбору донатов.
Elite Dangerous: Beyond - Chapter Two - Launch Livestream (June 28 @ 12:00 PM BST)
Elite Dangerous: Beyond - Chapter Two - Launch Livestream (June 28 @ 12:00 PM BST)
Игрозор 227 — Новый главный на StopGame, пережитки gamescom…
Игрозор 227 — Новый главный на StopGame, пережитки gamescom…
Случай на мото-гонках
Случай на мото-гонках
Традиционное лечение головной боли в Мозамбике
Традиционное лечение головной боли в Мозамбике
Paragon Hard Disk Manage 2015 - Как изменить размер Диска
Paragon Hard Disk Manage 2015 - Как изменить размер Диска
Игрозор №201
Игрозор №201
Календарь Игромании: Июнь 2016
Календарь Игромании: Июнь 2016
Видеопревью игры The Elder Scrolls Online
Видеопревью игры The Elder Scrolls Online
Почему мы ждем DOOM? (11 самых убийственных причин)
Почему мы ждем DOOM? (11 самых убийственных причин)
Обезьянки - Гирлянда из малышей
Обезьянки - Гирлянда из малышей

Когда сон сморил в самый неожиданный момент (10 фото)
Когда сон сморил в самый неожиданный момент (10 фото)
Субботний пост приколов (21 шт)
Субботний пост приколов (21 шт)
Художник изобразил диснеевских персонажей в виде реальных людей (17 фото)
Художник изобразил диснеевских персонажей в виде реальных людей (17 фото)
Разочаровывающие до слез онлайн-покупки (26 фото)
Разочаровывающие до слез онлайн-покупки (26 фото)
Свежие приколы в картинках и фото (37 шт)
Свежие приколы в картинках и фото (37 шт)
Прикольные и веселящие картинки (37 шт)
Прикольные и веселящие картинки (37 шт)
Порция демотиваторов (13 шт)
Порция демотиваторов (13 шт)
"Крушение иллюзий": фотоработы Петри Левелахти (24 фото)
"Крушение иллюзий": фотоработы Петри Левелахти (24 фото)
СТАТИСТИКА
Яндекс.Метрика


Copyright © 2000-2026, Alex LTD and System PervertedХостинг от uCoz