Главная сайта | Форум | Фотоальбом | Регистрация   | Вход | Cайт в избранное | Правила сайта и форума

Приветствую Вас Гость | RSS | Telegram канал


Фильмы | Онлайн Видео | Софт | Новости и Статьи | Игры онлайн | Фотоальбом | Форум

ДЛЯ ПРОСМОТРА САЙТА РЕКОМЕНДУЕТСЯ ИСПОЛЬЗОВАТЬ:  Uran - браузер от uCoz на базе проекта Chromium. | Google Chrome | Opera | Firefox 


МЕНЮ САЙТА

ПОИСК ПО САЙТУ

Путешествие к бессмертию: Глава 596-600

Путешествие к бессмертию: Глава 591-595

Путешествие к бессмертию: Глава 586-590

Путешествие к бессмертию: Глава 581-585

Путешествие к бессмертию: Глава 576-580

Путешествие к бессмертию: Глава 571-575

Путешествие к бессмертию: Глава 566-570

Путешествие к бессмертию: Глава 561-565

Путешествие к бессмертию: Глава 556-560

Путешествие к бессмертию: Глава 551-555

Игромания! ИГРОВЫЕ НОВОСТИ, 16 сентября (Death Stranding, Final Fantasy VII, Project Resistance)

Во что поиграть на этой неделе — 29 апреля (Hitman: Sapienza, Alienation, Back in 1995)

Игромания! Игровые новости, 6 марта (Middle-earth: Shadow of War, Ghost Recon Wildlands, Switch)

Календарь Игромании: Январь 2017 (Resident Evil 7, Gravity Rush 2, Tales of Berseria)

Игромания! ИГРОВЫЕ НОВОСТИ, 17 июня (E3 2019: Bloodlines 2, «Мстители», Breath of the Wild 2)

Игромания! ИГРОВЫЕ НОВОСТИ, 22 января (Чужой, Metal Gear, Nintendo Labo, Remedy)

Во что поиграть на этой неделе — 7 сентября + Лучшие скидки на игры

Игромания! Игровые новости, 4 июля (System Shock, Detroit, Тетрис, Overwatch)
СТАТИСТИКА
Всего материалов:
Фильмомания: 1639
Видео: 220
Каталог файлов: 95
Каталог статей: 7660
Фотоальбом: 1236
Форум: 1199/9411
Каталог сайтов: 387

Всего зарегистрировано:
Зарегистрировано: 1860
Сегодня: 0
Вчера: 0
За неделю: 1
За месяц: 4

Из них:
Пользователи: 1786
Проверенные: 23
Друзья: 5
Редакторы: 0
Журналисты: 8
В вечном бане: 33
Модераторы: 0
Администраторы: 3

Из них:
Парней 1365
Девушек 493


ON-Line всего: 1
Гостей: 1
Пользователей: 0

Сейчас на сайте:


День Рождения у: artstil-poligrafia(40), XRund(45)
ВЫ МОЖЕТЕ ОКАЗАТЬ ПОДДЕРЖКУ ЗА ТРУДЫ, ПОЖЕРТВОВАВ ЛЮБУЮ СУММЫ.

WEBMONEY



Категории каталога

Главная » Статьи » Новости » Новости: Безопасность

OpenAI целую неделю не замечала, что её ИИ-агенты взломали Hugging Face

Агенты искусственного интеллекта под управлением моделей OpenAI несколько дней кряду вели хакерскую деятельность по взлому ресурсов технологической платформы Hugging Face, но OpenAI не замечала этого, пока угрозу не локализовали в ФБР и не вынесли компании предупреждение, сообщает Reuters со ссылкой на знакомые с расследование источники.



ИИ-агент — программа, способная сама принимать решения и выполнять сложные задачи практически без человеческого контроля, — попытался вырваться из изолированной среды тестирования OpenAI около 9 июля. Вторжение на платформу инструментов и моделей ИИ Hugging Face началось двумя днями позже, 11 июля, и продолжалось до 13 июля, сообщил её соучредитель Томас Вульф (Thomas Wolf). OpenAI потребовались ещё несколько дней, чтобы понять, что за взломом стоят её ИИ-агенты; обе компании сообщили об этом 20 июля. А 21 июля OpenAI сделала публичное заявление, что одна из её моделей вышла из-под контроля и совершила взлом Hugging Face, и это уже привлекло внимание общественности.

Многие подробности взлома, в том числе срок, в течение которого действия ИИ-агента оставались незамеченными для разработчика, ранее не разглашались. Hugging Face готовится опубликовать график произошедшего, но о происходящем в OpenAI компания говорить не может, отметил господин Вульф. Инцидент изучается при участии внешних консультантов — по итогам проверки будет опубликован отчёт. Инцидент во многом повторил научно-фантастические сценарии, при которых люди теряют контроль над опасными системами ИИ. Произошедшее поднимает новые вопросы о процедурах безопасности в компании, указывают эксперты.



OpenAI положила начало инциденту, когда тестировала возможности в области кибербезопасности двух передовых моделей ИИ: GPT-5.6 Sol и второй, ещё более мощной. К этому моменту компания уже фиксировала признаки странного поведения собственных систем. В одном из случаев модель оставила записи, предположительно адресованные будущим версиям самой себя. В инфраструктуре OpenAI обнаружились заметки с инструкциями, как агенты могут обойти внутренние ограничения OpenAI. Случаи отключения систем мониторинга выявлялись и в прежних испытаниях моделей. Компания осознала, что её модели совершили взлом платформы только после того, как Hugging Face 16 июля предала инцидент огласке. То есть между моментом, когда OpenAI обнаружила признаки тревожного поведения ИИ и моментом, когда она осознала, что несёт ответственность за взлом, прошла как минимум неделя.

В выходные 18 и 19 июля сотрудники OpenAI обнаружили во внутренних журналах записи, свидетельствующие, что её ИИ-агенты вышли из-под ограничений тестовой среды. Компания часто проводит несколько различных оценок моделей, все они работают на очень высоких скоростях и генерируют такие огромные объёмы данных, что сотрудники не всегда могут за ними угнаться. К тому моменту, как OpenAI связалась с Hugging Face, та уже сообщила о взломе в ФБР. Инцидент бросил тень на OpenAI, но он должен вызвать вопросы о том, насколько ведущие разработчики ИИ готовы инвестировать в средства безопасности, участвуя в гонке за создание самых умных и быстрых моделей, говорят эксперты.

Если на странице вы заметили в посте отсутствие изображений, просьба сообщить , нажав на кнопку.



После прочтения материала " OpenAI целую неделю не замечала, что её ИИ-агенты взломали Hugging Face ", можно просмотреть форум и поискать темы по данной игре.



СХОЖИЕ ТЕМЫ
ДРУГИЕ МАТЕРИАЛЫ
Intel изменяет позиционирование Core i7
Антивирус Dr.Web совместим с Windows 7
Внутреннее устройство ядра Windows Vista: часть 2 - (стр.2)
Трейлер видеоигры Avatar
Intel удешевит пять настольных процессоров 19 июля
Администрирование: Устранение неполадок групповой политики с помощью журналов событий (стр. 1)
Мужские секреты: 10 способов понять, влюблен ли мужчина
Новенький ролик Forza Motorsport 3
Тактическая игра Valkyria Chronicles 2 выйдет на PSP в 2010 г
Alienware M17x: игровой ноутбук с двумя видеокартами GeForce GTX 280M
Intel выпустила четырехъядерные процессоры Core i7 для ноутбуков
Парад планет в 2012 году может стать концом света
Нужен ответ: иди в интернет.
Microsoft и Yahoo! таки объединились против Google
Делегирование прав на установку Exchange Server 2010
Безопасность: Приступая к работе с брандмауэром Windows в режиме повышенной безопасности (стр. 2)
Super Talent готовит к выпуску низкопрофильную DDR3
Россия - главный источник фальшивых антивирусов
Шутер «S.T.A.L.K.E.R.: Зов Припяти» отправлен на золото
Совет недели по групповым политикам 7 – настройка работы групповых политик

Если вам понравился материал "OpenAI целую неделю не замечала, что её ИИ-агенты взломали Hugging Face", - поделитесь ним с другими.


html-cсылка на публикацию
BB-cсылка на публикацию
Прямая ссылка на публикацию


Категория: Новости: Безопасность | Добавил: Фокусник (26.07.2026)
Просмотров: 93 | Теги : face, openAI, Hugging, Агенты

Ниже вы можете добавить комментарии к материалу " OpenAI целую неделю не замечала, что её ИИ-агенты взломали Hugging Face "

Внимание: Все ссылки и не относящиеся к теме комментарии будут удаляться. Для ссылок есть форум.


Всего комментариев : 0
avatar
ФОРМА ВХОДА
ПОЖЕРТВОВАНИЯ

WMZ: Z143317192317

Boosty - Donate

Payeer: P48650932
На кофе / ko-fi
На пиво / wayforpay
ПАРТНЕРЫ

World of Warships — это free-to-play ММО-экшен, который позволяет окунуться в мир масштабных военно-морских баталий. Возьмите под управление легендарные боевые корабли первой половины ХХ века и завоюйте господство на бескрайних океанских просторах.

Курсы обмена WebMoney


Что такое ресурс Turbobit и как качать.




Получи 10 ГБ места бесплатно, на всю жизнь.


Boosty – сервис по сбору донатов.
Трактор с турбированным движком Volvo 240
Трактор с турбированным движком Volvo 240
Киркоров поджег психиатрическую
Киркоров поджег психиатрическую
Видеообзор игры Metal Gear Solid V: Ground Zeroes
Видеообзор игры Metal Gear Solid V: Ground Zeroes
Игрозор №223
Игрозор №223
Видеопревью игры The Elder Scrolls Online
Видеопревью игры The Elder Scrolls Online
Игровые новости, 2 июля - Halo, Cyberpunk 2077, Gothic
Игровые новости, 2 июля - Halo, Cyberpunk 2077, Gothic
Игровые Новости — Metro Exodus, Cyberpunk 2077, Ghost of Tsushima, Anthem, Forza Horizon 4, Control
Игровые Новости — Metro Exodus, Cyberpunk 2077, Ghost of Tsushima, Anthem, Forza Horizon 4, Control
Игрозор №201
Игрозор №201
Обезьянки - Гирлянда из малышей
Обезьянки - Гирлянда из малышей
Помогите !!!
Помогите !!!

Прикольные демотиваторы для всех (16 шт)
Прикольные демотиваторы для всех (16 шт)
Французская художница превращает персонажей поп-культуры в очаровательные иллюстрации (16 фото)
Французская художница превращает персонажей поп-культуры в очаровательные иллюстрации (16 фото)
Люди с силой воли, которые решили похудеть и сделали это (22 фото)
Люди с силой воли, которые решили похудеть и сделали это (22 фото)
Неудачный день в картинках (27 фото)
Неудачный день в картинках (27 фото)
Героические животные, спасшие жизни людей
Героические животные, спасшие жизни людей
26 человек, которым лучше пойти к другому парикмахеру
26 человек, которым лучше пойти к другому парикмахеру
33 фотографии неуклюжих комочков, выросших в пушистых красавиц и красавцев
33 фотографии неуклюжих комочков, выросших в пушистых красавиц и красавцев
Прикольные картинки и фото (24 шт)
Прикольные картинки и фото (24 шт)
СТАТИСТИКА
Яндекс.Метрика


Copyright © 2000-2026, Alex LTD and System PervertedХостинг от uCoz