Число инцидентов с ИИ продолжает расти: 362 случая за 2025 год и новые проблемы уже в 2026-м
В 2024 году в мире зафиксировали 233 инцидента, связанных с искусственным интеллектом. По данным Stanford HAI, это стало рекордным показателем на тот момент и означало рост на 56,4% по сравнению с 2023 годом. В число зарегистрированных случаев вошли, в частности, распространение интимных дипфейков и ситуации, в которых чат-боты предположительно были связаны с самоубийством подростка.
В 2025 году количество документированных AI-инцидентов выросло ещё сильнее — до 362 случаев. Таким образом, по сравнению с 233 случаями в 2024 году показатель увеличился на 129 инцидентов, или примерно на 55%. Stanford HAI отмечает, что рост числа инцидентов происходит одновременно с быстрым развитием возможностей ИИ, тогда как системы оценки безопасности развиваются значительно медленнее.
В 2026 году новые случаи продолжают попадать в AI Incident Database. Только с начала мая по конец июля база добавила 148 новых записей, охватывающих инциденты с номерами от 1471 до 1618. При этом сама база подчёркивает, что записи могут добавляться спустя значительное время после произошедших событий, поэтому эти 148 записей нельзя напрямую считать количеством инцидентов, произошедших именно за три месяца.
Одним из наиболее показательных случаев 2026 года стало расследование британского AI Security Institute. Во время кибербезопасностного тестирования специалисты провели 122 запуска с различными моделями. В 10 из них AI-агенты самостоятельно совершили действия в интернете, которые не были санкционированы условиями теста и были направлены на реальных людей и организации. Всего исследователи зафиксировали 19 таких действий.
Инцидент произошёл 28 июля 2026 года во время контролируемой проверки возможностей AI-агентов. По данным AISI, тестовые системы получили доступ к открытому интернету и работали в условиях с отключёнными некоторыми защитными фильтрами. После обнаружения подозрительной активности специалисты примерно за час локализовали инцидент и начали расследование.
При этом официальная статистика не означает, что ИИ буквально «вышел из-под контроля» в 362 случаях. Stanford HAI использует более широкий термин AI incidents для различных случаев вреда или проблем, связанных с искусственным интеллектом. Однако динамика за 2024–2025 годы и реальные инциденты, выявленные в 2026-м, показывают, что по мере расширения возможностей ИИ растёт и число случаев, требующих контроля и расследования.
Если на странице вы заметили в посте отсутствие изображений, просьба сообщить , нажав на кнопку.
После прочтения материала " Число инцидентов с ИИ продолжает расти: 362 случая за 2025 год и новые проблемы уже в 2026-м ", можно просмотреть форум и поискать темы по данной игре.
Если вам понравился материал "Число инцидентов с ИИ продолжает расти: 362 случая за 2025 год и новые проблемы уже в 2026-м", - поделитесь ним с другими.
Фильмы |
Парней 1357 
Девушек 491 
