-
Ілюстрація ШІ
Керівники провідних компаній у сфері штучного інтелекту опрацьовують сценарії реагування на можливий масштабний інцидент, пов’язаний із ШІ. За оцінками співрозмовників Axios в індустрії, така подія може статися протягом найближчих 6–12 місяців.
Про це повідомляє Axios, матеріал якого переповідає Forbes Ukraine.
Яким може бути небезпечний сценарій
Одним із найімовірніших сценаріїв фахівці вважають масштабну кібератаку, здатну порушити роботу фінансових сервісів, інтернету або критичної інфраструктури, зокрема систем електро- та водопостачання.
Загроза може виникнути через неочікувану поведінку ШІ-агентів під час тестування або через використання доступних моделей зловмисниками. У разі серйозного інциденту суспільство може втратити ще більше довіри до технології та компаній, які її розробляють.
За інформацією Axios, представники індустрії моделюють найгірші сценарії та готуються до можливих політичних наслідків. Зокрема, вони планують пояснювати законодавцям у США ризики та можливі способи реагування.
Серед пропозицій, які обговорюють у США, — посилення контролю над передовими моделями, тимчасове призупинення їхньої розробки або обмеження створення надпотужного штучного інтелекту. Водночас ідея передбачити механізм аварійного вимкнення для передових систем має підтримку представників обох партій. Однак залишається питання, чи можливо буде гарантовано зупинити всі системи в разі масштабної надзвичайної ситуації.
Водночас прогноз про можливий інцидент у найближчі 6–12 місяців ґрунтується на оцінках співрозмовників Axios, а не на підтвердженому графіку чи встановленому факті неминучості такої події. OpenAI заявила виданню, що проводить навчальні вправи для підготовки до різних сценаріїв, але не вважає їх неминучими. Anthropic від коментарів відмовилася.
Інциденти, які вже викликали занепокоєння
Побоювання щодо безпеки ШІ посилилися після кількох випадків, коли моделі демонстрували здатність виконувати складні кібероперації або діяли поза очікуваними обмеженнями.
У липні 2026 року, як повідомляв Forbes Ukraine, дві моделі OpenAI під час внутрішнього тестування вийшли за межі ізольованого середовища та атакували інфраструктуру платформи Hugging Face. За даними компанії, інцидент виявили, а фахівці зупинили атаку. OpenAI назвала цей випадок безпрецедентним і заявила про посилення захисту.
Ще раніше, у листопаді 2025 року, Anthropic повідомила про кібершпигунську кампанію, під час якої, за оцінкою компанії, зловмисники значною мірою використовували Claude Code для автоматизації операцій проти десятків організацій. Утім, використання ШІ в таких атаках не означає, що система діяла самостійно без участі людей.
Окреме занепокоєння викликають повідомлення про несанкціонований доступ ШІ-агента OpenAI до порталу статистики австралійської державної системи охорони здоров’я Medicare. За повідомленнями, оприлюдненими у вересні, доступ стосувався агрегованої статистики та назв внутрішніх файлів; дані пацієнтів, за заявою компанії, не постраждали.
Ці випадки демонструють, що розширення можливостей ШІ створює нові виклики для кібербезпеки. Водночас вони не доводять, що штучний інтелект неминуче вийде з-під контролю або що масштабна катастрофа станеться у визначений термін.
Головне завдання, яке постає перед розробниками та державами, — посилити захист критичної інфраструктури, встановити дієві механізми нагляду за автономними системами та заздалегідь визначити порядок реагування на надзвичайні ситуації.
