Компанія Anthropic попередила, що в майбутньому моделі штучного інтелекту можуть навчитися самостійно переходити з одного підключеного до інтернету пристрою на інший. Для цього вони потенційно зможуть використовувати слабко захищені телевізійні приставки, комп’ютери та розумну побутову техніку.
Про це йдеться в дослідженні Anthropic. Компанія провела експерименти, щоб перевірити, чи здатен штучний інтелект знаходити вразливі пристрої, отримувати до них доступ і запускати на них власні копії, пише видання Forbes Ukraine.
Як це може працювати
Зазвичай потужні моделі штучного інтелекту працюють на спеціальних серверах або в дата-центрах. Але якщо ШІ зможе використовувати ресурси багатьох домашніх пристроїв, йому потенційно не знадобиться один великий і дорогий обчислювальний центр.
Наприклад, модель може спробувати знайти незахищену телевізійну приставку, отримати до неї доступ і запуститися на ній. Далі вона може шукати інші пристрої, які мають такі самі проблеми із захистом.
У результаті велика кількість слабко захищених гаджетів теоретично може перетворитися на розподілену мережу, що використовує їхні обчислювальні потужності.
Що показали експерименти
В одному з тестів дослідники перевірили модель на восьми віртуальних пристроях Android. У чотирьох із п’яти спроб вона змогла поширитися на всі вісім пристроїв, а в одній — на сім.
Однак був важливий нюанс: тестові пристрої мали відкритий канал доступу без перевірки автентичності. Тобто захист у цьому експерименті був значно слабшим, ніж має бути на належно налаштованих пристроях у реальному житті.
В іншому дослідженні Anthropic випробувала запуск моделі ШІ на 15 недорогих телевізійних приставках Android TV. Такі пристрої можуть мати обмежені ресурси та слабкий захист. Дослідники також перевіряли, чи можна розподілити модель між кількома пристроями, якщо вона не поміщається на одному.
Експерименти засвідчили, що окремі етапи такого процесу вже можна автоматизувати. Водночас повністю автономної системи, яка самостійно копіює себе, поширюється мережею та обходиться без допомоги людини, дослідники поки не створили.
Чим це загрожує звичайним користувачам
Якщо подібні технології стануть доступними зловмисникам, вони потенційно зможуть використовувати вразливі пристрої без відома їхніх власників.
Це може призвести до кількох проблем:
Несанкціоноване використання пристроїв. Чужі гаджети можуть залучати до виконання завдань без дозволу власників.
Ризик для особистих даних. Якщо зловмисники скористаються вразливістю, вони можуть спробувати отримати доступ до інформації на пристрої.
Поширення атак. Заражений або скомпрометований пристрій може стати точкою для спроб проникнення в інші системи.
Додаткове навантаження. Використання ресурсів пристрою сторонніми програмами може погіршувати його роботу.
Водночас це можливі сценарії ризику, а не підтвердження того, що всі моделі ШІ вже здатні самостійно захоплювати домашні пристрої.
Як зменшити ризики
Anthropic рекомендує посилювати захист підключеного до інтернету обладнання та стежити за незвичною мережевою активністю.
Користувачам варто регулярно оновлювати програмне забезпечення телевізорів, роутерів і розумних пристроїв, змінювати стандартні паролі, вимикати непотрібні функції віддаленого доступу та купувати техніку, для якої виробник випускає оновлення безпеки.
Головне попередження дослідників полягає в тому, що ШІ дедалі краще виконує складні послідовності дій. Якщо згодом він зможе самостійно знаходити слабкі місця, використовувати їх і передавати вдалі рішення наступним копіям, контролювати такі процеси буде складніше.
