Не смотри на меня - ForkLog: криптовалюты, ІІ, сингулярність, майбутнє

# Не дивіться на мене

Звичайні камери спостереження у мегаполісах давно замінюють цілі системи, оснащені штучним інтелектом. На жаль або на щастя, але багатьом з нас доводиться сприймати як факт те, про що раніше читали в антиутопіях.

У тому, як влаштовані системи слідки на вулицях великих міст і чому держави поспішили з їхнім повсюдним впровадженням, розібрався Кшиштоф Шпак.

Flock police

У вересні 2025 року на порозі дому Крісанни Ельзер у Денвері стояв офіцер поліції з судовою повісткою. Власницю звинувачували у крадіжці посилки з чужого порогу в сусідньому місті.

Доказом злочину слугували дані автоматизованої системи відеоспостереження комерційної компанії Flock Safety, на яких видно машину Ельзер. Однак офіцер відмовився поділитися з підозрюваною цими деталями. Усі заперечення він запропонував представити у суді.

«Ви знаєте, що у нас є камери в тому місті. Навіть ковток свіжого повітря не пропаде звідти без нашого відома», — пояснив поліцейський.

Ельзер, впевнена у своїй невинності, почала збирати власні докази. У день злочину вона справді була неподалік — відвідувала портного, але чужих посилок не крала.

Вона зібрала дані з GPS-трекерів у додатках на телефоні і авто, записи відеореєстратора, усні свідчення і навіть фото свого одягу, яку носила у день злочину.

Після безуспішних спроб передати інформацію владі підозрювана написала напряму шефу поліції. Той похвалив її за зроблену роботу і повідомив, що судову повістку скасували.

На станом на грудень 2025 року Flock Safety пропонувала доступ до 80 000 камер у 49 американських штатах.

Від фургона з моніторами до прогнозування злочинів

Камери спостереження на вулицях, у магазинах і закладах — давно звичне явище. Однак сучасні розумні камери і методи обробки інформації становлять щось нове у порівнянні зі своїми попередниками.

CCTV аналогового століття

Колись під системою відеоспостереження (CCTV, Closed-circuit television) розуміли закриту мережу камер, сигнал з яких веде на дюжину моніторів перед очима нудьгуючого охоронця торгового центру.

Технологічна складова обмежувалася відеосенсорами, екранами і записуючим обладнанням.

Силові структури експериментували з системами спостереження щонайменше з середини минулого століття.

Випробування CCTV-системи британської поліції на Трафальгарській площі, 1960 рік. Джерело: The National Archives У 1960 році британська поліція провела випробування двох камер для спостереження на Трафальгарській площі з нагоди візиту короля і королеви Таїланду. Монітори розмістили у фургоні біля місця встановлення. Цей досвід дозволив виявити кілька технічних проблем і викликав суперечливі реакції.

У 1979 році британська урядова дослідницька компанія Police Scientific Development Branch розробила технологію ANPR на базі доступних на той час методів оптичного розпізнавання символів.

До 1990-х камер на перехрестях і фасадах стало нормою. Правоохоронці включили CCTV і ANPR до набору інструментів щоденної роботи.

Розумні камери

З мініатюризацією комп’ютерних компонентів, зростанням загальної «підключеності» і появою ШІ на зміну традиційній CCTV приходить розумна камера з централізованою базою даних і автоматичною системою аналізу інформації.

Таке пристрій обладнано власним процесором з ОС, сховищем і інтерфейсами для локального і інтернет-з’єднання, а іноді й мікрофоном для аудіозапису.

Камера Flock Safety з функціями ANPR. Джерело: Wikimedia Деякі виробники вбудовують ШІ-ускорювачі і модулі NPU (Neural Processing Unit) для обробки даних у реальному часі прямо на пристрої. Інші використовують для аналізу зовнішнє обладнання.

Ці системи здатні ідентифікувати об’єкти, розпізнавати номери авто і обличчя людей, зберігаючи зведення про побачене. Набір можливостей залежить від конфігурації ПЗ і переваг постачальника обладнання.

Надмозок за кулісами

Саме по собі розумне камеру може розпізнавати об’єкти і записувати їхні ідентифікатори — номер автомобіля, обличчя або характер походки людини. Аналітичний центр збирає дані з камер, поєднує їх з інформацією з інших джерел і надсилає оператору висновки.

Flock Safety пропонує щось подібне у вигляді Nova — «платформи даних для громадської безпеки», куди потрапляють не лише записи з камер спостереження, а й інформація з витоків, баз дата-брокерів і інших комерційно доступних джерел.

Такий комплекс створює досьє з картою пересувань, уподобаннями, історією переглядів, звичками, поліцейськими записами та будь-якими іншими даними.

Обладнаний подібним масивом інформації ШІ здатен робити припущення про поведінку людей і попереджати оператора про ситуації, які вважатиме підозрілими. Така опція вже доступна клієнтам Flock.

Згідно з заявами компанії, Nova дозволяє правоохоронцям закривати справи «одним кліком».

Згідно з заявами критиків, це спосіб обходу процедури отримання ордера для слідкування за людьми і ґрунт для масштабних порушень приватності.

Барвисті зачіски і ін’єкції коду

Багатьом байдуже до масового спостереження. Для них це просто інструмент, який допомагає розкривати і запобігати злочинам. Однак не всі настільки байдужі до меж особистої свободи.

Протистояння між розумними камерами і бажаючими зберегти приватність розгортається у кількох площинах.

Крім правової боротьби на рівні державної політики, ентузіасти звертаються до мистецтва камуфляжу і більш класичних форм зломів.

Спуфінг

Найцікавіший варіант атак на такі пристрої — спуфінг або «презентаційні атаки». Ця категорія охоплює методи роботи з зображенням, яке отримує камера.

До них належать маски, відбивачі, спеціалізовані текстури та інші методи «зіпсувати» зображення, щоб завадити системі розпізнати або правильно ідентифікувати об’єкт.

У 2016 році проект Reflectacles дизайнера Скотта Урбана запропонував лінзу окулярів з відбивачем, що спрямовує інфрачервоне підсвічування камери спостереження назад, засвічуючи обличчя.

Reflectacles на відео з камери спостереження. Джерело: Kickstarter. Така брутфорс-техніка не залишає одиночній камері даних для аналізу, але неефективна за умов спостереження з кількох кутів.

Берлінський дослідник і художник Адам Харві розробив серію рішень CV Dazzle для протидії системам розпізнавання облич.

Зразки 2010-х — асиметричні зачіски і елементи макіяжу, розраховані обманути популярний тоді алгоритм Віоли — Джонса. Цей метод розпізнає тіні під очима і носом, симетрію і положення перенісся для ідентифікації облич.

Як рішення художник застосував несхожі конфігурації тіней і контрастні з кольором шкіри кольори.

CV Dazzle Look 5. Джерело: Adam.harvey.studio. З появою систем розпізнавання облич на базі ШІ минулі методи застаріли, і у 2020 році Харві запропонував оновлений варіант макіяжу.

CV Dazzle Look 6 і 7. Джерело: Adam.harvey.studio. Автор підкреслив, що демонструє техніку, а не конкретні патерни, і оптимальне рішення залежатиме від умов спостереження.

Подібні методи застосовні й до систем розпізнавання номерів. Американський ентузіаст Бен Джордан описав методи створення «ворожих» текстур для ANPR-детекторів.

Використовуючи відкриті моделі розпізнавання, Джордан навчив нейромережу генерувати візуальний шум, який при накладанні на номер авто змушує модель зчитувати неправильні символи або взагалі не «бачити» номерний знак.

Проблема візуальних методів часто полягає у ненадійності. Їх ефективність залежить від умов і кількості камер. Водночас постачальники систем спостереження розширюють набір ознак, що використовуються для розпізнавання, наприклад, характер походки людини або колір автомобіля і його індивідуальні зовнішні модифікації.

Дослідники продовжують шукати способи обійти просунуті моделі, однак більш явну загрозу для систем із розумними камерами становлять хакери.

Взлом пристроїв і мережеві атаки

Як і будь-який підключений до інтернету комп’ютер, незалежно від наявності і потужності ШІ, розумні камери і їхня серверна інфраструктура потенційно вразливі до хакерських атак.

За час існування цих систем задокументовано багато вразливостей різної значущості.

У 2021 році у коді камер відеоспостереження Hikvision виявили вразливість до атак ін’єкції коду. Дірка у безпеці дозволяла отримати повний контроль над пристроями, можливість встановлювати ПЗ і доступ до інших камер у мережі.

У 2023 році в операційній системі розумних камер компанії Axis виявили можливість виконання довільних команд під час встановлення ACAP-додатків.

У 2025 році у системах спостереження фірми Dahua знайшли дві вразливості, пов’язані з віддаленим виконанням команд і переповненням буфера. Обидві дозволяли зловмиснику отримати повний контроль над камерою.

Окремий вектор для атак — безпосередня взаємодія з обладнанням, яке часто розташоване на вулиці у публічно доступних місцях. Злочинець може скористатися інтерфейсами для обслуговування камери, отримати доступ до локального сховища або модифікувати пристрій у своїх цілях.

Для захисту від прямих атак виробники застосовують шифрування даних, використовують апаратні методи верифікації ПЗ і додають криптографічні підписи до відеофайлів.

Пристрій, налаштований із дотриманням необхідних заходів безпеки, не можна просто так «перепрошити» або скачати з нього готові до використання дані. Однак іноді трапляються помилки.

У 2025 році видання 404 Media повідомило, що щонайменше 60 ШІ-камер Condor компанії Flock Safety із функцією трекінгу людей залишилися незахищеними від несанкціонованого доступу.

Фахівець у галузі кібербезпеки Джон Гейнс і згаданий вище дослідник Бен Джордан знайшли IP-адреси пристроїв за допомогою спеціалізованого пошуковика Shodan і виявили, що можуть підключитися без логіна і пароля.

Журналіст у кадрі камери спостереження Flock. Джерело: 404 Media.

Будь-хто міг дивитися прямий трансляцію, завантажувати архівні дані за минулі 30 днів, змінювати налаштування і читати системні логи.

Компанія-постачальник пояснила інцидент «помилкою в налаштуваннях, що торкнулася обмеженої кількості пристроїв», і повідомила про усунення проблем.

Ті ж дослідники повідомили, що інша модель камер Flock відкриває безкоштовну WiFi-точку для доступу, якщо певним чином натиснути кнопки на корпусі. Таким чином можна було отримати повний контроль над пристроєм і його ПЗ.

Гейнс опублікував аналіз цих та інших вразливостей у системі Flock у окремому документі, що охоплює 55 пунктів.

У офіційній відповіді компанія заявила, що вказані проблеми вже були відомі, а потенційні зломщики покладаються на прямий доступ до камер і «глибокі знання внутрішнього устрою обладнання».

Постачальник обладнання підкреслив, що всі необхідні оновлення постачаються без участі клієнта і ніякої загрози роботі систем не існує.

Боротьба з «частково компетентними»

Автоматичні системи спостереження, особливо з впровадженням ШІ, стали зручним інструментом для правоохоронних органів.

Постачальники обладнання переконують клієнтів у можливостях своїх рішень — ось автомобіль підозрюваного і карта його пересувань, ось адреса. Тепер справи можна закривати одним кліком.

До такого легко звикнути. Люди схильні надмірно покладатися на дані автоматизованих систем. З цим феноменом пов’язане одне з типових когнітивних спотворень.

Автоматизація з застосуванням ШІ підпорядковується тим самим принципам: багато користувачів схильні вважати відповіді ChatGPT правильними і ігнорувати можливі протиріччя. У побутових умовах це може спотворювати уявлення користувача і в деяких випадках спричиняти психози.

Навіть за умов абсолютного інженерного ідеалу і під повним контролем авторизованого оператора масштабна система спостереження з аналізом ШІ може завдати шкоди.

У 2025 році американські власті почали розслідування щодо можливого використання технологій Flock Safety у незаконному стеженні. Правоохоронців підозрювали у використанні системи для пошуку іммігрантів і спостереження за жінками, що перетинали кордони штатів у пошуках юрисдикцій із дозволеними абортами.

У цьому випадку система працювала справно, ніхто не обманював автоматичні детектори, не зламував камери і не підмінював відео дипфейком.

Не ламати, а вдосконалювати

Системи CCTV уже давно широко поширені. Забезпечення систем відеоспостереження аналітикою на базі ШІ — нова реальність.

Навіть найяскравіша асиметрична маска і повністю закриті номери машини самі по собі не допоможуть зберегти приватність у умовах тотального збору даних.

Як і будь-який потужний інструмент, системи ШІ-спостереження потребують регулювання, яке допоможе запобігти протиправному використанню і халатному ставленню до безпеки з боку постачальників і операторів.