Бунецький Дмитро
Катерина Степаненко
редактор Давайте зізнаємося: ми любимо провісників. Різних мастей – від астрологів (це дивовижні люди, деякі з яких до цих пір не знають, що одна з зірок у сузір'ї Стрільця, наприклад, далеко не зірка, а ціле скупчення діаметром в добру сотню світлових років) до біржових і політичних аналітиків ( Проте дивовижні хлопці, здатні робити висновки приблизно на тих же підставах, що і астрологи). Майбутнє – штука вельми туманна, а тут хоч якась визначеність.
Але ось вам історія про провісників, у яких є всі шанси стати ненависними для всіх і кожного. По-перше, тому що це машини. По-друге – тому що вони пророкують злочини, а кожен з нас в чомусь так замішаний. По-третє, тому що вони можуть помилятися. Ласкаво просимо в світ Генрі Каттнера, Роберта Шеклі, Філіпа Діка і Джорджа Оруелла. Світ, в якому машини вирішують, чи хочете ви переступити закон. Світ, в якому зловмисника затримують ще до здійснення ним злочину.
КИТАЙ: експеримент на мільярд осіб
Зовсім недавно, на початку цього року, китайські уряд доручив найбільшому військовому підряднику China Electronics Technology Group розробити систему передбачення злочинів. Природно, все відбувається в режимі найсуворішої секретності – у Міністерства держбезпеки КНР навіть сайту немає, а телефон вони просто ігнорують. Але головний інженер CETG Ву Манкін все-таки проговорився журналістам Bloomberg, що нова програма буде складати портрети підозрюваних, аналізуючи інформацію з банківських рахунків і місця роботи, хобі, споживчі звички і, що головне, кадри з камер спостереження. І реагувати на нестандартну поведінку. Наприклад, житель бідного села раптом обзавівся кругленькою сумою. Або людина, що не має родичів в інших країнах, починає часто дзвонити за кордон. Все це – ознаки потенційного терориста. Виявивши щось подібне, держава може заморозити банківські рахунки громадянина і зажадати від роботодавця доступ до всіх комунікацій підозрюваного.
Цікаво, що тестувати систему будуть в північній провінції Сіньцзян (увійшла до складу Китаю в 1949 році) і Тибеті. Тобто саме там, де живе опозиційно налаштована етнічна меншина.
Але китайська система реально може заробити. "Ця програма не має аналогів, оскільки не зустрічає опору ні з боку законів про приватне життя, ні з боку громадських організацій", – каже Локман Цуй, асистент-професор зі Школи журналістики Китайського університету в Гонконзі. І уточнює: в Китаї і так існує традиція доносу на незвичайну поведінку сусідів. До того ж ще з часів Мао на кожного китайця є особливий файл, в якому перераховані його шкільні досягнення, медична історія, робочі успіхи, відгуки про особу та інші відомості, які ми з вами вважаємо конфіденційними.
До того ж з 1 січня в Китаї набули чинності нові антитерористичні закони. Тепер влада може отримати доступ до банківських рахунків, телекомунікацій та національної мережі камер спостереження, яка називається "Скайнет". Багато компаній змушені були підкоритися: Baidu (ведуча пошукова система), Tencent (володіє месенджером WeChat), і Sina Weibo (типу Twitter). Цілком природно, що офіційно компанії відхрещуються від співпраці з державою, проте джерела в них розповідають: китайська влада вже зверталася з вимогою надати інформацію про користувачів.
Baidu, до речі, вже навчила свою систему передбачати заздалегідь ризик виникнення великого скупчення людей, яке може привести до травм і смерті. Для навчання вони взяли дані про шість "точок інтересу" в Пекіні (місця проведення громадських заходів, пам'ятки і транспортні вузли) і онлайн-запити користувачів на карті. В результаті передбачення збігалися з реальністю з точністю до однієї години. Втім, уточнюють в компанії, інформація про переміщення користувачів анонімна, так що стежити за окремою людиною не вийде.
США: архів, досьє і розумні алгоритми
Але Китай залишається Китаєм – він досить тоталітарний, там діє безліч заборон, які нормальній людині здадуться дивними. Зовсім інша справа – наші світові оплоти демократії на кшталт США та Західної Європи. Ось там-то подібні речі ніколи не стануться, скажете ви, і ... не матимете рацію.
Переказувати історію Едварда Сноудена, який розповів, як АНБ стежить за всім світом, я не буду. Куди цікавіше інше: вже кілька років в США абсолютно публічно реалізується та сама "дозлочинна".
Уявіть собі, що ви – Роберт Макденіел, і вам 22 роки. Ви живете в Чикаго, в неблагополучному районі. Часом граєте в азартні ігри. Покурює марихуану. Пару раз затримувалися за підозрою у вчиненні правопорушення. І тут до вас заходить поліцейський і каже: "значить так, хлопець, ми стежимо за тобою, так що не думай навіть порушувати закон". Роберт реально офонарів. Але ще більше хлопець здивувався, коли дізнався, що він занесений в "хіт-ліст" департаменту поліції Чикаго. Разом з ним – ще 400 людей.
"Ми запобігли сотням і сотням випадків, коли люди прийшли б додому і побачили б свої будинки пограбованими"
Все почалося сім років тому, в 2009-му. Націнституту юстиції при Мін'юсті пообіцяв гроші будь-якого поліцейського департаменту, який зможе передбачати майбутні злочини. Сутичка розігралася не на жарт, але перемогли чикагці, які і отримали 2 мільйони доларів. Ще на початку 2000-х все їх тачки були обладнані тачскрінами з системою CLEAR (Citizen Law Enforcement Analysis and Reporting) – це і база прав-адрес-імен-ордерів, і зв'язок між поліцейськими, і доступ до "смарт-камер", здатних розпізнавати підозрілі обличчя.
Втім, до 2013 року чиказькі копи не робили нічого: заважала текучка кадрів і внутрішня політика. Все змінив Майлс Верник з Іллінойського технологічного інституту, який ще в 80-х розробляв для Пентагону систему інтелектуального розпізнавання цілей. Пізніше – створював автоматичну діагностику наступаючого старечого маразму. Спеціаліст по машинному навчання та інтерпретації зображень, Верник і став творцем "дозлочинного" в Чикаго.
Робота вченого грунтувалася на кількох "китах". По-перше, кримінальна база Чикаго – це величезний історичний архів зі списком "гарячих точок". Вона дала поштовх для створення карти, де підсвічені райони, в яких, за статистикою, можуть відбутися ті чи інші злочини. По-друге, це досьє на злочинців і людей, які з ними пов'язані, тобто потенційних правопорушників. Алгоритми засекречені, але Верник зізнався, що вони настільки тонкі, що можуть навіть розташувати майбутніх бандитів за рангом, виходячи з їх шансу потрапити в перестрілку, поранити і вбити когось. Наприклад, Боббі Макденіел, про якого ми писали спочатку, потрапив в список через друга дитинства, з яким був колись затриманий через поширення марихуани. Його смертельно поранили – тому копи вирішили нанести візит екс-спільнику, на якого вказала машина.
До теперішнього часу поліція побувала "в гостях" у сотні осіб зі списку. У прес-службі Націнституту юстиції пояснили: мова йде про осіб, які, на думку моделі, будуть залучені в перестрілках та вбивствах.
Чикаго – чи не єдине місто в США, який намагається статистично пророкувати злочини. Поліція Санта-Крус (Каліфорнія) теж використовує математичну модель, розраховується частоту злочинів в різних районах, з 2011 року. Через це змінилися маршрути патрулів. Тільки за перший місяць вони здійснили п'ять арештів і запобігли кільком злочинам.
Подібний відділ заробив і в Лос-Анджелесі – і отримав від журналу Time звання "одного з кращих винаходів 2011 року". Їх програма генерує на карті міста "прогностичні області", де високий ризик злочину. Туди приїжджають патрулі і перевіряють. "Ми запобігли сотням і сотням випадків, коли люди прийшли б додому і побачили б свої будинки пограбованими. Навіть найбільші скептики тепер приходять до мене і кажуть: "Думаю, це працює" ", – говорить поліцейський Шон Малиновський.
Приблизно ті ж системи працюють в Мемфісі і Чарльстоні (завдяки корпорації IBM). Прогнозами займаються в Міннеаполісі. Поки ці системи цілком нешкідливі, але правозахисники вже вказують на те, що їх прогнози можуть змусити поліцію порушити Конституцію США (зокрема, Четверту поправку, яка забороняє необгрунтовані обшуки і затримання). Європа теж не відстає – Берлін, наприклад, щосили використовує систему PredPol (запозичену, втім, у американців). Місто розбито на квадрати, райони, де можуть статися злочини, підсвічуються. Щось схоже, засноване на системах вуличного спостереження, працює і в Лондоні.
ПРЕДПОСЫЛКИ: Филип Дик, Джордж Оруэлл, Роберт Шекли и сериалы
Говорячи "дозлочин" – кажеш Філіп Дік. Звичайно, саме знаменитий американський фантаст і візіонер виявився наймоднішим з усіх, хто лякав нас цим. Розповідь "Особлива думка" подарував людям поліцейську антиутопію нового покоління – ту саму, яка подобається більшості людей тому, що в книзі вона працює і вкрай ефективна. Але залишається несправедливою по відношенню до заарештованого за недосконалий злочин меншості.
За книгою зняли популярний голлівудський фільм з тією ж назвою. Сюжет простий: з'являються провидці-мутанти, які здатні передбачити злочини до їх здійснення. Відповідно, поліція працює на випередження, затримуючи потенційних вбивць. Головний герой – глава дозлочинного Андертон потрапляє в цей список, дізнається, що всі провидці бачать різне майбутнє і що вбивці можуть бути зовсім навіть не вбивцями.
У фільмі через це система затримання вбивць до вбивства закривається (щоб частково повернутися в однойменному серіалі, де якраз і впроваджується "класична комп'ютерна система" передбачення після кризи "мутантів дозлочинності"). У книзі – немає, через що залишається легкий присмак параної і жорстокої реальності.
Задовго до Діка подібними питаннями займався Генрі Каттнер. У двох оповіданнях – "Недремне око" і "Дворука машина" він досліджує те, як саме можна обійти комп'ютерних наглядачів: як вчинити злочин і залишитися безкарним в світі, який знаходиться під контролем. Десь в той же час вийшов і розповідь Роберта Шеклі "Страж-птиця". Там людство зледащіло до тієї міри, що доручило правосуддя птахам-роботам. Ті розширили рамки слова "злочин" і почали нападати на всіх підряд. Звичайно, ні Каттнер, ні Шеклі говорили про пророкування злочинів – вони просто фантазували про світ, в якому одна з найважливіших функцій передана машинам. І, по суті, допомогли Діку сформулювати власну антиутопію.
Ну і звичайно ж, не можна забувати про Джорджа Оруелла, Великого брата і мислезлочини всіх видів. Адже, як ми пам'ятаємо, будь-яке необережне слово – навіть вираз обличчя – приводило жителів Океанії в руки поліції думок. І це – теж своєрідний спосіб передбачення майбутніх злочинів. Так, збочений. Так, спрямований на збереження поточного ладу. Так, страшний, варварський і плює на все людські права. Але досить дієвий.
Але найбільш наближений до реальності серіал "У полі зору" (він же – "Підозрювані особи"). Що не дивно – зйомки почалися кілька років тому, коли сучасна "машинна" концепція дозлочинного вже існувала. Сюжет, коротко, наступний: геній-самітник, який розробив Машину – штучний квазіінтеллект, здатний передбачати злочини – і сховав її від уряду, наймає колишнього агента ЦРУ, щоб рятувати майбутніх жертв вбивств. Майже всі збігається з тим, що відбувається в реальності – крім, природно, самовідданих головних героїв.
АНТИСТЕЖЕННЯ: макіяж і окуляри
Якщо сховатися від машин-прогнозистів в інтернеті дуже просто – не заводити сторінку в соцмережах (ха-ха!) або, у всякому разі, постаратися не викладати туди всю особисту інформацію, то в реальному світі все набагато складніше.
Тому що поліцейські і муніципальні камери, приватні системи відеоспостереження в магазинах і кафе, відеореєстратори в авто, камери смартфонів, різноманітні "розумні окуляри" та інші очі в банкоматах ніколи не сплять. Вони бачать, як ви йдете по вулиці, куди заходите, що робите, з ким спілкуєтеся. Так що найбільш волелюбні особистості вже знайшли спосіб врятуватися від них.
Якщо нанести на обличчя пару-трійку плям, вони "розбивають" його на частини.
Ні, вам не потрібно трощити камери. Не потрібно замазувати їх фарбою. Досить змінити себе. Приміром, два професори з Токіо – Исао Етідзен і Сейіті Госі – розробили окуляри з інфрачервоними світлодіодами. Це світло невидимий для очей, але більшість камер дуже чутливі до нього. Тому включені світлодіоди перетворюють ваше обличчя в розпливчасту пляму. Прототип виглядає грубувато, але подібна система легко вбудовується в звичайні окуляри – потрібно просто знайти мініатюрні діоди і батарею.
Німецький художник і дизайнер Мартін Бакес розробив Pixelhead. Це звичайна балаклава з незвичайним піксельним зображенням колишнього німецького міністра внутрішніх справ Ганса-Петера Фредеріка, відомого своїм параноїдальним ставленням до інтернету і прихильника повноцінної стеження за громадянами.
Найкрасивіше всіх спрацював нью-йоркський художник Адам Харві. У своєму проекті CV Dazzle він підібрав кілька варіантів зачісок і макіяжу, які ускладнюють роботу алгоритму розпізнавання осіб. Виходить, якщо нанести на обличчя пару-трійку плям (чорно-білих, на вилицях), вони "розбивають" ваше обличчя на кілька незалежних зображень. Або створюють "помилкові цілі" для алгоритмів. У своїй роботі Харві навчався у військових – такий камуфляж використовували під час Першої світової: широкі чорно-білі смуги "ламали" силуети військових кораблів, не даючи визначити їх тип і розмір. У тому ж серіалі "Особлива думка" одна з героїнь носить на обличчі спеціальні татуювання, що захищають від розпізнавання.
Головні теми