Біометричний сенсор: на порозі цифрової диктатури

ЧИ МОЖНА «ХАКНУТИ» НЕ СМАРТФОН, А ЖИВУ ЛЮДИНУ? — ТАК, І ДУЖЕ СКОРО

Юваль Ной Гарарі, виступ на WEF у Давосі, 24.01.2018, переклад українською Петро Козак 

Всесвітньовідомий автор бестселерів «HomoSapiens: коротка історія людства» та «HomoDeus: коротка історія майбутнього», ізраїльський професор-історик Юваль Ной Гарарі, на Всесвітньому економічному форумі у Давосі, виступив з напевно найцікавішою промовою серед усіх ораторів. Ми переклали його виступ українською мовою, і дуже радимо прочитати цю статтю самим та потім ще раз — разом з вашими дітьми. Крім того, перша його книга вже є у продажу українською мовою, а незабаром англійською з’явиться вже третій його бестселер — «Двадцять один урок для двадцять першого століття». 

МИ — ОСТАННІ ПОКОЛІННЯ HOMO SAPIENS 

Сьогодні я хочу поговорити про майбутнє нашого виду. Ймовірно, ми є одним з останніх поколінь гомосапієнс. Через сто-двісті років на планеті Земля домінуватимуть істоти, що відрізняються від нас більше, ніж ми відрізняємося від неандертальців чи шимпанзе, тому що у прийдешніх поколіннях ми навчимося створювати тіла, мозок та саму людську свідомість. Саме вони стануть основними продуктами в економіці, економіці 21 століття. Не текстильні вироби, не транспортні засоби чи зброя, а тіла, мізки та людська свідомість. 

Як саме виглядатиме майбутнє господарів планети? А це вже вирішать ті, хто володіє даними та інформацією. Ті, хто контролюють інформацію, контролюють не лише майбутнє людства, але й майбутнє життя як такого, бо сьогодні дані та інформація – найважливіші ресурси у світі. 

У стародавні часи найціннішим ресурсом була земля. І якщо хтось мав у своїй владі забагато землі, людство розділялося на аристократів та простих людей. Пізніше, у сучасні часи, а саме останні два століття, техніка та механізми зайняли місце землі у якості найважливішого ресурсу. І якщо хтось володів технікою, людство ділилося на класи: капіталістів та пролетаріїв. Тепер же інформація витісняє техніку. І, якщо хтось матиме у своїх руках забагато інформації, людство поділиться не на класи, а на види, різні види. 

Чому ж інформація є настільки важливою? А важливою вона є тому, що ми досягли межі, коли можна «хакнути» не лише комп'ютери, але й людей та інші організми. Зараз усі говорять про злам комп'ютерів, електронної пошти, банкових рахунків та мобільних телефонів. Але фактично ми просто нарощуємо здатність «хакнути» саму людину. 

Що ж потрібно для того, аби «хакнути» людину? Потрібні дві речі: достатня комп'ютерна потужність і багато даних, особливо біометричних. Даних не про те, що я купую і куди йду, а про те, що відбувається всередині мого тіла та мого мозку. Ніхто не мав потрібної комп'ютерної потужності та потрібної кількості даних, аби хакнути людство. До сьогодні. 

Навіть коли радянське КГБ чи іспанська інквізиція всі 24 години всюди стежила за тим, що ти робиш, слухали все, що ти скажеш, все ж вони не мали сили комп'ютерів і біологічних знань, потрібних для того, аби вивідати, що відбувається всередині твого тіла та мозку, і зрозуміти, як ти почуваєшся, як мислиш і чого хочеш. 

 

ОРГАНІЗМИ — ЦЕ АЛГОРИТМИ 

А зараз все змінюється. І все це завдяки двом революціям. З одного боку — це розвиток комп'ютерів й, особливо, штучного інтелекту — що дає нам потрібну комп'ютерну потужність. І водночас — розвиток біології, а особливо розвиток досліджень мозку, дає нам потрібне розуміння, біологічне розуміння. 

Справді, ви можете узагальнити всі біологічні знання за 150 років, починаючи з Дарвіна, у три слова: «ОРГАНІЗМИ — ЦЕ АЛГОРИТМИ». У цих словах закладений великий сенс сучасної науки життя. Організми, чи то віруси, чи банани, чи люди, всі вони - біохімічні алгоритми. І зараз ми вчимося  дешифрувати ці алгоритми. Тепер, коли ці дві революції об'єднуються, коли інформаційна революція об'єднується з біотехнологічною — ви зможете отримати здатність «хакнути» будь-яку людину. І, напевно, найважливішим винаходом для об'єднання інформаційних та біологічних технологій є біометричний сенсор, що перетворює біохімічні процеси у тілі та мозку в електронні сигнали, які комп'ютер може зберігати та аналізувати. 

А якщо ви маєте достатньо біометричних даних і достатньо комп'ютерної потужності, то ви можете створити алгоритми, які знають мене краще, ніж я знаю сам себе. А люди справді ж не знають себе. 

Саме тому алгоритми можуть дізнатися про нас більше, ніж ми самі про себе. Ми не знаємо себе! Наприклад, коли мені було 21, я нарешті зрозумів, що я є ґеєм.  До того я весь час це заперечував. І таких прикладів безліч. Багато ґеїв, які довгий час заперечують свою орієнтацію, не знають чогось дуже важливого про себе. Уявіть собі ситуацію, коли через 10-20 років алгоритми зможуть сказати будь-якому підлітку, яка в нього сексуальна орієнтація  і наскільки ця орієнтація домінує в ньому. 

Алгоритми відстежують рух ваших очей, ваш кров'яний тиск, мозкову активність, і кажуть, хто ви є. Можливо, ви особисто не захочете використовувати ці алгоритми. Але, можливо, ви опинитесь на якійсь нудній вечірці на честь дня народження когось із ваших однокласників. Й один із ваших друзів матиме чудову ідею. «Агов! Я почув про новий крутий алгоритм, який визначає твою сексуальну орієнтацію. Це ж буде весело, якщо кожен по черзі тестуватиме себе, використовуючи цей алгоритм, а інші в той час лише стежитимуть та коментуватимуть це!» 

Що ви зробите? Просто підете? Та, навіть, якщо ви підете, навіть якщо ви продовжуватимете ховати від своїх однокласників та від себе ж свою орієнтацію, ви не зможете приховати її від Amazon, Alibaba Group чи секретної поліції. В той час, як ви копаєтесь в Інтернеті, дивитесь відео чи перевіряєте соцмережі, алгоритми будуть відстежувати рух ваших очей, ваш кров'яний тиск, мозкову активність.

І вони знатимуть, вони зможуть сказати компанії Coca-Cola: «Якщо захочете продати цій людині свій солодкий напій, не використовуйте реклами з напівоголеними дівчатами, використовуйте рекламу з напівоголеними чоловіками». Ви навіть не знатимете, як це відбувається. Але вони знатимуть! І ця інформація коштуватиме мільярди доларів. 

Коли ми маємо алгоритми, які можуть розуміти мене краще, ніж я розумію себе ж, вони можуть передбачити мої бажання, маніпулювати моїми емоціями, і навіть приймати рішення від мого імені. 

 

ЦИФРОВА ДИКТАТУРА 

Якщо ми не будемо обережними, результатом може стати виникнення цифрової диктатури. У попередньому столітті демократія витіснила диктатуру, тому що вона була кращою в опрацюванні даних та прийнятті рішень.

Ми звикли роздумувати про демократію та диктатуру в етичних та політичних вимірах. Але фактично це два різні методи опрацювання даних. Демократія обробляє інформацію та поширює її. Вона розподіляє між різними інституціями та людьми інформацію та право приймати рішення. Диктатура ж концентрує всю інформацію і право приймати рішення в одному місці. 

За технологічних умов двадцятого століття, поширення інформації працювало краще, ніж її концентрація в одному місці. Це є однією з головних причин, чому демократія витіснила диктатуру, і чому, наприклад, економіка США витіснила радянську економіку.

Але це діяло лише за унікальних технологічних умов ХХ століття. А в ХХІ столітті нові технологічні революції, серед яких — штучний інтелект та вивчення техніки, можуть кардинально змінити напрям маятника. Вони можуть зробити централізоване опрацювання даних більш ефективним ніж відкрите поширення цих даних. І якщо демократія не зможе адаптуватись до цих нових умов, нові люди житимуть під владою цифрової диктатури. 

Зараз ми бачимо, як  в усьому світі формуються все витонченіші системи стеження. І формуються вони не лише диктаторськими режимами, але й також демократичними урядами. США, до прикладу, будують глобальну систему стеження, в той час, як Ізраїль (моя батьківщина) намагається створити систему тотального стеження на західному березі ріки Йордан. 

Але контроль даних може дати змогу еліті робити навіть щось більш радикальне, ніж просто будувати цифрову диктатуру. «Хакаючи» людські організми, еліта може отримати змогуперебудовувати майбутнє життя, як таке. Бо якщо ти можеш щось «хакнути», то ти також можеш це і створити. 

НАЙБІЛЬША РЕВОЛЮЦІЯ В ІСТОРІЇ ЕВОЛЮЦІЇ 

І якщо ми справді досягнемо успіху та зможемо створювати саме життя, це буде не лише найбільша революція в історії людства, але й найбільша в історії біології  від самого початку зародження життя чотири мільярди років тому. 

Протягом чотирьох мільярдів років ніщо у самих основах і законах життя фундаментально не змінилося. Протягом чотирьох мільярдів років усе живе: динозаври, амеби, помідори чи люди, - підкорялося законам природного відбору і законам органічної біохімії. 

Але зараз це зміниться. Наука витісняє еволюцію, яка відбувалася за допомогою природного відбору, замінює її еволюцією, що відбувається за допомогою інтелектуального задуму. Не за допомогою задуму якогось Бога над хмарами, але  особистого інтелектуального задуму і задуму наших «хмар» — наприклад IBM чи Microsoft. Це нові передові двигуни еволюції. 

Водночас, зараз, після чотирьох мільярдів років обмеженості науки перед органічною складовою, ця ж наука дає змогу життю вирватися у неорганічну сферу. Після чотирьох мільярдів років органічного життя, сформованого природним відбором, ми вступаємо в еру неорганічного життя, сформованого розумовим задумом. 

Ось чому володіння даними є таким важливим. Якщо ми не врегулюємо це питання, дрібна група еліти зможе контролювати майбутнє не лише людського суспільства, але й саму форму людських організмів. 

ЯК ВРЕГУЛЮВАТИ ВОЛОДІННЯ ІНФОРМАЦІЄЮ? 

Тож як врегулювати володіння даними? Ми мали десять тисяч років досвіду у врегулюванні власності на землю. Ми мали кілька століть досвіду у врегулюванні власності на індустріальну техніку. Але ми не маємо достатнього досвіду у врегулюванні власності на інформацію, що є за своєю суттю набагато складнішою справою, бо на відміну від землі чи техніки, інформація - є всюди і ніде водночас. 

Вона може рухатися зі швидкістю світла, і ти можеш створювати стільки її копій, скільки захочеш. Тож чи насправді дані про мою ДНК чи про мій мозок, моє тіло та життя належать мені, чи вся ця інформація належить корпораціям чи уряду, чи, можливо, людству загалом?? 

Сьогодні великі корпорації зберігають найбільше інформації. І люди починають хвилюватися через це. Якщо уповноважити владу націоналізувати інформацію, щоб обмежити владу великих корпорацій, то відбудеться піднесення цифрової диктатури. 

І справді, політики, багато політиків загалом, вони наче музиканти. Й інструмент, на якому вони грають, це людська емоційна та біохімічна системи. Політик проголошує промову — і хвилі страху наповнюють країну. Політик пише твіти — і це стає причиною справжнього вибуху, вибуху гніву та ненависті. 

Не думаю, що варто давати цим «музикантам» найвитонченіші інструменти для гри. Я взагалі не впевнений, що їм варто довірити владу над майбутнім життя у всесвіті. 

Дуже багато політиків та урядів не здатні продукувати потрібні погляди на майбутнє, і замість цього, вони продають публіці ностальгічні фантазії про повернення у минуле. 

Як історик, я можу сказати вам дві речі про минуле. Перша – це не було весело, ви б не захотіли повернутися туди. І друга – минуле не повернеться. Тож, ностальгічні фантазії справді не є рішенням. 

Кому ж належить інформація? Щиро кажучи, я не знаю. Я думаю, дискусія тільки почалася. Більшість людей, коли чують про врегулювання даних, думають про приватність, шопінг, компанії, корпорації, які знають, що я купую, куди іду. Але це лише верхівка айсберга. 

Набагато важливіші речі стоять на кону. Отож, дискусія щойно почалася, і ми не можемо вимагати негайних відповідей. Покладемося краще на наших науковців, філософів чи правників і навіть поетів, особливо покладемося на наших поетів. Попросимо їх звернути увагу на ці складні питання, на питання, як врегулювати володіння інформацією.  Майбутнє не лише всього людства, але й життя як такого, залежить від відповідей на ці запитання.

ПИТАННЯ ТА ВІДПОВІДІ 

— Ви змалювали це майбутнє, яке насправді досить лякає. Наскільки близьке це майбутнє для нас? Чи ми говоримо про 2 роки, 20 чи 200 років? Тобто, наскільки швидко ми матимемо з цим майбутнім справу?

— Гадаю, все це займе десятиліття. Думаю, що через дві сотні років на планеті не залишиться жодних гомосапієнс. Буде щось зовсім нове. Два роки – занадто швидко. Хтось говорить про кілька десятиліть?… Ніхто точно не знає, коли це станеться.

— Це було дуже дивно. Тому що Ви стояли на цій сцені і сказали «я не знаю відповіді». Це не те, що ми всі можемо чути на цьому Всесвітньому Економічному Форумі. Це звучало досить скромно. Але мені все ж цікаво… Якщо поглянути на світ сьогодні, чи Ви бачите якісь країни чи групи людей чи якісь університетські групи, які б мали досить слушні дебати на рахунок цього питання? Чи Ви бачите хоч якісь причини для заоохочення таких тем узагалі?

— Що ж, я думаю, що наш світ поділено на дуже і дуже малу групу людей та установ, які розуміють, що відбувається, і що стоїть на кону; і на решту —велику більшість, до якої належать не лише звичайні люди, але й політики та бізнесмени. Так-так, вони чують усе про інформацію, про її захист, про кіберзахист, кібератаки, «хтось може вкрасти мою особистість, мій банковий рахунок», але … я б сказав, що це лише верхівка айсбергу. Звичайно я не знаю точно, але все ж гадаю, що деякі великі корпорації, такі як Google чи Facebook, розуміють, що стоїть на кону. Також думаю, що деякі уряди, особливо китайський уряд, розуміють це. Але більшість людей, звичайно, не мають найменшого поняття про те, що може відбуватись.  І, щоб стало ясно, біометричні дані – це ключ. Коли люди думають про інформацію, то зазвичай думають про те, де я іду, що купую. Коли думають про хакерство, то думають про комп'ютери, говорять про штучний інтелект, про вивчення техніки. Вони забувають про інший бік, про науку життя, про вивчення мозку. Вивчення мозку дає нам доступ сюди (показує на мозок). Ось, що всі намагаються хакнути. Мозок, а не ось це (показує на смартфон).

— Тема Китаю – цікава. Я пам'ятаю, як сиділа тут у Давосі поряд з китайським урядовцем. Ми говорили про демократію. І він сказав: «Ну ви, на Заході, маєте демократію. А ми в Китаї – соціальні медіа». І сенс у тому, що Китай використовує ці медіа не лише для контролю своїх громадян, але й для того, аби збирати інформацію щодо громадських настроїв і таким чином забезпечити своє верховенство і попереджувати будь-які вибухи невдоволення. Чи ви вбачаєте у Китаї те місце, в якому у майбутньому і появиться ця цифрова диктатура? 

— Ну, я не знаю. Як я сказав раніше, ви маєте достатньо прикладів на Заході. І найбільше я можу сказати про свою країну. Ізраїль будує справді тотальну систему стеження на Західному березі ріки Йордан, систему, з якою у світовій історії ми ніколи не стикалися. Спецслужби справді намагаються стежити за кожним місцем, кожною особою. І ми ще не перетнули, не перейшли межу біометричного сенсора. Чи ми говоритимемо про Сполучені Штати чи Ізраїль чи Китай, це все ще соціальні медіа. Це все ще мій мобільний телефон, це все ще, де я іду, або ж що ти можеш зробити з моєю кредитною карткою. Ми досі не маємо технологій, аби зануритись усередину. Але, можливо, ми перебуваємо за п'ять-десять років від отримання цієї технології. Ну, якщо перейти до крайностей, скажімо, ви живете у Північній Кореї. Ви повинні будете одягати спеціальні браслети, які безперервно стежать за процесами у вашому тілі. Ви заходите у кімнату, бачите портрет вашого «дорогого лідера» на стіні, а браслет може знати, що відбувається з вашим мозком, з вашим кров'яним тиском у мить, коли ви бачите цей портрет. Ось це… це справді те, що описує цифрову диктатуру. 

—Ви сказали, що не знаєте, що з цим робити. Але уявіть на мить, що Ви – диктатор. Що б Ви зробили прямо зараз, аби допомогти людству впоратись із цим? Чи Ви викинули б на смітник усі ці біометричні прилади?

— Ні. Зовсім неможливо повернутися у минуле, особливо, якщо ми говоримо про технології та науку. Навіть, якщо якась країна чи навіть цілий континент злякаються можливостями технологій та зупинять усі дослідження у цій галузі, то ви не зможете примусити інші країни зробити те ж. Тоді ви матимете гонку, гонку униз, до самого дна. Ситуацію може вирішити хіба що якась глобальна угода, яка б знайшла рішення для цієї проблеми. Тоді жодна країна не захоче залишитися позаду у цій гонці. Дискусія лише почалася. Я не думаю, що ми повинні панікувати, ми повинні лише остерігатися цього, бути перш за все готовими до того, з чим ми стикаємося сьогодні. Я маю на увазі… коли ми говоримо про регулювання володіння на землю, то маємо чітку картину цього регулювання. Ти маєш ділянку землі, маєш поле, ти збудував захист навколо, ти маєш ворота. Ти стоїш на воротах і кажеш: «Ось тобі можна зайти, а тобі – ні. За будь-яких умов це моє поле». Тепер, як би це виглядало у межах даних про мій мозок та мою ДНК  або ж інформації про те, що відбувається в моєму мозку? Тобто, яка буде аналогія із захистом чи ворітьми? Ми просто цього не розуміємо. Тож я думаю, що ми в аналогічній позиції, у якій індустріальна революція була 200 років тому. І нам просто потрібен час. Тобто, коли ти починаєш дискусію (я знаю це з лекцій в університеті), хтось піднімає руку та питає: «Добре. Але що я повинен написати у тесті?». Ні-ні! Це працює не так! Ми повинні спершу дискутувати на цю тему. Я не можу мати всі відповіді відразу.

— Одна річ, яка, як на мене досить захоплює у Вашому описі цифрової економіки, це те, що в ній змальований той образ суспільства, який зовсім не співпадає з образом переважної більшості економістів. Тому що більшість цифрових обмінів сьогодні не включають у собі грошової валюти. Люди віддають інформацію в обмін на сервіс. І це те, що не може прийняти жодна економічна модель і, щиро кажучи, жодні законні моделі теж через брак довіри. Мені цікаво, коли ми говоримо про цю проблему… Це не зовсім проблема, пов'язана з економікою, проблема точно не пов'язана з наукою, не пов'язана практично з жодною окремою дисципліною. На Вашу думку, чи означає це, що університети повинні переосмислити поділ наук на категорії. Хто повинен намагатися дискутувати на цю тему? Скажімо, я – антрополог. Хотіла б, аби це були антропологи, але я не покладаюся на них.

— Ну, сподіваюся, що всі зможуть дискутувати на цю тему. Гадаю, що зараз, будучи комп'ютерним науковцем, ви повинні деякою мірою бути і філософом, і антропологом. Зараз це частина бізнесу. Стосовно різних систем обміну у світі. Напевно найбільшою дискусією у системі обміну буде тема здоров'я. Велика битва відбудеться між тим, що ми зараз називаємо приватністю, та здоров'ям. Чи ви дасте доступ до всіх процесів усередині вашого тіла,  мозку в обмін на набагато краще медичне обслуговування? І, гадаю, що здоров'я переможе. Люди відмовляться від приватності в обмін на краще медичне обслуговування. А, можливо, в багатьох випадках вони просто не матимуть вибору. Тобто, вони не матимуть жодних гарантій, якщо відмовляться надати доступ до того, що відбувається всередині їхніх тіл. 

http://radiolemberg.com/ua-articles/ua-allarticles/chi-mozhna-khaknuti-ne-smartfon-a-zhivu-lyudinu-tak-i-duzhe-skoro