Підтримати

Варіація друга: smart одяг і тактильне управління колективною тілесністю

exc-5eeb0d919a86c67ec33c192b

Історія знає чимало прикладів примусового носіння одягу. Навіть не беручи до уваги випадки, коли одяг реєструє дотичність суб’єкта до відповідної інституції (в’язниця, психіатрична клініка, лікарня) або до певної соціальної функції (поліцейський, військовий) можна легко пригадати цілу низку випадків, коли одяг використовували у якості символічного інструмента для контролю та спостереження за одиничною або колективною поведінкою. Так, у часи націонал-соціалізму одяг відігравав ключову «демаркаційну» функцію. Обов’язкове носіння «жовтої зірки Давида», а також складна система позначок у «таборах смерті» наочно ілюструють його символічний потенціал [1]. Особливо цей потенціал зростає у випадках тоталітарної системи управління індивідуальним та колективним тілом.

Render_01.jpg

Раніше одяг визначав приналежність людини до відповідної соціальної верстви. Сьогодні розробки у межах smart одягу відкривають дуже дивні потенції на шляху до нових форм контролю за індивідом. Однією з таких розробок є одяг, який може відстежувати рухи вашого тіла і давати тактильні команди (за допомогою спеціальних імпульсів) у разі виконання правильних-неправильних дій. Сьогодні ця форма smart одягу має дуже «наївне» застосування. Це здебільшого спортивний одяг, який контролює правильність виконання тієї чи іншої фізичної вправи (йога, гімнастика). Однак, що станеться, якщо носіння такого одягу стане обов’язковим (як це зробити швидко і безболісно я показав у попередньому матеріалі), а його сфера застосування стане ширшою, аніж просте модерування вашої тілесності впродовж фізичних навантажень. Можливо ваш начальник захоче контролювати тривалість вашого перебування на роботі. І щойно ви захочете вийти за межі офісної будівлі у робочий час ваш одяг почне «тактильно» нагадувати вам про несанкціонованість ваших дій. Або більш токсичний приклад. Батьки почнуть  використовувати такий одяг для контролю за своїми неповнолітніми дітьми. Щойно одяг реєструватиме «некоректну» поведінку підлітка (куріння цигарок, вживання алкоголю, потенційно небезпечні дії) він передаватиме дані батькам, які, у свою чергу, зможуть дистанційно, завдяки тактильним сигналам змусити дитину поводитися «правильно».

У наведених прикладах йдеться про індивідуальні тіла. Однак, що відбудеться, якщо подібні методи контролю будуть розповсюджуватись на (відносно) великі групи людей? Найпростішим прикладом стане контроль над інституціями. У багатьох країнах в школах дітей змушують носити «форму» [2].«Форма» — це певний матеріально-символічний код, який визначає приналежність дитини до інституції, і водночас позбавляє її будь-якої імпровізації щодо власного одягу (зовнішнього вигляду). Тепер припустимо, що стандартну шкільну форму замінили на smart прототип, який реєструє і модерує рухи дитини (наприклад, під час уроку). Такий одяг сприятиме покращенню дисципліни в класі. Надто рухливих дітей він зробить більш «покірними», ледачих буде стимулювати поводити себе активніше, а відмінників «нагороджуватиме» приємними тактильними імпульсами [3]. Як наслідок такого інституційного контролю ми отримаємо цілу групу «покірних» дитячих тіл, які від самого дитинства будуть привчатися до «кодифікованої» поведінки і «правильних рухів». 

Як буде влаштовано цей процес з технологічної точки зору? Спершу усі дані реєструються у системі (наприклад, на хмарному сервері), яка завдяки алгоритмізованим обчислюванням оброблятиме інформацію і передаватиме її умовному «наглядачу» (людині). Відтак найцікавіше у цьому контексті — це природа наглядача. Того, хто спостерігає за усім цим рухливим паноптикумом. Наприклад, у версії «Паноптикума» Ієремії Бентама [4], наглядач — це завжди людина, а принцип нагляду щоразу дотичний до інституційного контексту (в’язниця, психіатрична лікарня). Натомість у запропонованому сценарії природа наглядача змінюється. Наглядач перестає бути винятково когнітивним агентом (людиною) і перетворюється на людину з розширеною перцептивною архітектурою (суб’єкт + штучний інтелект). Таке «доповнення до суб’єкта» створює радикально нову ситуацію взаємодії між людьми і, водночас, відкриває вкрай небезпечні горизонти для подальшого індивідуального та колективного контролю. У чому ключова відмінність цієї моделі спостереження від моделей попередніх?

Render_02.jpg

Головна трансформація спричинена сучасною архітектурою штучного інтелекту. Останній, уже сьогодні, спроможний перманентно вчитися і (постійно) покращувати власні навички наглядача. Якщо раніше поле даних, до яких мав доступ алгоритм, було обмежено здебільшого візуальними та текстуальними контентом, то з появою smart одягу алгоритм отримує доступ до нового класу даних — людських емоцій та рухів.

Перше, і цілком слушне, зауваження з боку технореалістів: «Штучний інтелект — це «гола» технологічна функція, яка не має рефлексії, а отже — не розуміє суті інформації, з якою вона працює». Алгоритм просто обробляє дані згідно з правилами, які запрограмовано у його структурі. Інакше кажучи, для програми немає жодного значення працює вона із зображеннями з камер відеоспостережень, медичними даними або з текстами Уільяма Блейка. Принципи її функціонування залишаються незмінними.

Однак, тут варто сказати про дві речі. По-перше, якою б, на перший погляд, «пасивною» не була сьогоднішня версія штучного інтелекту, не варто забувати про те, що це, все ж таки, система з відповідним рівнем автономії. Тобто поведінка системи часто не залежить від безпосереднього втручання дизайнера [5]. Ми відкриваємо доступ системі до дуже приватного сектору своєї екзистенції. Дані про наші емоції, рухи, і уся інформація, яка пов’язана із нашою тілесністю, є дуже специфічною інформацією, засадничою для людської природи та нашого виду загалом. Зрештою, наше живе тіло, яке може відчувати біль, страх, насолоду, — це те, що нас по-справжньому відрізняє від технологізованої версії майбутніх генерацій. Щойно ми відкриємо доступ до цього кластеру даних системі, ми перейдемо дуже тонку антропологічну межу між людством сучасним і людством майбутнім. Чи готові ми до цього кроку? Чи впевнені ми, що знаємо яким буде наше технологізоване майбутнє? Відповідь на ці питання потребує серйозних дискусій, досліджень, часу.

По-друге, усі дані спочатку аналізує алгоритм. Ми отримуємо доступ до них лише у другу чергу. Спочатку, уся інформація потрапляє у систему, яка реєструє дані і «трансформує» їх у «читабельну» форму, у таку форму, яку здатна прочитати людина. І лише після цієї технологічної «інтерпретації» людина спроможна зрозуміти суть інформації, яку закодовано у даних.

Цих двох уточнень має бути цілком достатньо аби зрозуміти, що вже сьогодні ми перебуваємо у тісній взаємодії з новим класом когнітивних агентів (різні варіації штучного інтелекту), які отримують доступ до приватного сегменту нашої поведінки (емоції і рухи). Це система, яка постійно вчиться, вивчає наші звички, патерни взаємодій, наші вподобання і бажання. Які наслідки для майбутнього матиме така алгоритмічна інтерпретація? Чи не позбудемося ми автономії свободи дій, бажань та почуттів? Де буде проходити межа нашої приватності і чи залишиться вона взагалі?

І вже не так важливо хто саме є наглядачем, батьки, інституція чи державна структура. Важливо тут те, що людина, завдяки новим технологічним екосистемам, отримує можливість впливати на рухи і поведінку інших людей.

[1]  Хорошим вступом до структури бюрократичного апарату націонал-соціалістичної Германії може слугувати книга Ганни Арендт «Банальність зла».

[2]  У самій назві цього типу одягу можна легко відшукати тоталітарні механізми контролю над дитячою тілесністю. «Форма» — це необхідний елемент шкільної повсякденності. Це щось, що «формує», обмежує, надає зміст. Відсутність «форми» не дає можливості долучитися до колективного процесу навчання. Створює заборону на отримання знання. 

[3] Окремим цікавим питанням у цьому контексті стане підліткова залежність від тактильно приємної стимуляції тіла. Такий механізм може стати дуже дієвим елементом контролю над індивідуальним тілом. Отримуючи з раннього віку певні тактильні імпульси дитина, стаючи старшою, дедалі більше «заохочення» і відтак, прагнутиме поводити себе конвенційно. 

[4]  «Паноптикум» Бентама проєкт ідеальної в’язниці розроблений на початку дев’ятнадцятого століття британським політичним філософом Ієремією Бентамом. Сценарій, який активно використовувався Мішелем Фуко. Термін «паноптизм» здебільшого інспіровано саме цим фукіанським прочитанням проєкту Бентама. 

[5]  Хорошою ілюстрацією цієї тези може бути AlphaZero, програма, яку розробили у компанії Deep Mind для гри у го, шахи і сьогу. Якщо попередні програми подібного типу вчились на раніше зіграних партіях, то AlphaZero знала лише правила гри і грала сама з собою. Іншими словами, програма вчилась з  «чистого аркушу» (from scratch) без використання жодних людських даних. Програма грала сама з собою понад 5000 тисяч партій одночасно і вже за кілька годин такого «тренінгу» навчилась грати в шахи краще аніж найсильніша комп’ютерна програма Deep Fish. Тепер люди вже не грають у шахи, тепер люди спостерігають як у шахи грають машини. Наочною ілюстрацією останньої тези є тисячі YouTube відео-оглядів, де гросмейстери аналізують гру між комп’ютерними програмами.    

Якщо ви знайшли помилку, будь ласка, виділіть фрагмент тексту та нажміть Ctrl+Enter.

Більше матеріалів

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: