Postscriptum: Дві варіації дигітального тоталітаризму

exc-5f1167bb34e389450c575555

Тоталітарні системи завжди були «схвильовані» людською тілесністю. Не в останню чергу тому, що тіло — це найвпливовіша точка контролю над індивідом. Наша історія наочно ілюструє, що підкорити та контролювати індивідуальне тіло — це просто. Завдяки в’язницям ми навчилися створювати фізичні кордони для наших тіл, ми спромоглися обмежувати їх архітектурними лабіринтами владних диспозитивів. [1] Завдяки фармакології ми отримали доступ до механізмів «внутрішньої» тілесності, до мініатюрних процесів, які приховані за «фасадом» нашої шкіри.

rorbo_5.jpg

Сьогодні, під впливом тотальності техніки масштаби та форми репресивних механізмів поволі змінюються. З плином часу, ми перейшли від відверто насильницьких методів контролю до витончено-непомітних способів маніпуляції колективними тілами. Однак динамізм у полі репресивних практик змінює і наше розуміння тілесності загалом. Остання трансформація у нашому розумінні тілесного, яка відбувається зараз, пов’язана із нещодавніми технологічними успіхами у сфері штучного інтелекту. Попри помітний прогрес у цій сфері більшість сучасних критиків штучного інтелекту стверджують, що створення автономного інтелектуального агента неможливо, адже у нього не буде тіла.[2] Відтак тілесність, — необхідна складова нашої свідомості.

Проте сьогодні існує щонайменше декілька галузей, у полі яких науковці прагнуть подолати межу між програмними обчисленнями та «новою» тілесністю, і створити альтернативне тіло для штучного інтелекту. Сучасна робототехніка — одна з них.[3] Однак як «пояснити» штучному тілу принципи рухів та взаємодій із навколишнім середовищем? Ба більше, як навчити його переживати емоції, бути спроможним до емпатії тощо? Перше, що нам потрібно, — це великий масив даних.

У попередньому матеріалі йшлося про дигітальне «розчаклування» емоційного світу і тактильне управління (+колекціонування) рухів людського тіла. А чому б не об’єднати ці два сюжети в один спільний датасет? Адже емоції мають глибокий зв’язок із рухами наших тіл. Спостерігаючи за рухами тіла можна легко зрозуміти, у якому емоційному стані перебуває людина, схвильована вона чи спокійна, налякана чи обурена. У наслідок такого спостереження ми отримуємо величезну кількість інформації. Однак, як її використовувати? Невже ця інформація існуватиме виключно для спостереження і контролю? Авжеж, ні (Аж ніяк). У всіх цих даних є ще одне дуже важливе використання — вони [дані] можуть слугувати у якості датасету для подальших розробок у полі робототехніки. [4] Механізми втілення цієї ідеї такі. Ми щодня генеруємо величезні масиви даних. Вже зараз, ми спроможні локально колекціонувати дані про рухи людських тіл та їх взаємодію із оточуючим світом. Однак цієї інформації поки замало задля створення тотального поведінкового датасету завдяки якому можна буде навчити коректній та конкурентній поведінці нову генерацію роботів. [5]

У наслідок цього сучасна робототехніка опинилася перед цілою низкою дуже складних методологічних та технічних проблем. Однією з них є проблема динамізму оточуючого середовища. Ті задачі, які з легкістю може виконувати людське тіло, стають серйозним викликом під час моделювання роботів. Наше тіло спроможне дуже швидко реагувати на найменші зміни й подразники у навколишньому просторі. Натомість робот, у багатьох «стандартних» поведінкових патернах часто поводить себе безпорадно. Наприклад, виконання однієї й тієї ж «базової» дії («прокласти» маршрут і подолати відстань від пункту А до пункту В, уникаючи перешкоди) у ситуації різного освітлення кімнати (натуральне світло/електричне освітлення) може призвести до різних поведінкових результатів. Цей приклад свідчить на користь того, що проблема правильної імітації рухів наштовхується на проблему високого динамізму оточуючого середовища. Це лише одне з-поміж багатьох питань, на які ми сьогодні не маємо відповіді.

Одним з потенційних шляхів розв’язання згаданих проблем може стати система тотального колекціонування поведінкової інформації завдяки різноманітним сенсорам вбудованим у наш одягу. У такий спосіб нам вдасться досить швидко зібрати великий масив потрібних даних, які надалі можна буде використати для створення нової генерації когнітивних роботів. Подібний збір даних можна реалізувати засобами штучного інтелекту. Навіть його сучасна «слабка» версія має одну серйозну перевагу — спроможність до швидкого аналізу та обробки даних. Об’єднавши штучний інтелект із розробками у полі когнітивної робототехніки (крок, який уже відбувся), ми отримуємо робочу модель аналізу та застосування (використання) даних.

Тепер припустімо, що технологічне колекціонування колективних рухів завдяки smart одягу посприяє кращому розумінню механізмів тілесності та репродукції поведінкових фреймів тіла у робототехніці. Відтак, завдяки цій технології ми зробимо крок від контролю за індивідом до створення нової генерації когнітивних агентів. Виявляється, що сучасні технології відкривають радикально новий бік феномену контролю загалом. Якщо раніше, контроль асоціювався винятково з процесами управління уже наявною групою індивідів, то сьогодні контроль стає важливою складовою у процесах створення нового типу суб’єктивності. Однак, якою буде ця наступна генерація когнітивних агентів якщо їх було створено завдяки використанню технологій спостереження? Чи впливатиме цей факт на їх характер та майбутню поведінку? Чи не матиме подібна «покірність» потенційно небезпечних наслідків для людства?

Попри усі спекуляції щодо творчого потенціалу сучасної людини, у випадку когнітивної робототехніки ми напевно вперше наближаємося до можливого творіння чогось радикально нового. Для такого твердження є кілька вагомих причин.

По-перше, роботи майбутнього матимуть іншу когнітивну архітектуру, аніж ми. Очевидно, що буде чимало схожого у процесах взаємодії із оточуючим середовищем, базовим функціоналом тощо. Утім, якщо припустити, що швидкість виконання когнітивних операцій впливає, наприклад, на сприйняття часу (для когнітивного агента, який спроможний обробляти великі масиви даних плин часу повільніший, аніж для агентів із «стандартною» когнітивною архітектурою), то можна стверджувати, що наступна генерація суб’єктів відрізнятиметься від нас за дуже багатьма критеріями.

По-друге, і зараз це одна з ключових дискусій у робототехніці, роботи мають бути наділені етичною матрицею ідентичною до нашої. Однак, і це цілком ймовірний перебіг подій, така етична матриця може бути сприйнята новою генерацією когнітивних агентів як щось застаріле, непридатне до використання. Враховуючи, що сучасні розробки у межах штучного інтелекту прагнуть до створення нового типу раціональності, а не просто до дублювання того формату когнітивної архітектури, який ми маємо сьогодні, це може спричинити до цілої низки невирішуваних питань. Хорошим прикладом подібної дилеми може стати сценарій, згідно з яким нова генерація штучного інтелекту почне сприймати наші етичні норми як непридатний набір регулятивних ідей, і запропонує (і моментально втілить) власну систему етичних координат, які будуть суперечити нашим (старим) нормам та моральним принципам.

Сьогодні (насправді не лише сьогодні, а взагалі), ми не можемо передбачити як саме поводитиме себе новий тип раціональності. Звісно ми можемо створити певну систему заборон та регуляторів поведінки (те, чим займаються сучасні дизайнери, policymakers, стейкхолдери, наглядові групи). Утім уже зараз можна констатувати, що часто ці регулятори спрацьовують не завжди коректно, а подекуди — можуть мати (навіть) небезпечні (загрозливі) наслідки.

Однією із можливих альтернатив подібним викликам може стати реальне прагнення людини наділити нову генерацію роботів спочатку тілом, а потім і спроможністю до переживання почуттів. Відтак, наявність емпатійності може стати одним із можливих «оптимістичних» сценаріїв для майбутнього людства. Оскільки спроможність переживати емоції є однією із засадничих складових моральної взаємодії між людьми, робот, який зможе емоційно (а не механістично) співчувати людині стане повноцінним моральним агентом, здатним до відповідальної етичної поведінки.

[1] Владний диспозитив — поняття, яке часто використовував Мішель Фуко під час свого аналізу механізмів взаємодії істини і влади. Найчастіше це поняття позначає певну структуру (на перетині між матеріальним та соціальним), яка підтримує циркуляцію владних стосунків у певному суспільному домені. Прикладами владних диспозитивів найчастіше є відповідні інституції, різноманітні бюрократичні процедури, матеріальні артефакти, які стабілізують динамізм влади і унаочнюють його подальшу еволюцію.

[2] Окрім сцієнтиської критики цієї ідеї існує не менш впливова релігійна версія. Згідно з багатьма релігійними традиціями наше тіло існує у наслідок (як результат) зв’язку із нематеріальною структурою (душа, дух), яка виступає вітальним центром нашої тілесності і водночас уможливлює її матеріальну цілісність. У момент смерті цей зв’язок зникає, що, власне і спричинює фінал індивідуальної тілесності. Адепти релігійної версії стверджують, що будь-які розробки у полі штучного інтелекту не можуть призвести до появи нового індивіда, адже неможливо завдяки матеріально-технологічним інструментам створити (або бодай втілити) нематеріальний (ідеальний) принцип-центр.

[3] Одним з найперспективніших напрямів у сучасній робототехніці є когнітивна робототехніка (cognitive robotics). Головними задачами тут є такі: проблема навігації та розпізнавання образів-облич людей (те, що сьогодні часто називають комп’ютерним зором), зовнішній вигляд та оптимальні фізичні габарити, пошук найефективніших технологій для переміщення роботів у різних середовищах, імітація емоцій завдяки пластичній міміці (такі роботи сьогодні мають широке використання у медицині).

[4] Це не нова ідея і вона уже була втілена у двох формах. По-перше — серіал Westworld (принаймні його перший сезон) саме про це. Другий приклад уже з реального життя — це нинішній Китай. Минулого року у Китаї, завдяки технології «Розумного міста», за досить короткий час було знайдено 30 безвісти зниклих дітей. Цю технологію розробив китайський техногигант «Tencent» та впровадив її у кількох великих містах Китаю. Однак ні для кого не секрет, що подібна технологія використовується не лише для пошуку дітей. Її практичний потенціал значно ширший і подекуди далеко виходить за межі «добра і зла».

[5] Існує велика кількість роботів, які різняться між собою залежно від задач, функцій, матеріальної архітектури, тощо. У цьому матеріалі йтиметься переважно про так званих «соціальних роботів». Це новий клас автономних агентів, які в близькому майбутньому стануть повноцінними учасниками колективних взаємодій. Прикметно, що етимологія терміну «робот» має чеське коріння. Вперше, це слово було використане чеським письменником Карелом Чапеком для позначення автоматизованих (позбавлених свободи волі) працівників. Цей етимологічний нюанс (працівник без права на вибір) і досі залишається наріжним каменем у сучасних дебатах про моральну природу соціальних роботів майбутнього.

Більше матеріалів