Перший текст колонки — «Штучні нейрони, алгоритмічна етика та перекодування генетичного алфавіту» можна прочитати за посиланням.

Органічна еволюція, окрім добре відомих нам механізмів спадковості, варіативності та природного відбору, має ще один сильний структурний компонент — спроможність помилятися. Цілком ймовірно, що спонтанна непередбачуваність живого, яку ми так часто спостерігаємо у світі біологічних систем, нерідко зумовлена саме цією еволюційною характеристикою.

Загалом, весь еволюційний процес можна розглядати як взаємодію двох динамічних начал — випадковості (randomness) та необхідності (necessity). Коли ці дві сили співпрацюють у достатньо тривалій часовій перспективі, ми отримуємо робочу еволюційну модель, яка спроможна відтворювати себе у множинності та багатоманітті живого.

Дарвін першим зробив припущення, що еволюційні процеси варіативності суцільно випадкові. Тобто схожі на рандомізований набір різних елементів, які утворюють комбінаційну множину біологічних систем. Натомість механізми природного відбору є необхідними, адже унаочнює строгий порядок систем. На перетині цих двох процесів — випадковості та необхідності — народжується уся відома нам допоки еволюційна історія.

Помилка у такому контексті стається тоді, коли випадковість не знаходить вираження в регулярності. Однак це визначення дає нам лише часткове розуміння еволюційного процесу (динамізму). Адже усі ми знаємо, що багато помилкового (як-от різноманітні генетичні мутації), мають свою регулярність і часто передаються «у спадок» від покоління до покоління. Тоді виходить, що еволюційна спроможність помилятися так само складається з випадковості та необхідності. Ба більше, помилковість є необхідною для еволюції.

Насправді ж, спроможність до помилки виявляється важливим механізмом природного відбору. Та комбінація генів, яка не спромоглася пройти складний еволюційний шлях і вижити у боротьбі з іншими живими організмами, опиняється за межами подальшої еволюційної історії і припиняє власне існування. Втім, якщо природний відбір унаочнює строгий порядок, тоді одним з необхідних інструментів такого порядку виявляється спроможність до помилки.

Парадокс № 1 — Аби порядок міг існувати у ньому має бути закладена спроможність до помилки.

Цікаво було б змоделювати еволюційний процес, в якому була б відсутня помилка. На що б він був схожий? Чи була б еволюція взагалі можливою без помилковості? За яким принципом тоді відбувався б природний відбір? З якою швидкістю розгорталася б така еволюційна історія і чи була б у ній наявна варіативність?

Дехто скаже, що еволюційний процес не має конкретної мети, відтак вести мову про помилковість — хибна інтелектуальна стратегія. Помилятися можна лише з огляду на конкретну ціль. Залишимо зараз цей аргумент без відповіді. Ми ще не раз повертатимемося до нього у наступних матеріалах цієї колонки.

Технологічна еволюція, на відміну від еволюції природної, змушена відтворювати себе у дуже «стислих» часових межах. Безперечно, це не означає, що в історії техніки не буває помилок. Історія техніки знає їх чимало. Однак, спроможність до помилки, у випадку технологічної історії, має значно менший еволюційний потенціал, аніж у випадку з історією природною [1]. 

Важливішим видається те, що завдяки техніці ми навчились виправляти помилки біологічної еволюції. Хорошою ілюстрацією цієї тези може бути генна терапія. Сьогодні ця технологізована практика дає нам можливість лікувати деякі спадкові захворювання. Однак потенційні наслідки цієї процедури виходять далеко за межі винятково лікування. Передусім, використання цієї технології відкриває перед людством широкий (і дуже небезпечний) горизонт так званих «генетичних покращень». Як довго ми зможемо утримувати дистанцію між лікуванням хвороб і вдосконаленням людини, сказати важко. Торішня історія китайського біофізика Хе Дзянькуя (He Jiankui) показала, що сучасні закони та етичні принципи навряд чи довго залишатимуться надійними нормативними регуляторами на шляху до нового проєкту людства [2]. 

Втім, якщо спроможність до помилки є важливим механізмом еволюційного процесу, а нинішня техніка позбавляє природу цієї спроможності, чи не варто тоді констатувати кінець (чи бодай наближення до кінця) органічного еволюційного циклу? Можливо сьогодні ми знаходимося на підступах до нового еволюційного етапу? Чи навпаки, нинішня технологічна цивілізація унаочнює глухий кут еволюційного процесу? Принаймні тієї еволюційної історії, яка розгортається на нашій планеті впродовж останніх 3.7 мільярдів років?

В одному можна бути впевненим, експансія технологічної ефективності унаочнює радикально новий етап історії живого, живого, яке поступово позбувається «випадковості», і набуває алгоритмічної точності. Засобами сучасної техніки ми забороняємо природі помилятися.

Парадокс № 2 — Порядок позбавлений помилки перетворюється на хаос.

Відтак техніка, яку ми завжди (і особливо зараз), сприймали як інструмент впорядкування реальності обертається на свою протилежність, трікстера, Епіметея [3]. Зараз для багатьох ця теза здаватиметься абсурдною, адже уся технологічна реальність сьогодення переконує нас у «надійності» майбутнього, у спланованості світу та цивілізації. Саме тому Парадокс № 2 виглядає як безумна візія, як хвороблива фантазія, як чергова провокація технопесимізму.

Сценарій сингулярності, цілком ймовірно матиме саме таку архітектуру [4]. Поступово помилковості у нашому світі ставатиме усе менше. Алгоритми та автоматизовані процеси допоможуть нам позбутися зайвого. У наслідок цього сильно зросте швидкість технологічної еволюції. І в ту мить, коли ми отримаємо «стерильний» світ з винятково правильними і точними моделями поведінки ми опинимося віч-на-віч із реальністю, яку ми більше не розуміємо.

Парадокс № 3 — Хаос — це безпомилково змодельований порядок. Так само, у термінах цієї статті, я визначаю і сингулярність.

Річ у тім, що помилковість, це важлива складова нашої раціональності. Відтак, помилка — це своєрідний «люфт», який уможливлює динаміку нашого пізнання. Тож реальність, у якій буде відсутня помилка перетворюється для нашої раціональності на хаос (тобто на дещо, що не може бути раціонально осмисленим). Прикметно, що у такому прочитанні хаос — це не повна відсутність порядку, а навпаки — порядок в апогеї. Втім, це такий порядок, який не може бути осягнений у межах нашої розумової стратегії. Це порядок, який може бути осмислений лише іншим типом раціональності. Яким? Хіба людська форма раціональність не є ексклюзивною моделлю у межах нашого буття? Деякі представники сучасної філософії техніки стверджують, що Бог та штучний інтелект (NB! General Artificial Intelligence) [5] унаочнюють дві інші форми «розвиненої» раціональності у межах нашого світу [6]. 

Інша важлива риса сингулярності — це новий формат темпоральності. Відповідно до «швидкої» версії сингулярності, у певний момент історії технологічні зміни відбуватимуться впродовж кількох хвилин. Уявіть, що кожну хвилину з’являється абсолютна нова «прошивка» для вашого телефону, яка повністю відрізняється від попередньої (відрізняється за своїми можливостями та принципами функціонування). Окрім цього, швидкість сингулярності постійно зростатиме. Години перетворюються на хвилини, хвилини на секунди, і в якийсь момент технологічна еволюція стане схожою на ритмічні спалахи стробоскопу, які нічого не означатимуть для людини, однак матимуть значення для іншого типу раціональності, який, власне, і створив сингулярність. Це і є еволюція, яку ми позбавили права на помилку. Еволюція без помилки — це сингулярність. Сингулярність — це безпомилково змодельований порядок, тобто хаос.

[1] Для того аби спроможність помилятися запрацювала «на повну» їй потрібна широка часова перспектива, об’ємна «глибина пошуку», можливість варіативної комбіноторики. Усі ці ресурси є вкрай обмеженими у людській (технологічній) історії, саме тому, у випадку техніки ми змушені обміняти плавність комбінацій на примус ефективності. 

[2] Хе Дзянькуй (He Jiankui) — китайський біолог і біофізик, який першим використав технологію CRISPR-Cas9 для редагування людського геному. Вчений стверджував, що він вплинув на ген CCR5. Трансформація цього гену практично повністю зменшує шанси захворювання на вірус імунодефіциту людини (ВІЛ). Операція з редагування геному відбулася на території Китаю. Зараз науковець перебуває за ґратами. У грудні минулого року вченого засудили на три роки ув’язнення та штраф у розмірі трьох мільйонів юанів.  

[3]  Епіметей (від давньогрецької «той, хто думає опісля») — у давньогрецькій міфології рідний брат Прометея, якому було доручено розподілити між усіма живими істотами різні якості (схильності). Однак Епіметей не залишив нічого для людини. Саме тому Прометей вирішив викрасти у Гефеста вогонь (який асоціюється з технікою), аби врятувати людство від загибелі.

[4 ]Сингулярність — це така точка в майбутній історії, після якої технологічний прогрес буде настільки швидким, що людина втратить здатність розуміти принципи та процеси технологічної еволюції. У термінах цієї статті, сингулярність — це технологічно змодельований порядок, у якому буде відсутня помилковість.

[5] У сучасній науці прийнято розділяти три різних поняття штучного інтелекту. Перший — Narrow Artificial Intelligence (Вузький Штучний Інтелект). Це той формат штучного інтелекту, який ми маємо сьогодні. Зазвичай, це система з дуже обмеженим функціоналом, яка, менше з тим, може оперативно виконувати деякі задачі (розпізнавання зображень, пошук і обробка інформації тощо). Другий тип штучного інтелекту — це General Artificial Intelligence (Загальний Штучний Інтелект). Ми ще дуже далеко від втілення цього технологічного проєкту, однак GAI зможе виконувати усі когнітивні задачі, які може виконувати і людина: імпровізація, творчість, фантазія. Останній різновид штучного інтелекту фігурує під назвою Superintelligence (Суперінтелект). Він значно перевищуватиме усі можливі когнітивні спроможності людини і перебуватиме за «горизонтом» подій нашої раціональності.  

[6] Проблема взаємозв’язку Бога та штучного інтелекту належить до гостро дебатованих питань у полі сучасної філософії техніки. Для цієї статті важливою є ідея про те, що Бог (з теологічної перспективи) є «автором» природної еволюції, натомість штучний інтелект (General Artificial Intelligence) стає реалізатором сценарію сингулярності (атеїстично-сцієнтиський підхід). Для концепції сингулярності характерним є протиставлення природного та технологічного (або ж їх гібридизація, під час якої природне суцільно поглинається-переформатовується технічним). Внаслідок такої «реформації» людина+техніка перетворюється на своєрідного «намісника» Бога на Землі, а теологічна доктрина заміщується доктриною сцієнтистською, адже штучний інтелект починає перебирати на себе функції Бога.