В 1978 году Брайан Керниган (Brian Kernighan), канадский ученый в сфере компьютерных технологий, создал культовую тест-программу под названием «Hello, World». Чаще всего эта программа является первым примером в учебниках по программированию и, соответственно, — одной из первых программ, которые запускает программист в начале своего обучения. Суть этой программы очень простая — вывод на экран или иное устройство фразы «Hello, world!». Таким образом, первое взаимодействие программиста-неофита «оживляет» компьютерную систему, а последняя, в свою очередь, приветствует мир. В подобном прочтении компьютерная программа приобретает некоторые антропоморфные качества и может восприниматься как нечто приближенное к живому. Такое ощущение складывается прежде всего за счет способности программы отвечать на конкретные действия человека (программиста), и ее ответ не является случайным набором символов, а наоборот — представляет собой семантически завершенное сообщение.

В 1978 году компьютерный мир сильно отличался от того, в котором мы живем сегодня. Пожалуй, одним из главных отличий старого мира от нового является возрастание автономности компьютерных систем. Понятие «автономии» используется тут в своем инженерном прочтении — как способность компьютерной системы достигать поставленных задач без прямого вмешательства программиста (т. е. автономно). Примеров подобной технологической автономии сегодня очень много. Так, если вы живете в многоэтажном здании, в котором одновременно работают несколько лифтов, то их корректное функционирование осуществляется благодаря компьютерному алгоритму, который автономно способен вносить изменения в правила своего поведения.

Другим важным этапом развития современных компьютерных технологий является их все повышающаяся сложность. Проще говоря, мы все меньше начинаем понимать, как эти системы работают. И тут речь идет даже не о простых пользователях (они с самого начала находятся в полном неведении относительно механизмов функционирования технологических объектов), тут речь идет о самих программистах и дизайнерах. Такой класс этических дилемм стал известен под названием «Black box + Algorithmic bias».

Нынешний опыт программирования — это не просто опыт задавания правил и границ значений; это также опыт непосредственной коммуникации с другим классом не-человеческих агентов — компьютерными программами. При этом последние не являются исключительно пассивными «регистраторами» человеческих действий, но самостоятельно выполняют различные вычисления, на основании которых становится возможным получение необходимых результатов (данных). Проще говоря, компьютер — это не печатная машинка, в которой input практически ничем не отличается от output-а (на какую кнопку нажал, такой символ и получил на бумаге). Компьютер — это сложная диалогическая система, коммуникация с которой осуществляется на основании определенного синтаксиса и правил формальной логики. Как и человеческий диалог (по примеру которого во многом и были созданы программные языки), программирование предполагает выполнение определенных правил, без которых невозможно осуществление системных функций.

Но кроме этого, программирование является прямым диалогом с будущим посредством использования сложных технологических артефактов. Именно в этом процессе мы задаем правила для поведения системы, с которой мы будем взаимодействовать в ближайшее время. Такой диалог оказывается своеобразной формой делегирования, действием, благодаря которому мы «вручаем» системе права на принятие решений в зачастую очень ответственных ситуациях (регулирование атомных реакторов, контроль городской инфраструктуры, медицинские решения).

Познание мира для компьютерной программы в подобных ситуациях происходит в процессе так называемого «обучения». В случае последнего программа получает от программиста определенный класс данных (датасет), на основании которых учится распознавать повторяющиеся паттерны в структуре информации. К примеру, у нас есть множество рентгеновских снимков злокачественной опухоли. Задача системы — выявить повторяющийся паттерн (#злокачественная опухоль) и тем самым помочь врачу эффективнее взаимодействовать с пациентом.

Тем не менее важно понимать, что в процессе такого «обучения-диалога» система никогда не получает полного знания о мире. Она получает очень сжатый датасет из определенного сегмента реальности, в котором она оперирует (например, медицинские данные). Соответственно, «мир» для компьютерной системы — это всегда очень «урезанная» версия реальности, которая представлена в тщательно отобранных данных. Но более важным в этой ситуации является то, что именно на основании этой урезанной информации система начинает генерировать ответы, которые активно влияют на наше поведение и принятие решений. Чаще всего речь тут идет о принятии решений в определенных социальных секторах: банки, медицина, юриспруденция. Но решения в каждом из этих секторов ведут к более глубоким последствиям, которые выходят далеко за пределы конкретного социального фрейма. Так, руководствуясь «советами» алгоритмической модели (в ситуациях принятия решение о том, кто должен получить банковский кредит, а кто нет), мы все больше передаем контроль системам, чье знание о реальности является экстремально узким.

Как следствие, наша сегодняшняя социальная реальность оказывается под сильным влиянием комплексных и автономных технологических систем, которые способны учится и самосовершенствоваться в процессе достижения поставленных перед ними задач. Эти системы уже очень глубоко проникли в наши жизни и зачастую определяют наше поведение, цели и решения. В результате наша картина мира формируется из взаимодействия не только с людьми, но и с технологическими объектами. Такое «расширенное» представление реальности ставит перед современным интеллектуальным дискурсом радикально новые задачи и проблемы. Ответы на возникающие вопросы нужно «собирать и конструировать» именно сегодня (то, что на шахматном сленге называется поиском решения «за доской»). Одна из задач этой колонки как раз и заключается в подобной «конструкторской» деятельности с дальнейшим поиском и возможной дискуссией (очень хочется дискуссии) найденных/сконструированных решений.

Другой задачей этой колонки является стремление понять то, как современные технологические артефакты видят мир. Именно такая задача является особенно важной сегодня, так как наши ежедневные решения во многом определяются именно этой не-человеческой картиной мира. Учитывая тот факт, что, с одной стороны, эта не-человеческая картина мира становится все более сложной, а с другой — приобретает дополнительные уровни автономии, мы обязаны уделять больше философского внимания вопросам не-человеческой агентности. Сегодня мы живем одновременно в двух мирах, которые активно наслаиваются и гибридизируются друг с другом. Модерное разделение на мир природы и мир культуры уже давно перестало работать как способ описания для современной цивилизации. Скорее, более правильным будет говорить об «одновременности» пребывания в слоистом настоящем: том настоящем, которое формируется из взаимодействий между агентами разных классов.