Угроза концентрации власти: Эксперт о том, как новый человек становится декорацией

Технологическая среда создает для общества определенные риски, когда начинает работать как инструмент пересмотра границ человеческого и естественного. Среди основных вызовов: киборгизация, генные модификации, виртуальная идентичность, манипуляции, связанные с идеями искусственного усовершенствования человека.

Трансгуманизм — концепция, предлагающая использование достижения науки и технологии для улучшения жизни людей и преодоления некоторых ограничений — сделать человека сильнее, здоровее, продлить жизнь и избавиться от страданий, болезней, старения и смерти.

Кандидат философских наук, заместитель декана и заведующая кафедрой философии языка и коммуникации философского факультета МГУ, эксперт Философского клуба «Цивилизационное будущее России» Анна Костикова в беседе со «Свободной Прессой» отметила, что когда мы говорим об угрозах трансгуманизма, ключевой вопрос звучит так: «Насколько мы сохраним субъектность?»

«Среда определяет то, в каком мире мы с вами окажемся. Существует семь уровней риска. Это автоматизация смысла, синтетическая реальность, алгоритмическое управление, делегирование решения, кибер-, военные и биориски, концентрация власти и неравенство, а также системный и экзистенциальный риск. Все эти угрозы различны по масштабу, но их объединяет одна проблема — сужение человеческой субъектности», — пояснила собеседник издания.

К примеру, автоматизацию смысла. Люди сегодня утопают в текстах и видео, которые генерируются технологически и автоматически. Машина производит речь без биографии, опыта и ответственности. Смысл все чаще воспринимается как статистическая правдоподобность. Текстов становится больше, но доверия к авторству — меньше. Это риск инфляции речи и обесценивания ответственности автора.

«Что касается среды, которая генерируется технологиями, — как проверить ее на правдоподобность? Как выстроить уровень доверия? Кризис доверия — вот что происходит в связи с развитием искусственного интеллекта… Ряд решений все чаще делегируется ИИ, а это означает абсолютно другую форму ответственности. Проект трансгуманизма, философски рассуждая, — это открытый проект, который не предполагает никаких целевых установок. И тогда возникает вопрос: что мы получим в результате этого усиления?», — уточнила Костикова.

По словам эксперта, спор об искусственном интеллекте становится спором об образе человека. Дальше вопросы: если интеллект отделяется от тела, памяти и ответственности — что остается от субъекта? Если решение оптимизируется — остается ли пространство для поступка? Человек — данность или проект?

Особой угрозой философ назвала концентрацию власти. Кто владеет моделями, тот владеет не только данными, но и режимами интерпретации. Данные, вычисления и инфраструктура сосредоточены у немногих акторов. Зависимость возникает не только в потреблении технологий, но и в мышлении через чужие модели.

«В итоге мы получаем гибридную субъектность. Новый человек оказывается информационно заряженным, но при этом сам человек становится декорацией. Борьба идет не за содержание, а за инфраструктуру. И здесь возникает задача, которая напрямую связана с задачами философии. Финальная формула звучит так: технологии должны расширять человеческое действие, а не заменять человеческую ответственность», — подчеркнула Костикова.

Ранее стало известно, что в России к 2030 году планируют создать кибердружины и медиапатрули из студентов и учащихся колледжей.