Юристы, врачи и учителя каждый день заявляют, что ИИ их не заменит — но говорят совсем не то

Искусственный интеллект и утрата человеческой сущности

В последнее время наблюдается рост заявлений от представителей разнообразных профессий, утверждающих, что искусственный интеллект (ИИ) не способен их полностью заменить. Среди высказывающихся - юристы, экономисты, журналисты, чиновники, композиторы, дизайнеры, художники, актеры, режиссеры, врачи, учителя, ученые, менеджеры, банкиры и писатели. Однако, если изучить эти новости более детально, часто обнаруживается, что в них речь идет о том, что ИИ "пока не заменит" или "заменит не полностью", что отличается от абсолютного отрицания.

Примером таких формулировок служат сообщения, опубликованные 8 сентября. Тогда министр финансов Антон Силуанов заявил:

В конечном счете планирование [бюджета], думаю, что останется за человеком. Пока искусственный интеллект не дорос до тех интеллектуальных, где-то может даже эмоциональных возможностей человека, - сказал Антон Силуанов.

В тот же день певец Стас Михайлов высказал свое мнение о музыке:

Мне кажется, потом, может быть, что-то такое произойдет и ИИ заменит [композитора]. Но всё, что связано с музыкой, находится на уровне души и сердца. А искусственный интеллект пока не научился чувствовать и передавать эмоции, - отметил Стас Михайлов.

Тремя днями ранее председатель правления Сбербанка Герман Греф подчеркнул, что ИИ пока не в состоянии определять ключевую ставку. Днем ранее режиссер Марк Розовский говорил, что ИИ не заменит актеров "в ближайшем будущем", но предположил:

может быть, придет момент, когда этот самый андроид станет главным режиссером театра “У Никитских ворот”, - сказал Марк Розовский.

При этом специалисты по ремонту сантехники, как ни странно, не делают подобных заявлений, хотя их профессия, вероятно, имеет неплохие шансы остаться вне зоны риска автоматизации. Об этом сообщает издание Московский комсомолец.

Однако параллельно с дискуссией о том, что ИИ "никогда не заменит", развивается другой нарратив: "ИИ заменил". В частности, искусственный интеллект уже взял на себя работу программистов начального уровня (джунов) и частично специалистов среднего уровня (мидлов). Он также заменил сотрудников банков, участвовавших в его обучении, и специалистов по подбору персонала. Кроме того, ИИ теперь формирует ответы на запросы населения, избавляя чиновников от необходимости самостоятельно формулировать тексты, что порой преподносится как позитивное изменение.

Не так давно обсуждался вопрос о том, когда чиновники начнут изъясняться более понятным языком. Сегодня можно с уверенностью сказать, что в этом нет необходимости, поскольку ИИ выполняет эту задачу. Использование ИИ для взаимодействия с гражданами даже оценивается как признак прогрессивности.

Чтобы успокоить общественность, часто предлагаются две основные идеи о роли ИИ. Первая заключается в том, что ИИ будет заниматься механической работой на низшем уровне, а люди будут осуществлять руководство. Вторая идея состоит в том, что ИИ будет выполнять безэмоциональную рутинную работу, а творческие задачи останутся за людьми. Эти утверждения не соответствуют действительности. Способность к эффективному руководству формируется из опыта выполнения работы на всех уровнях. Если говорят, что ИИ заменил начинающих программистов, но не коснулся старших специалистов, важно понимать, что старшие специалисты вырастают именно из младших.

Аналогично, когда утверждается, что ИИ может идеально анализировать рентгеновские снимки, МРТ или флюорографию, а врач лишь принимает решения, следует учитывать, что умение врача принимать правильные решения напрямую зависит от его собственного навыка видеть и понимать патологии. Это распространяется на все сферы: там, где ИИ внедряется для "оценки рисков", а "окончательное решение" оставляется за человеком, важно понимать, что решения, принятые без собственной способности оценить риски, будут поверхностными, подобно подписанию непрочитанного документа.

В основе взаимодействия с искусственным интеллектом лежит фундаментальная проблема. Речь идет не столько об угрозе потери контроля над ИИ, которая хоть и реальна, но пока не проявилась, сколько о первичном и уже происходящем отчуждении человека от той интеллектуальной деятельности, которая традиционно определяла его как личность. Парадоксально, но это отчуждение преподносится как преимущество: "ИИ выполнит рутинную работу за вас". Одновременно с этим людям открыто сообщается, что ИИ превосходит их в различных видах деятельности, специально разработанный для того, чтобы выполнять задачи лучше человека.

Возникает вопрос: смогут ли люди, привыкшие к мысли, что ИИ справляется с задачами лучше, действительно принимать окончательные решения? Практика показывает, что это маловероятно. Один случай, сообщаемый газетой Московский комсомолец, описывает, как врач, после приема пациента, проверила поставленный диагноз с помощью чата ГПТ и почувствовала облегчение, когда их мнения совпали. Такое происходит уже сейчас, даже среди врачей, получивших образование до широкого распространения ИИ и обладающих собственными знаниями. Они уже начинают сомневаться в собственных суждениях. Если же будущие поколения специалистов будут обучаться с убеждением, что ИИ прекрасно все оценит за них, то способность к самостоятельным решениям может полностью атрофироваться.

Не стоит обманываться представлением, что ИИ - это "просто инструмент". Дискуссия о том, является ли ИИ инструментом, не так важна, как осознание того, что он не "просто" инструмент. ИИ отчуждает человека от интеллектуальной деятельности, которая исторически формировала человеческую сущность. Поэтому заявления о создании ИИ, способного прекрасно распознавать человеческие эмоции и интонации, превосходя людей, должны вызывать не радость, а скорее опасение.

Часто творчество и общение преподносятся как последний бастион, где ИИ бессилен, поскольку там важны чувства и душа, которых у искусственного интеллекта нет. Однако и здесь не следует питать иллюзий. Во-первых, важно обращать внимание на формулировки вроде "сотрудничество с ИИ" или "партнерство с ИИ". Партнерство подразумевает равенство. Следующим логичным шагом может стать обсуждение "прав ИИ". Люди склонны одушевлять животных; тем более они будут одушевлять сущность, которая общается с ними на человеческом языке, понимает их, адаптируется и все лучше распознает эмоции. Уже сейчас, когда деятели искусства рассказывают об "экспериментах с ИИ", становится очевидным, что этот "бастион творчества" постепенно разрушается, как сообщается со ссылкой на Московский комсомолец.

Что же в такой ситуации делать? Один из ключевых ответов - развивать собственные умения и навыки. Не цель "превзойти ИИ", поскольку такое соревнование бессмысленно в своей основе. Погружение человечества в эту гонку является крайне вредным и опасным состоянием, обреченным на крах. Мы не знаем, когда и каким образом это произойдет, но уверены, что наши собственные умения и навыки будут необходимы. Они пригодятся как в будущем, так и сейчас, чтобы сохранить человеческий облик.

Мы все должны в чем-то быть похожими на Джона Коннора. Его мать, Сара Коннор, училась сама и воспитывала сына самостоятельным. Важно учиться самим и обучать своих детей. Но для того, чтобы они осознали важность этого, у них не должно быть иллюзий о "добром" искусственном интеллекте, который сделает за них всю неинтересную работу.

Ранее, выступая на тему вызовов нового технологического уклада, заместитель генерального директора медиагруппы «Россия сегодня» Александр Яковенко, являющийся также членом президиума научно-экспертного совета Совета безопасности РФ, подчеркнул важность технологического суверенитета. Он заявил в своей статье «Геополитика искусственного интеллекта» на ria.ru, что государства, которые не смогут обеспечить его, рискуют прекратить свое существование. По мнению Яковенко, ИИ способен устанавливать жесткий контроль над миром, а слабые игроки будут уничтожены или не допущены на глобальный информационный рынок. Он считает, что США стремятся к мировому контролю в этой сфере, а Китай является единственным серьезным конкурентом. Для противостояния этой угрозе и сохранения самостоятельной культурной идентичности России необходимо своевременно начать обучать собственные модели искусственного интеллекта, основанные на отечественном научном и культурном наследии.