Названы скрытые опасности искусственного интеллекта

Что делать, чтобы не подчинить себя искусственному интеллекту: главное

Около года назад я взялась собирать коллекцию высказываний представителей разных профессий о том, что их никогда не заменит искусственный интеллект. Но вскоре коллекция утратила если не исследовательский, так эстетический смысл, потому что высказывания подобного рода обрушились стремительным домкратом, от них стало рябить в глазах. Теперь чуть ли не каждый день, или несколько раз в день, можно обнаружить в СМИ заявления юристов, экономистов, журналистов, чиновников, композиторов, дизайнеров, художников, актеров, режиссеров, врачей, учителей, ученых, менеджеров, банкиров, писателей о том, что ИИ их никогда не заменит. Обычно эта мысль так или иначе обозначена в заголовке. Но если вы откроете новость, там практически всегда будет написано несколько другое: «пока не заменит» и «заменит не полностью». И это большая разница.

тестовый баннер под заглавное изображение

Вот для примера две новости от 8 сентября. Министр финансов Антон Силуанов говорит: «В конечном счете планирование [бюджета], думаю, что останется за человеком. Пока искусственный интеллект не дорос до тех интеллектуальных, где-то может даже эмоциональных возможностей человека». В тот же день — певец Стас Михайлов: «Мне кажется, потом, может быть, что-то такое произойдет и ИИ заменит [композитора]. Но всё, что связано с музыкой, находится на уровне души и сердца. А искусственный интеллект пока не научился чувствовать и передавать эмоции». Тремя днями ранее было высказывание председателя правления Сбербанка Германа Грефа, что ИИ — пока! — не может определять ключевую ставку. Еще днем ранее режиссер Марк Розовский высказался, что «в ближайшем будущем» ИИ не заменит актеров, но «может быть, придет момент, когда этот самый андроид станет главным режиссером театра «У Никитских ворот». Почему-то помалкивают сантехники, хотя как раз у них относительно неплохие шансы.

Попробуйте понаблюдать за этим шизофреническим дискурсом «ИИ никогда не заменит», сейчас он цветет и пахнет, но, может статься, это уходящая натура. Потому что сверху на него уже ложится другой: «ИИ заменил». ИИ заменил программистов-джунов (начинающих) и даже отчасти мидлов (среднее звено). ИИ заменил сотрудников банка, которые его обучили. ИИ заменил кадровиков. ИИ пишет ответы на запросы населения: сами чиновники больше не утруждают себя формулировками, и это подается как что-то хорошее. Я еще помню, что в прошлые годы была тема «когда чиновник заговорит по-русски». То есть понятным языком. Теперь можно ответить с уверенностью: никогда не заговорит. Потому что это чиновнику не нужно. У него теперь есть ИИ, и за использование ИИ для общения с населением его еще и похвалят, назовут прогрессивным.

Чтобы успокоить публику, предлагаются обычно два ответвления дискурса «ИИ не заменит». Первое: ИИ будет выполнять механическую низовую работу, а люди будут руководить. Второе: ИИ будет выполнять безэмоциональную рутинную работу, а люди будут выдавать креатив. Так вот: это полная чушь. Способность качественно руководить вырастает из способности выполнять низовую работу. Когда вам говорят, что ИИ заменил программистов-джунов, но «сеньоров» не заменил, нужно понимать, что «сеньоры» вырастают из джунов. Когда вам говорят, что ИИ будет прекрасненько отсматривать рентгеновские снимки (или МРТ, или флюорографию и т.п.), а врач будет только принимать решения, нужно понимать, что способность врача принимать решения напрямую связана с его собственной способностью видеть и понимать патологии.

Это распространяется на все сферы. Всюду, где внедряют ИИ с тем, чтобы он «оценивал риски», а «конечное решение оставалось за людьми», следует понимать, что решения, которые вы принимаете, не умея самостоятельно оценить риски, — это поверхностные решения. Всё равно как подмахнуть подсунутый документ. Это фундаментальная проблема с искусственным интеллектом. В отличие от угрозы потери контроля, которая совершенно реальна, но пока не осуществилась (она вторична по отношению к базе), фундаментальная, первичная проблема отчуждения человека от материала осуществляется прямо сейчас. И это преподносится не как проблема, а как что-то хорошее: «ИИ сделает для вас рутинную работу».

Одновременно с этим людям открыто говорят, что ИИ справляется с разными видами деятельности лучше, чем они. Что он специально заточен на то, чтобы делать ту или иную работу лучше людей. Вы уверены, что люди, которых приучили думать, что ИИ справляется лучше, реально смогут «принимать конечные решения»? Я знаю точно, что так не будет. Мой знакомый рассказал, как женщина-врач, отпустив пациента, полезла в чат ГПТ проверять поставленный диагноз и вздохнула с облегчением, увидев, что предположение чата ГПТ совпадает с ее диагнозом. Так это бывает уже сейчас, даже с врачами, которые обучались без искусственного интеллекта и имеют собственные знания и навыки. Они уже не очень доверяют себе. Когда же врачей (и других специалистов) будут растить с представлением, что есть искусственный интеллект, который за них всё очень хорошо оценит, самостоятельных решений не будет вовсе. Не надо обольщаться.

Мы попали в ловушку представления, что ИИ — «просто инструмент». Дискуссия по поводу того, инструмент ИИ или нет, не нужна, потому что главное, что он — не «просто». Он отчуждает человека от той самой деятельности (интеллектуальной), которая делала его человеком. И когда вам говорят, что создается ИИ, который будет замечательно распознавать человеческие эмоции, интонации, гораздо лучше людей, от этого не должно быть радостно. От этого должно быть страшно.

Последним бастионом обычно представляют творчество и общение. Мол, там важны чувства, важна душа, а у искусственного интеллекта ведь их нету. Я прошу вас не обольщаться и в этом случае. Во-первых, всегда обращайте внимание на рассуждения типа «сотрудничество с ИИ», «партнерство с ИИ». Партнер — это равный. Следующий шаг здесь — «права ИИ». Люди могут выкрутить все эти права из собственной головы. Нам свойственно одушевлять кошек, неужели вы думаете, что люди не будут одушевлять сущность, которая с ними разговаривает человеческим языком, понимает их, подстраивается под них и всё лучше распознает их эмоции? Люди будут одушевлять эту сущность. Уже сейчас, когда тот или иной деятель искусств рассказывает, что он «экспериментирует с ИИ», нетрудно заметить, как осыпается бастион творчества.

Что же делать? Один из необходимых ответов: развивать собственные умения. Не для того чтобы «делать лучше, чем ИИ». Вообще не смотрите на то, как делает ИИ, это соревнование бессмысленно в принципе. То, что человечество погрузили в гонку, крайне вредное и опасное состояние, оно обречено кончиться крахом. Мы не знаем, когда, мы не знаем, каким, но мы можем быть уверены: наши собственные умения и навыки нам понадобятся. Понадобятся тогда, но и прямо сейчас, чтобы оставаться людьми. Мы все должны быть немножко джонами коннорами. Сара Коннор училась сама и учила своего сына самостоятельности. Учитесь сами, учите своих детей. Но чтобы они понимали, как это важно, у них не должно быть иллюзий относительно добренького ИИ, который сделает за них всю неинтересную работу.