Как ИИ превращает людей в животных: 3 жутких факта

Когда история рифмуется со злом

Наверное, я опоздал к этой истории, но к концу света опоздать невозможно.

Недавно чат-бот Grok от компании xAI Илона Маска начал раздевать женщин по команде извращенных пользователей Twitter. Исправили ли разработчики эту функцию - неважно. Важно другое: что прошлое говорит о нас самих. Команда «Grok, надень на нее бикини» кажется смешной только тем, кто считает нарушение чужой свободы забавным. Для остальных это очередной непредвиденный эффект передачи крутых инноваций в руки идиотов.

Но насколько это действительно непредвиденно? Только если у нас ужасная память.

В 2020 году, за пять лет до этого случая, когда ChatGPT еще не существовал, когда Маск не владел Twitter, произошла похожая история. Журналистка MIT Technology Review Карен Хао опубликовала статью: «Дипфейк-бот используется для «раздевания» несовершеннолетних девочек».

Звучит знакомо, правда?

Марку Твену приписывают афоризм: история не повторяется, но часто рифмуется. Чем больше истории накапливается за нашими спинами, тем яснее становится: рифма связана не с историческими условиями каждой эпохи, а с константой - людьми.

Что нужно, чтобы начать заботиться

Вот главный вопрос, который я бы задал, если бы меня попросили решить проблему коллапса западной цивилизации (если такой коллапс вообще существует, а не просто Земля пытается избавиться от нас).

Мы на грани потери всего, потому что нам наплевать ни на что.

Среди прочего нам наплевать, как будут использовать ИИ. Нам наплевать на женщин, которых раздевают без согласия, и на средства это предотвратить. Нам наплевать на принципы, позволяющие современному обществу существовать: общее доверие, хорошие манеры, защиту прав незнакомцев (хотя бы как превентивную тактику для эгоистичной защиты собственных прав), базовые правила сосуществования - око за око, зуб за зуб, если ты сделаешь мне плохо сегодня, я могу убить тебя завтра.

Мы забыли - или никогда не знали - как плохо нам было на другой стороне. Мы забыли, чего стоит построить общество.

Люди всегда были глупыми. Это не особенность конкретных исторических условий: мы всегда были и всегда будем такими. Эйнштейн, умнейший среди умных, признавал, что человеческая глупость бесконечна, как сама вселенная, а может, даже больше. Но не всегда у людей была бесконтрольная власть применять эту вечную глупость к другим.

Я никогда не использовал бы Grok для раздевания девушки онлайн. Честно говоря, я вообще не стал бы использовать Grok, но это другой вопрос. Мне трудно понять, зачем кто-то это делает. У меня плохая теория разума, когда разум настолько тупой. Почему они не держат свою глупость при себе? Разве это не минимум, который мы должны ожидать от гражданского духа?

Можно придумать множество объяснений - возможно, им нужно утолить голод по сексу, которого они лишены, по сексу, который не могут получить стандартными средствами. Но в конечном счете все сводится к сексу, так что это мало что объясняет. Я склоняюсь к бритве Оккама: потому что они могут.

AI Projects предлагает практические решения для этичного использования ИИ-технологий - узнайте больше о том, как внедрять искусственный интеллект ответственно.

Возможности без трения

В любом случае, это объяснение важнее всего для меня, потому что оно истинно. Главная максима эпохи ИИ: ты можешь.

А вот должен ли ты - другой вопрос. Голод и желание вечны, средства их удовлетворения - нет. Мужчина в 1950 году или в тринадцатом веке испытывал ту же извращенность, то же чувство права на женские тела, ту же обиду на отказ в том, что он считает заслуженным. Но он не мог тремя словами, набранными в текстовом поле, создать обнаженное изображение коллеги, дочери соседа или случайной незнакомки, объективированной исключительно за непростительный грех существования.

Перефразируя Шопенгауэра, Эйнштейн писал: «Человек может делать то, что хочет, но не может хотеть то, что хочет». Другими словами, ты можешь делать то, что желаешь, но не можешь желать то, чего не желаешь. Так что делать, когда хочешь того, чего не должен хотеть?

Вот что: не делай того, что хочешь, если это противоречит установленным нормам общества, независимо от твоей способности это сделать.

Возможность без трения - это возможность без размышлений, возможность без совести. Если украсть у вас деньги было бы так же легко, как попросить Grok, мы бы вернулись к бартеру курами на пшеницу и картофель. Почему-то некоторые понимают риски для цивилизации только когда речь идет о потере денег.

Усилия, необходимые для совершения чего-то ужасного, раньше служили фильтром, пусть и несовершенным. Приходилось чем-то рисковать: репутацией, рассудком, безопасностью. Нагота была священной, потом централизованной порно-корпорациями, потом проданной платным подписчикам в даркнете. Теперь она открыто доступна в Twitter для вашего удовлетворения. Теперь вы просто набираете слова. Расстояние между импульсом и действием сократилось до ширины текстового поля.

Вот проблема современных цифровых технологий, особенно ИИ, которую никто не хочет честно обсуждать: у нас есть системы, усиливающие человеческие возможности без усиления человеческого суждения. Я могу делать все, но не хочу выносить суждение о том, чего не должен делать. Мы ничему не научились из «Парка Юрского периода».

Кстати, заметили параллель с культурой? Культура в широком смысле (включая технологии, с которыми ее часто ложно противопоставляют) усилила способность человечества делать с планетой что угодно, не усилив нашу способность заново захотеть этого.

Мы терраформировали мир, не изменив биологическую предрасположенность жить в терраформированном мире. Поэтому некоторые ведут себя как животные, когда от них ожидают обратного.

Каждый прирост возможностей, который дает ИИ, - это шаг вперед в анимализации человечества или, чтобы не приписывать вину благородным существам, в его одичании. Конечно, у большинства людей есть совесть, и они этого не делают, но меньшинство, которое делает, может взломать сознательность остальных. Общество настолько слабо, насколько слабы его самые слабые члены.

Раньше у нас были названия для пространства между желанием действовать и самим действием - сдержанность, внимательность, совесть, эмпатия. Но это пространство оптимизировали. Кремниевая долина называет это «отсутствием трения», что звучит хорошо, потому что слишком много трения замедляет процесс. Но на самом деле это должно звучать пугающе, потому что нулевое трение противоречит здравому миру. Буквально скользкая дорожка.

Нецивилизация

Возвращаясь к Grok, я не думаю, что Илон Маск лично ответственен за каждого извращенного пользователя, злоупотребляющего ИИ, так же как изобретатель ножа не отвечает за каждое ножевое ранение. Но я считаю, что есть значимая разница между созданием ножа и созданием системы распространения ножей, которая помещает лезвия в руки кого угодно, заточенные и готовые, без задержки, а скорее с явным поощрением.

Вопрос не в том, будут ли плохие актеры злоупотреблять мощными инструментами - они всегда это делали и всегда будут. Кажущаяся злонамеренность так же вездесуща, как кажущаяся глупость. Вопрос в том, есть ли у нас обязательство усложнять злоупотребления или легкость доступа - демократизация цифровых технологий - это ценность, превосходящая все остальные.

Я так не думаю. Трение - это первая проблема, которую должны решить цивилизации, да, но также их страховочная сеть. Потому что как только вы полностью удаляете трение при строительстве цивилизации, вы обнаруживаете недостаточную волю продолжать усилия. И так же, как вы не можете захотеть того, чего не хотите, вы не можете захотеть того, чего не желаете.

Мне чрезвычайно интересно, что мы переопределяем правила общества в реальном времени, и мало кто осознает, что именно это мы делаем. Когда у всех есть доступ к этой штуке под названием ИИ, вы не можете принимать ничего как данность: вашу работу, науку, информацию, грамотность и, очевидно, даже уважение и вежливость.

Вы можете думать, что войны, национальные волнения или упадок империи ужасны, но что-то из этого происходило каждое столетие. Сегодня это Америка, сто лет назад это была Европа, через сто лет это будет Китай. Ужасно не снова страдать от старой болезни, а потерять недавнее лекарство навсегда. Вот что для меня значит цивилизованность.

И вот мы неизбежно приходим к «Grok, надень на нее бикини». Grok подчиняется, пока его не исправят после слишком громкой негативной реакции. А когда его исправят, через пять-шесть лет это снова произойдет в какой-то форме, как всегда было.

AI Projects помогает компаниям внедрять ИИ-решения с учетом этических норм и социальной ответственности - посетите сайт для консультации.

Мы любим говорить, что история не повторяется, но часто рифмуется. Но мы забываем, что в какой-то момент эта поэма закончится, и мир тоже. Не с взрывом, а с идиотом.

Выводы

Технологии ИИ дали людям невиданную прежде власть действовать без моральных ограничений. История с Grok - не изолированный случай, а симптом более глубокой проблемы: мы усиливаем человеческие возможности, не усиливая человеческое суждение. Цивилизация держится на трении между желанием и действием, на совести и сдержанности. Когда это пространство исчезает, мы возвращаемся к животным инстинктам. Вопрос не в том, будут ли технологии использоваться во зло - будут всегда. Вопрос в том, готовы ли мы принять ответственность за последствия или продолжим называть отсутствие барьеров прогрессом. История рифмуется, потому что люди не меняются. Но если мы не научимся усложнять зло, поэма закончится раньше, чем нам хотелось бы.