Почему я удалил ChatGPT после 3 лет использования

Реклама в ChatGPT - это конец эпохи

На этой неделе OpenAI объявила о тестировании рекламы в бесплатной версии ChatGPT. Формально это касается только тех, кто не платит. Но по сути компания заставляет платить всех, кто хочет сохранить нормальный опыт использования. Если вы не можете или не хотите платить, инструмент, которым вы пользовались три года, начнет обслуживать чужие интересы вместо ваших.

Для меня это критично. Я не размещаю рекламу в своем блоге по простой причине: когда вы оптимизируете контент под кого-то, кроме читателя, обмен ценностью разрушается. Ваш продукт перестает работать на пользователя.

Реакция в соцсетях предсказуема. Кто-то угрожает уйти, другие указывают на лицемерие (Сэм Альтман в 2024 году называл рекламу "последним средством"), но большинство просто пожмет плечами. Мы привыкли к деградации платформ - реклама везде, так зачем сопротивляться?

Станет ли это ударом по позициям OpenAI? Вряд ли. Уйдут ли пользователи массово или останутся жаловаться, а потом забудут? Скорее второе. Но реклама - не главная проблема. Это симптом более серьезной болезни, которая не связана ни с пользователями, ни с желанием делать правильно.

Поворот OpenAI - это признание структурной неизбежности, замаскированное под извиняющийся пресс-релиз: математика не сходится.

Экономика ИИ провалилась

Экономическая модель передовых AI-систем несовместима с нейтральными, общедоступными сервисами, которые нам обещали.

Это известный факт. Посчитайте, во что обходится предоставление доступа к ChatGPT сотням миллионов людей. Каждый запрос к GPT-5 стоит OpenAI денег (оценки разнятся, но даже оптимистичные цифры говорят о нескольких центах за запрос, сложные задачи стоят дороже; даже пользователи Pro за 200 долларов в месяц не приносят прибыли). Умножьте эти центы на сотни миллионов ежедневных запросов от людей, которые ничего не платят и не будут платить, и вы получите миллиарды долларов убытков ежегодно.

Отсюда предупреждения о пузыре: круговые сделки без создания реальной ценности, развитие за счет долгов, AI-компании пытаются стать "слишком большими, чтобы рухнуть", делая ставку на то, что доходы когда-нибудь догонят расходы. Финансовый эксперт Себастьян Уоллаби недавно опубликовал в The New York Times материал, утверждая, что OpenAI "закончатся деньги" в течение 18 месяцев. Если бизнес не работает, коррекция выглядит так: проблему индустрии и инвесторов превращают в проблему пользователей. Если доходы не покрывают расходы, следует деградация. Реклама - только первый шаг и, возможно, наименее коварный.

Вот финансовая ситуация. OpenAI привлекла феноменальные объемы капитала (около 58 миллиардов долларов, включая беспрецедентный раунд в 40 миллиардов в прошлом году, последняя оценка - 500 миллиардов долларов), но капитал - это не выручка. Рано или поздно кто-то должен оплатить огромные капитальные и операционные расходы (обучение и запуск AI-моделей плюс аренда GPU у облачных провайдеров вроде Microsoft). Вот тут появляемся мы, пользователи. Конверсия из бесплатных в платных подписчиков следует предсказуемым паттернам потребительского софта - обычно однозначные проценты (у OpenAI около 5% по последним данным: 35 миллионов платных подписчиков из примерно 800 миллионов еженедельных активных пользователей).

AI-компании могут оптимизировать эти показатели, но не могут нарушить законы онлайн-рынков, как не могут отменить гравитацию. Большинство пользователей останутся бесплатными. У OpenAI три варианта:

• Поднять цены, ограничив доступ (дорогие тарифы существуют, но бесплатные уровни нельзя убрать без краха роста, поскольку рынок - нестабильная олигополия, а не стабильная монополия).
• Снизить затраты, ухудшив качество или переключившись на меньшие модели (это уже происходит под капотом; поэтому в бесплатной версии ChatGPT не видно активную модель - ее незаметно заменяют на меньшую).
• Найти другой источник дохода. То есть рекламу.

Когда OpenAI неоднократно заявляла о прибыльности к 2030 году, речь шла не о количестве платных пользователей (хотя они прогнозируют 2,6 миллиарда общих пользователей и 220 миллионов платных к 2030 году), а о доходах от рекламы.

Внедрение рекламы в ChatGPT несет огромные риски: отток пользователей, негатив, разрушение доверия, уязвимость перед конкурентами, ущерб бренду. Но откровением является не то, что продукт без рекламы лучше продукта с рекламой (при прочих равных). Это все знают, как знали, что Альтман передумает насчет рекламы. Настоящее откровение в другом: если ведущая потребительская AI-компания с капиталом, платными пользователями и техническими талантами больше, чем возможно у любого стартапа в истории, смотрит на варианты и заключает, что не может заставить экономику работать без рекламы, якобы "последнего средства", то кто может?

У других игроков есть альтернативные пути, но ни один не решает проблему. Google субсидирует ИИ через существующий рекламный бизнес, что означает встроенные коммерческие интересы - мы просто принимаем их как данность. DeepMind захвачен Google и следует тем же стимулам. Anthropic фокусируется на корпоративном сегменте и пока избегает расходов на потребительский масштаб из-за меньшей базы пользователей, поэтому может не размещать рекламу в Claude. У xAI есть деньги Илона. А где Meta? Кто-нибудь видел Meta в последнее время?

Что это говорит о самой технологии? Помимо "пузыря", это предполагает, что генеративный ИИ (большие языковые модели и чатботы) может вообще не быть потребительским продуктом. Возможно, это корпоративный инструмент, который потребители получают в деградированных условиях, или убыточная приманка, субсидируемая компаниями с другими источниками дохода, или роскошный товар для тех, кто может платить.

Для получения практических рекомендаций по внедрению ИИ в бизнес посетите AI Projects.

Непроверяемые обещания

Прежде чем пророчить катастрофу, давайте посмотрим на пресс-релиз OpenAI.

Если прочитать, что они предлагают, заметите приятные обещания и компромиссы. Но насколько эти оговорки приемлемы, настолько же их структурно сложно проверить. Я не сомневаюсь в намерениях Альтмана, но красивые слова, описывающие неподотчетную политику - не то обещание, которому я склонен верить.

Рассмотрим пример: "Ответы в ChatGPT не будут зависеть от рекламы". Это замечательно! Важно! И непознаваемо.

Как вы узнаете, правда ли это или изменится ли когда-нибудь? Вы не можете проверить данные обучения. Не можете увидеть, какая тонкая настройка применена или какие поведенческие цели. Не можете сравнить свой ответ с платоническим "независимым" вариантом (если только не платите; ждите твитов и мемов со сравнением платных и бесплатных ответов). Вы должны верить слову компании, и не можете проверять это доверие со временем.

Повторю: критика не о том, что Альтману не хватает откровенности, а о том, что никогда не следует ожидать от коммерческой компании действий против собственных интересов. Слишком много денег можно заработать, позволяя людям предполагать сильную интерпретацию этого обещания ("мой опыт использования ChatGPT не изменится! Ура!"), а затем применяя слабую интерпретацию ("я не изменяю ответы, я просто тренирую механизм маршрутизации модели ChatGPT выбирать предпочтительные ответы").

Вы действительно думаете, что AI-компания вроде OpenAI, способная обучить бота выигрывать Математическую олимпиаду и всемирный конкурс по программированию, не может обучить того же бота максимизировать доход через рекламу так, чтобы разрушить пользовательский опыт, не входя в конфликт с заявленными принципами? Это их профессия!

Даже при добрых намерениях давление однонаправленное. Рекламодатель жалуется, что ChatGPT "несправедливо суров" к их категории продуктов. Скорректирует ли OpenAI? Бренд угрожает прекратить расходы, потому что ChatGPT продолжает рекомендовать конкурентов. Отреагирует ли OpenAI? Это обычный ход дел на платформах с рекламной поддержкой, поэтому безопасно предположить, что то же произойдет здесь. OpenAI не пойдет против себя.

Теперь рассмотрим обратный пример: почему в пресс-релизе ничего не сказано о том, как память чата будет использоваться для таргетинга рекламы?

Миллионы людей использовали ChatGPT для самых интимных разговоров. Вся эта информация - топливо для рекламы. Я писал об этом пару раз: ваши мечты, страхи, психологические слепые зоны теперь данные для рекламной компании, чтобы создать идеальный крючок для продажи вам ненужного продукта.

Люди всегда беспокоились, что телефоны нас подслушивают; теперь они будут буквально внутри наших умов. Когда вы проявляете разочарование партнером, ИИ поймет, что вы главная цель для приложений знакомств; когда выражаете тревогу по поводу работы, ИИ отметит вас как цель для wellness-приложений, и так далее. Как вы думаете, какая основная демография будет целевой? Дети и подростки.

Подождите, конечно, пресс-релиз также клянется конфиденциальностью: "Разговоры приватны от рекламодателей". Но опять же, есть сильная и слабая интерпретация. Сильная (пользователя): "Мои данные полностью безопасны, никто не знает, как мне было грустно на прошлой неделе! Ура!" Слабая (OpenAI): "Реклама будет проявляться по-разному в зависимости от истории чата, даже если рекламодатели не знают как".

Эта дихотомия слабой-сильной интерпретации - полезная рамка для понимания происходящего и ожиданий в целом. OpenAI не нужно явно влиять на ответы или позволять рекламной компании видеть вашу историю; им нужно лишь делать крошечные корректировки того, что всплывает, какие примеры ChatGPT выбирает показать вам, как формулирует рекомендации и т.д.

"Мы не влияем на ответы" технически верно, но функционально вводит в заблуждение. Рекламные деньги живут в разрывах между тем, что предполагают пользователи, и тем, что эффективно делает компания.

Вывод: возьмите наименее благоприятную интерпретацию пресс-релиза, и будете правы. Примите, что реклама пришла, потому что математика не работает, и будете правы. Согласитесь, что не все пользователи равны, и будете правы, что подводит меня к последнему пункту.

Двухуровневая информационная среда

OpenAI создает отдельные информационные среды на основе платежеспособности. AI-богатые и AI-бедные теперь реальность. Я подробно писал об этом, вводя термин:

"Отныне - и впервые с момента становления ИИ как потребительской индустрии - эта технология разрежет социальную территорию надвое бездонной пропастью между ними, и в результате возникнут два социальных класса".

Я говорил о дорогих AI-тарифах (до 2000 долларов в месяц; компании пока остановились на 200 долларах), но это так же применимо к наличию рекламы в бесплатном уровне.

Платные пользователи получают "чистую" версию без рекламы. Бесплатные пользователи получают деградированную версию. Со временем это разделение породит асимметрии. Платный пользователь платит за сохранение своих интересов, бесплатный "платит" тем, что позволяет ставить чужие интересы выше. Хотите новую машину? Платный пользователь получает ответ согласно кастомизированным спецификациям; бесплатный пользователь получает три-четыре предложения Volkswagen, прежде чем осознает, что OpenAI подписала сделку с немецким автопроизводителем в 2024 году. Вы чувствуете тревогу и просите способы справиться. Платный пользователь получает техники КПТ, дыхательные упражнения, возможно, предложение поговорить с кем-то. Бесплатные пользователи получают ссылку на Headspace.com или InsightTimer.com.

(Представьте, что абзац выше - сообщение ChatGPT: как вы можете сказать, заплатили ли эти медитационные приложения за выбор в качестве примеров или ChatGPT выбрал их по опросам или другим псевдо-нейтральным метрикам? Не можете.)

Иерархия AI-богатых и AI-бедных - не гипотетическое беспокойство о неравенстве. Есть множество доказательств из поиска и соцсетей, что это происходит. AI-ассистенты не будут исключением из этой динамики только потому, что они диалоговые, а не алгоритмические; скорее наоборот: степень, в которой будет зависимый от уровня пользовательский опыт, будет больше, чем в любой другой категории софта. И учитывая, что люди сейчас используют чатботы для всего, степень влияния этих различий на их жизнь также будет больше.

Реклама введет небольшие, постоянные смещения в том, как представляется информация, какие источники приоритизируются, какие решения предлагаются первыми. Эти смещения будут почти невозможно обнаружить на уровне отдельного взаимодействия, но могут быть весьма значительными в совокупности. Так усугубляется бедность AI-бедных. И если вы что-то знаете о силе сложного процента со временем, вы знаете, что это серьезно.

Платные уровни - контрольная группа неудачного всемирного социального эксперимента. Бесплатные уровни, скоро наполненные рекламой - крысы в лабиринте.

Чтобы узнать больше о стратегиях работы с ИИ, посетите AI Projects.

Последняя мысль

ChatGPT уже не тот, что был. Есть отличные альтернативы (и Claude, и Gemini лучше, на мой взгляд). Проблема угодничества не решена и значительно ниже в Claude. OpenAI сосредоточила энергию и ресурсы на эксплуатации популярности бренда (что справедливо), а не на сохранении технического преимущества. Сэм Альтман - ненадежный лидер (говорит одно, делает другое). Компания сделала движок для шлака (Sora), разрешит порно и теперь добавит рекламу в ваш суп. ChatGPT уже не тот, что был, и больше не является необходимым инструментом в моем наборе.

Я не прошу вас отказаться от этого социального эксперимента - это ваш выбор. Что касается меня, что я сделал? Я уже сделал: впервые с ноября 2022 года я удалил ChatGPT.