Что мы отдаем искусственному интеллекту?

Еще до появления генеративного ИИ компания Amazon интегрировала глубокое мышление непосредственно в процесс выполнения работы.

В 2017 году Джефф Безос описал культуру совещаний, построенную на медленном, письменном изложении мыслей: никаких презентаций PowerPoint, никаких тезисов, только шестистраничный документ, на написание которого часто уходила неделя, описывающий продукт или проект от начала до конца.

В течение 20-30 минут все присутствующие в комнате — от рядовых сотрудников до старших руководителей — сидели и читали, прежде чем кто-либо мог высказаться.

По словам Безоса, цель состояла в том, чтобы добиться ясности посредством письма и чтения. Слабые аргументы выявлялись немедленно. Пробелы нельзя было скрыть за списками или отполированными слайдами. На обдумывание требовалось время, и в этом заключался смысл.

Опасность генеративного ИИ заключается в том, что он переворачивает эту логику одним-единственным запросом — и делает так, что ваше собственное мышление кажется ненужным.

Растущее уважение к искусственному интеллекту

Однако сегодня во многих американских корпорациях, включая некоторые подразделения Amazon, сотрудники все чаще сталкиваются с необходимостью использования инструментов искусственного интеллекта для составления служебных записок, предложений, отчетов и даже кода. Стимулы очевидны: повышение производительности, снижение затрат, ускорение процесса.

Но скорость влечет за собой компромиссы.

Работа, которая когда-то оттачивала мышление, теперь перекладывается на искусственный интеллект, и с этой перекладыванием берется потеря самостоятельности.

При подсказках может казаться, что вы сами являетесь автором. Однако большая часть структуры — формулировка, варианты, даже логика — уже задана системой ИИ. Пользователь может направлять процесс, но в рамках, которые он не определил, что постепенно переносит инициативу от пользователя к модели ИИ.

«Вы думаете, что обладаете свободой воли, когда вас подсказывают, — сказал The Epoch Times Живар Соурати, специалист по информатике из Университета Южной Калифорнии, изучающий влияние больших языковых моделей (LLM) на рассуждения, — но по сравнению с тем, что было два года назад, эта свобода значительно уменьшилась».

Два года назад ИИ был просто чем-то, что вы сами инициировали; сегодня он стал чем-то, что подталкивает вас в ответ, и этот сдвиг может снизить уверенность людей в собственных идеях.

«Когда работу выполняет ИИ, мы чувствуем меньшую ответственность за результат», — заявил в электронном письме изданию The Epoch Times психолог Майкл Инцлихт, профессор Университета Торонто, изучающий влияние технологий на мотивацию, самоконтроль и прилагаемые усилия. «Работа на самом деле не наша, и мы это знаем».

В рабочей среде наблюдается растущее предпочтение искусственному интеллекту. Исследование, проведенное Университетом Карнеги-Меллона и Microsoft, показало, что работники интеллектуального труда, доверяющие результатам работы ИИ, часто не проводят тщательной проверки — тенденция, известная как предвзятость в отношении автоматизации.

Такое проявление уважения становится рискованным, поскольку, хотя ИИ часто выдает убедительные ответы, эти ответы могут быть неверными, неполными или лишенными важного контекста.

Некоторые юристы усвоили этот урок на собственном горьком опыте, подав в суд документы, в которых цитировались сфабрикованные искусственным интеллектом дела, которых на самом деле не существовало.

Иллюзия консенсуса

Доверие к инструментам искусственного интеллекта становится сложнее подвергать сомнению, когда результаты их работы начинают выглядеть похожими друг на друга.

Дюжина коллег может запустить одну и ту же систему искусственного интеллекта и получить похожие по структуре черновики с ясным, нейтральным и хорошо сформулированным языком. Идеи могут начать сходиться — часто еще до того, как полностью сформируется независимое суждение. Согласие начинает казаться естественным, даже когда это не так.

«Теперь люди просто общаются с ИИ, и он получает идеи», — сказал Сурати.

На практике использование ИИ ускоряет начальные этапы мышления. Менеджер, составляющий стратегическую записку, может начать с аналогичного набора рекомендаций, что и другие, использующие те же инструменты. Аспирант, который раньше вручную определял пробелы в исследованиях, теперь может попросить модель мгновенно их выявить — и то же самое может сделать каждый в своей области.

Эффект распространяется не только на техническую работу. Инструменты ИИ все чаще используются в личной письменной речи — записках о расставании, свадебных клятвах, даже автобиографиях — формах письма, которые когда-то были тесно связаны с личным опытом и стилем. По словам Сурати, при масштабах миллиарда пользователей в неделю даже небольшие изменения в том, как зарождаются идеи, могут быстро привести к их однородности.

Давление, направленное на конформизм в языке и мышлении, существовало задолго до появления ИИ. ИИ меняет то, где конвергенция вступает в процесс — не в конце мыслительного процесса, а всё чаще в его начале.

Это важно, — сказал Сурати в статье, опубликованной в журнале Trends in Cognitive Sciences, — потому что люди привносят в свою работу разнообразные способы письма и рассуждения. «Когда эти различия проходят через одни и те же программы магистратуры в области права, — сказал он изданию The Epoch Times, — их различные языковые стили, взгляды и стратегии рассуждения становятся однородными».

Искусственный интеллект делает больше, чем просто заставляет нас звучать похоже; вызывает опасение то, что он может сузить границы приемлемой дискуссии. Когда язык сглаживается, а варианты выбора неоднократно формулируются одинаково, несогласие или инакомыслие могут восприниматься как менее обоснованные, чем они есть на самом деле.

Со временем, как предположил Сурати, многократное использование различных подходов может создать «иллюзию консенсуса»: ощущение, что люди независимо друг от друга приходят к схожим выводам или решениям проблем, тогда как на самом деле одни и те же сгенерированные машиной шаблоны сглаживают различные идеи, точки зрения и даже критические позиции, создавая нечто, что кажется более единым, чем есть на самом деле.

Даже в собственных текстах он замечает этот эффект. Сглаживание с помощью ИИ делает все более традиционным — и менее отчетливо его собственным. «Внезапно я понимаю, что… это уже не я».

Когда согласие достигается на основе общих отправных точек, это кажется более органичным, чем есть на самом деле. В этом смысле ИИ переворачивает с ног на голову то, для чего были разработаны такие системы, как процесс создания служебных записок в Amazon, — где письмо и внимательное чтение помогали людям сформировать собственную точку зрения, прежде чем столкнуться с точкой зрения других, поэтому согласие нужно было заслужить.

Меняется не только то, что думают люди, но и то, как искусственный интеллект может незаметно формировать их мысли.

Меньше трения, меньше понимания

Растущая зависимость от ИИ — и связанное с этим чувство согласия — не возникает изолированно. Она подкрепляется чем-то более сложным для восприятия: люди часто думают, что понимают больше, чем на самом деле.

Когда люди используют ИИ, они часто принимают быстрые и понятные ответы инструмента за свои собственные.

Эксперимент компании Anthropic, занимающейся исследованиями и безопасностью ИИ, помогает объяснить причину. Участники, которые использовали помощь ИИ, показали примерно на 17 процентов более низкие результаты в тесте на понимание материала, с которым они работали всего несколько минут назад. Задание было выполнено, но понимание материала отставало.

«Глубокое понимание может потребовать трения — определенной борьбы, чтобы разобраться в ситуации», — сказал Инцлихт. «Искусственный интеллект полностью обходит [эту борьбу], поэтому в итоге вы получаете отполированный продукт, а человек на самом деле не понимает, что в нем содержится».

По мнению Инцлихта, проблема начинается, когда исчезает трение. Мышление включает в себя ложные старты, неопределенность и медленное формирование идей. В статье, опубликованной в журнале Communications Psychology, он и его соавторы предполагают, что умственные усилия, затрачиваемые на этот процесс, помогают людям учиться и развивать навыки.

«Когда нам трудно что-то понять, мы вынуждены связывать это с тем, что уже знаем; именно эта связь помогает запомнить информацию», — сказал Инцлихт. «Вспомните школьную математику. Самостоятельное решение задачи, какой бы сложной она ни была, научило вас гораздо большему, чем просто увидеть решение и попытаться его восстановить. В этом и заключается смысл борьбы».

В зависимости от способа его использования, ИИ может прерывать этот процесс, способствуя когнитивной разгрузке. Со временем это может ослабить настойчивость и повысить вероятность того, что люди откажутся от решения сложных задач после того, как ИИ будет отключен.

Исследования показали, что даже 15 минут использования ИИ могут привести к снижению концентрации внимания и неспособности самостоятельно справляться со сложными задачами.

Таким образом, ИИ может изменить соотношение между усилием и знанием: то, что начиналось как удобство, становится необходимостью.

Почему важны усилия

Усилия не только способствуют пониманию, но и придают смысл. Когда люди преодолевают трудности в выполнении задачи, они, как правило, больше ценят результат.

«Мы меньше ценим свою работу, когда в ее создании используется искусственный интеллект, — сказала Инцлихт. — Она кажется менее значимой, менее нашей, менее ценной».

«Мы даже требуем за это меньше денег», — сказал он, указывая на созданные с помощью ИИ произведения искусства и видеоролики. «Это показательно. На каком-то уровне мы понимаем, что то, что создал ИИ, — это не совсем то, что создали мы».

Преимущества трения не безграничны; его избыток может привести к чрезмерному трению.

Риск заключается не в самом ИИ, а в потере тех усилий, которые формируют не только наши достижения, но и то, кем мы становимся.