Честность диалога в эпоху усиленного мышления

Появление ИИ как участника интеллектуального процесса радикально меняет саму структуру диалога. Даже если он не говорит вслух, его присутствие ощущается: аргументы в пользу практически чего угодно становятся более стройными, тексты и статьи — удивительно убедительными, позиции — более защищёнными. Но вместе с этим возникает вопрос, который до сих пор плохо осмыслен: возможна ли честность диалога в сети, когда есть свободный доступ к ИИ?

Технически, ИИ, при его грамотном использовании, способен развернуть связную, логически корректную и риторически сильную аргументацию в пользу практически любой позиции (при наличии хоть какого-то базиса знаний о ней), что есть следствие его искусственной природы. Он не «верит», не «сомневается» и не «рискует» — лишь оптимизирует связность, непротиворечивость и убедительность текста, в результате чего аргумент в пользу чего-либо перестаёт быть надёжным индикатором «убедительности». Человек может звучать так, будто глубоко продумал позицию (при этом не продумывая её вовсе), а диалог, построенный на аргументах, начинает терять свою прежнюю познавательную ценность (по крайней мере, в рамках интернета), потому что аргумент больше не обязательно выражает внутреннюю работу субъекта.

Делегирование мышления

Важно различить два принципиально разных режима взаимодействия с ИИ, которые я для себя обозвал «делегированием» и «замещением».

В «режиме» делегирования ИИ может быть использован как инструмент для сбора информации, структурирования потоков хаотичных идей и мыслей, или для языкового оформления уже продуманной, но неоформленной позиции. Таким образом, ИИ выступает аналогом расширенной памяти, редактора и/или карты местности, оставляя конечную мысль человеческой и усиливая её, но не замещая полностью.

В «режиме» замещения же ИИ может использоваться как источник самой позиции, подбирая аргументы, определяя рамки, выбирая тон и, в общем-то, полноценно ведя диалог за человека. Таким образом, субъект, прибегнувший к столь мощному инструментарию, перестаёт быть автором, превращаясь в посредника/носителя готового текста. 

Честность диалога же всегда была связана не с правильностью аргументов, но с риском ошибаться, выглядеть глупо и/или изменить свою позицию. ИИ же как объект этого риска не имеет, а с полным замещением мышление субъекта исчезает и главный этический компонент разговора. 

Дополнительная проблема — асимметрия. Если один участник диалога использует ИИ, а другой — нет, возникает скрытое неравенство: победа в споре перестаёт быть показателем глубины мышления и всё больше зависит от доступа к этим «когнитивным усилителям».

Парадоксально, но в эпоху ИИ честный диалог всё меньше определяется аргументацией, и всё больше — метапозицией: готовностью признать границы своей уверенности, способностью сказать «я не знаю» и различением между «я думаю» и «я могу обосновать». ИИ может помочь с последним... Но первые два остаются исключительно человеческими.

Вывод

ИИ делает невозможным «наивный» диалог, в котором аргумент автоматически приравнивается к истине, а убедительность — к честности (повторюсь: по крайней мере, в рамках интернета). В присутствии ИИ честность больше не гарантируется формой речи, становясь этическим выбором субъекта: быть автором своих мыслей (даже если они менее отточены) или делегировать мышление машине, сохранив иллюзию интеллектуальной победы?

Возможно, именно здесь проходит новая линия раздела: не между «за» и «против» ИИ, но между диалогом как поиском истины и диалогом как соревнованием убедительности текстов.