https://ninkilim.com/articles/arguing_with_an_ai_sceptic/ru.html
Эпизод начался с политического мема, который я опубликовал: Дональд Трамп и Биньямин Нетаньяху в оранжевых тюремных робах, сидящие на двухъярусной койке под тёплым, ностальгическим рождественским оверлеем с надписью «All I Want for Christmas». Визуальная ирония была мгновенной и острой. Для создания потребовались сознательные обходные пути. Современные модели генерации изображений имеют как политические ограничения, так и технические проблемы с когерентностью:
Ни одна модель не смогла создать полное изображение. Противоречивые элементы — заряженная политическая сатира в сочетании с сентиментальным рождественским посланием — вызывают механизмы отказа или сбои когерентности. Большие языковые модели просто не способны синтезировать такие концептуально противоположные компоненты в одном coherentном выводе. Я сгенерировал два элемента отдельно, а затем вручную объединил и отредактировал их в GIMP. Финальный композит был однозначно создан человеком: моя концепция, мой выбор компонентов, моя сборка и корректировки. Без этих инструментов сатира осталась бы запертой в моей голове или вышла бы в виде грубых палочных фигурок — лишённая всякого визуального воздействия.
Кто-то сообщил об изображении как об «сгенерированном ИИ». На следующий день сервер ввёл новое правило, запрещающее контент, созданный генеративным ИИ. Это правило — и мем, который его спровоцировал — напрямую вдохновили меня написать и опубликовать эссе «Высокоразмерные умы и бремя сериализации: Почему LLM важны для нейродивергентной коммуникации». Я надеялся, что оно побудит к размышлениям о том, как эти инструменты служат когнитивными и творческими приспособлениями. Но оно превратилось в довольно неловатый обмен с администратором.
Администратор утверждал, что LLM разрабатываются не во благо человека, а способствуют расточительству ресурсов и милитаризации. Он ссылался на энергопотребление, связи с военными, коллапс моделей, галлюцинации и риск «мёртвого интернета». Он признался, что лишь бегло просмотрел эссе и владеет мощной игровой рабочей станцией, способной запускать продвинутые локальные LLM для личного развлечения, с доступом к ещё большим моделям через друга.
Выявились несколько противоречий:
Самое поразительное: человек, вводящий запрет для защиты аутентичности, отвергал того, кто активно стресс-тестирует LLM на фактические и геополитические предвзятости (см. мои публичные аудиты Grok и ChatGPT).
Администратор идентифицировал себя как нейродивергентного и признал потенциал ИИ как ассистивной технологии. Он похвалил очки с реальным временем субтитров для слабовидящих как «очень крутые», но настаивал, что «когда машина пишет эссе и рисует картинки — это другое». Он добавил: «Нейродивергентные люди могут делать эти вещи, многие преодолели барьеры, чтобы развить эти навыки». Он также описал свой опыт с LLM: «Чем больше я уже знаю о теме, тем меньше мне нужен ИИ. Чем меньше я знаю о теме, тем меньше я оснащён, чтобы заметить галлюцинации и исправить их». Эти заявления раскрывают глубокую асимметрию в оценке приспособлений.
Представьте применение той же логики к Стивену Хокингу:
«Мы признаём, что синтезатор голоса мог бы помочь вам общаться быстрее, но мы бы предпочли, чтобы вы больше старались с естественным голосом. Многие люди с болезнью моторных нейронов преодолели барьеры, чтобы говорить чётко — вы тоже должны развить эти навыки. Машина делает нечто иное, чем настоящая речь».
Или, с его собственной перспективы на фактическую точность:
«Чем больше Хокинг уже знает о космологии, тем меньше ему нужен синтезатор. Чем меньше он знает, тем меньше он оснащён, чтобы заметить ошибки в машинном голосе и исправить их».
Никто бы этого не принял. Мы понимали, что синтезатор Хокинга не был костылём или разбавлением — это был необходимый мост, позволивший его выдающемуся уму делиться всей глубиной без непреодолимых физических барьеров.
Комфорт администратора с линейной, человеко-ориентированной прозой отражает когнитивный стиль, ближе соответствующий нейротипичным ожиданиям. Мой профиль противоположный: фактическая и логическая глубина даётся естественно (как в самостоятельной разработке многоязычной платформы публикаций), но производство структурированной, доступной прозы для человеческой аудитории всегда было барьером — именно то, что описывает эссе. Принимать очки с субтитрами или alt-текст как легитимные приспособления, одновременно отвергая LLM-скаффолдинг для когнитивной дивергенции — значит проводить произвольную границу. Mastodon и более широкий Fediverse часто гордятся своей инклюзивностью. Однако это вводит новые ворота: определённые приспособления приветствуются; другие должны преодолеваться индивидуальными усилиями.
Категорический отказ от публичного использования генеративного ИИ эхом повторяет повторяющийся паттерн в истории технологий. В Англии начала XIX века квалифицированные ткачи, известные как луддиты, разбивали механизированные станки, угрожавшие их ремеслу и средствам к существованию. Фонарщики в городах выступали против лампы накаливания Эдисона, опасаясь устаревания. Кучера, конюхи и конезаводчики сопротивлялись автомобилю как экзистенциальной угрозе их образу жизни. Профессиональные писцы и чертёжники с тревогой относились к копировальному аппарату, считая, что он обесценит тщательную ручную работу. Наборщики и печатники боролись против компьютерных систем вёрстки.
В каждом случае сопротивление проистекало из реального страха: новая технология делала устаревшими навыки, которыми они гордились, подрывая их экономические роли и социальную идентичность. Изменения ощущались как обесценивание человеческого труда.
Однако история оценивает эти инновации по их более широкому воздействию: механизация сократила тяжёлый труд и позволила массовое производство; электрическое освещение продлило продуктивные часы и улучшило безопасность; автомобили дали личную мобильность; копиры демократизировали доступ к информации; цифровая вёрстка сделала публикацию быстрее и доступнее. Мало кто сегодня вернулся бы к газовым лампам или гужевому транспорту лишь для сохранения традиционных рабочих мест. Инструменты расширили человеческие возможности и участие гораздо больше, чем умалили их.
Генеративный ИИ — используемый как протез для познания или творчества — следует той же траектории: он не уничтожает человеческое намерение, а расширяет выражение для тех, чьи идеи были ограничены барьерами исполнения. Категорический отказ от него рискует повторить луддитский импульс — защищать знакомые процессы ценой более широкого участия.
События, описанные в этом эссе — один сообщённый изображение, один поспешно введённый запрет, один затяжной спор — раскрывают больше, чем локальный разногласия по поводу технологии. Они выявляют гораздо более глубокий и фундаментальный вопрос: Кто имеет право решать, какие приспособления приемлемы, а какие нет? Должны ли это быть люди, живущие в той коже и мозге, которым нужно приспособление — те, кто из повседневного опыта знает, что именно мостит разрыв между их возможностями и полным участием? Или это должны быть посторонние, пусть и доброжелательные, которые не разделяют эту прожитую реальность и поэтому не могут почувствовать вес барьера?
История отвечает на этот вопрос неоднократно и почти всегда в одном направлении. Инвалидные коляски когда-то критиковали за поощрение зависимости; системы образования глухих долго настаивали, чтобы дети учились читать по губам и устной речи вместо языка жестов. В каждом случае люди, ближайшие к нарушению, в итоге побеждали — не потому, что отрицали опасения по поводу стоимости, доступа или возможного злоупотребления, а потому, что они были первичными авторитетами в том, что действительно восстанавливало их агентность и достоинство.
С большими языковыми моделями и другими генеративными инструментами мы проживаем тот же цикл снова. Многие, кто контролирует их использование, не испытывают тех конкретных когнитивных или экспрессивных барьеров, из-за которых линейный скаффолдинг, нарративный поток или быстрая сериализация ощущаются как изнурительный перевод на иностранный язык. Со стороны «просто старайся сильнее» или «развивай навык» может звучать разумно. Изнутри инструмент — не обход усилий; это пандус, слуховой аппарат, протез, который наконец позволяет уже существующим усилиям достичь мира.
Глубочайшая ирония возникает, когда арбитры сами идентифицируют себя как нейродивергентных, но их конкретная неврология ближе соответствует нейротипичным ожиданиям в оцениваемой области. «Я преодолел это так, значит и другие должны» — понятно, но всё равно функционирует как гейткипинг, воспроизводя те самые нормы, которые мы критикуем, когда они исходят от нейротипичных авторитетов. Назрела последовательная этическая принцип:
Особенно показателен один двойной стандарт: повсеместное требование явно раскрывать использование генеративного ИИ. Мы не требуем аналогичного раскрытия для большинства других приспособлений. Напротив, мы активно приветствуем технологические продвижения, делающие их невидимыми: толстые очки, заменённые контактными линзами или рефракционной хирургией; громоздкие слуховые аппараты, миниатюризированные до почти невидимости; лекарства для концентрации, настроения или боли, принимаемые приватно без сносок или дисклеймеров. В этих случаях общество считает дискретное, скрытое использование прогрессом — восстановлением достоинства и нормальности. Однако когда приспособление расширяет познание или выражение, сценарий меняется: теперь оно должно быть помечено, объявлено, обосновано. Невидимость становится подозрительной, а не желаемой. Это избирательное требование прозрачности не действительно о предотвращении обмана; оно о сохранении комфорта с определённым образом неассистированного человеческого авторства. Физические коррекции разрешено исчезать; коррекции ума должны оставаться заметно помеченными.
Если мы хотим последовательности, мы должны либо требовать раскрытия для каждого приспособления (абсурдное и инвазивное требование), либо перестать выделять когнитивные инструменты для особого контроля. Принципиальная позиция — та, что уважает автономию и достоинство — позволять каждому человеку решать, насколько видимым или невидимым должно быть его приспособление, без карательных правил, нацеленных на одну форму помощи потому, что она нарушает существующие представления о творчестве и интеллекте. Это эссе — не просто защита одного конкретного инструмента. Это защита более широкого права инвалидов и нейродивергентных людей определять свои собственные потребности в доступе, без необходимости оправдываться перед теми, кто никогда не ходил в их обуви. Это право не должно быть спорным. Однако, как показывает предыдущий рассказ, оно всё ещё является.