Когда в 1970-х годах в школах начали массово внедрять калькуляторы, педагоги били тревогу:
- «Дети разучатся считать в уме!»
- «Исчезнет понимание математической логики!»
Счет в уме действительно перестал быть жизненно необходимым навыком для выживания. Но математика не исчезла — она поднялась на новый уровень. Мы перестали тратить время на деление в столбик и начали тратить его на решение прикладных задач, статистику и алгоритмическое мышление. Навык трансформировался, а не умер.
Но GPT замахивается на куда большее. Калькулятор считает быстрее, но не творит. Компьютер хранит данные, но не пишет тексты с нуля, не рисует и не сочиняет музыку в ответ на промпт. Сейчас ИИ посягает на область, которую мы веками считали исключительной прерогативой сознания — на креативность в тексте. Это бьет по самооценке человека гораздо больнее, чем потеря навыка извлечения квадратного корня.
Нынешний ИИ (нейросети) — это «непрозрачная» система. Мы не знаем, почему он выдал именно этот ответ. Это порождает экзистенциальную тревогу: мы боимся не столько замены, сколько неконтролируемой замены.
Скорость замещения. Калькуляторы внедрялись десятилетиями. ИИ захватывает рынки (копирайтинг, дизайн, перевод, программирование) за месяцы.
Несмотря на различия, социальная динамика повторяется идеально:
Появляются «пуристы» (работающие только руками/головой без помощи машин) и «прагматики» (использующие ИИ как ускоритель). Спор между ними всегда заканчивается победой прагматиков, потому что экономическая эффективность перевешивает моральные принципы.
Раньше мастером считался тот, кто хорошо знал синтаксис языка или владел кистью. Сейчас мастером становится тот, кто умеет ставить правильные задачи (промптинг) и верифицировать результат ИИ. Умение «спросить» становится важнее умения «сделать».
В 80-х программисты были «теми, кто заменит бухгалтеров». В итоге бухгалтеры не исчезли, а ушли в аудит и финансовый анализ, зато появились целые отрасли IT, которых раньше не было. С ИИ произойдет то же самое: исчезнут «ремесленники» (пишущие шаблонные тексты), но появятся «архитекторы знаний» и «редакторы ИИ».
Волна протеста — это кризис взросления общества. Она необходима, чтобы мы тщательно, в спорах и столкновения мнений пересмотрели свои ценности.
Кстати, если говорить про творчество, а не просто генерацию новых массивов текста, рисунков, музыки и видео, то GPT системы не отличаются творчеством в его наивысшей форме, когда для новых решений нужно не просто использовать эффект калейдоскопа, получая новые сочетания старых элементов, а доминанту нерешенной проблемы, которая ждет своего часа эврики и готовит к нему огромные массивы сопоставлений и обобщений. GPT оперирует статистикой прошлого, а Эврика — это скачок в будущее.
GPT — это гигантский архив вероятностей. Он говорит: «Исходя из 10 терабайт текстов, после слов "теория относительности" с вероятностью 87% идет "Эйнштейн"».
Но чтобы создать теорию относительности, Эйнштейну нужно было отказаться от статистики прошлого (эфира, ньютоновской механики как абсолютной истины). ИИ никогда не предложит идею, которая противоречит его обучающей выборке. Он не может сгенерировать «квадратуру круга» или «путешествие быстрее скорости света» как физически обоснованную теорию, потому что таких данных в выборке нет. Он консерватор по своей природе.
У человека проблема висит в подсознании годами, питаясь противоречиями. Мозг в фоновом режиме сопоставляет физику, музыку, искусство, бытовые наблюдения и математику, пока вдруг какое-то из сопоставлений или новый стимул не окажется по аналогии очевидным решением и тогда возникает инсайт. У GPT нет даже самых базовых механизмов эгоцентрической значимости всего воспринимаемого для того, чтобы по векторам такой значимости генерировать новые смысловые сочетания (в пассивном режиме мышления: fornit.ru/68279) и сохранять их впрок, все более делая уверенным значимость такой оценки. А такая модель понимания – основа любой осознанной деятельности (fornit.ru/69260, fornit.ru/102588).
Но здесь кроется ирония: «высшая форма творчества», в истории человечества случается крайне редко. 99,9% всей человеческой деятельности () — это как раз та самая работа «калейдоскопа» (шаблонные отчеты, типовые дизайны, рерайт новостей, стандартные юридические формулировки).
Именно эту 99,9% работу GPT и отнимет. И это освободит человечеству время и ресурсы, чтобы как раз заниматься той самой «доминантой нерешенной проблемы». GPT, будучи неспособным к Эврике, является идеальным инструментом для подготовки массивов сопоставлений, о которых вы говорите. Он может перелопатить все данные по проблеме за секунду, сводя рутину, и предоставить человеку чистую доску, чтобы тот мог, наконец, увидеть ту самую недостающую связь.
Грубо говоря: GPT не напишет «Евгения Онегина» в том смысле, в каком его написал Пушкин (потому что там нужна живая душевная боль), но он может написать 1000 подделок, на фоне которых настоящий «Онегин» засияет еще ярче. Или, что важнее, GPT может проанализировать все черновики Пушкина за 5 минут, показав паттерны его правок, — и это поможет литературоведу сделать новое открытие.
Это порождает проблему невероятных массивов мусора, который скрывает собой в самом деле самобытное и полезное. Интернет уже заполнен паразитными текстами, картинками и музыкой, что нужно только для тех, кто паразитирует на этом. Это экологическая катастрофа информационного пространства. Раньше паразитный контент создавался людьми медленно. Теперь GPT генерирует миллионы текстов в день.
Вот почему возникло неприятие на ресурсах художественных, популярных и научных статей. Появились детекторы “это создано с помощью ИИ”, издательства проверяют этими детекторами присланное и если процент вероятности зашкаливает, то следует отказ.
Мы уже проходили похожий этап в конце 90-х и 2000-х, когда в университетах и издательствах появились антиплагиатные системы. Тогда тоже был крик: «А как же цитаты? А как же общие места? Система глючит!»
Сейчас детекторы ИИ — это та же борьба с плагиатом, но на уровне стиля и статистики, а не дословных совпадений. Они ищут не украденные предложения, а признаки усредненности: сглаженность переходов, отсутствие неожиданных синтаксических конструкций, предсказуемость выбора слов.
И здесь начинается главная трагедия: дискриминируются «хорошие» авторы. Детекторы вроде Turnitin, GPTZero и др. показывают процент «вероятности синтетического текста». Но на каком материале они обучались? На массивах «идеального» академического английского, клишированных фраз и шаблонных структур.
Что происходит на практике? Носитель языка, который пишет чисто, логично, без ошибок и по стандартным лекалам научной статьи, получает высокий процент ИИ-вероятности. Иностранный студент, который пишет коряво, с инверсиями, сбивчивыми оборотами и уникальными речевыми ошибками, получает низкий процент (потому что его текст статистически «выбивается» из обучающей выборки нейросетей).
То есть детекторы наказывают за грамотность и логичность, поощряя хаос и несовершенство. Издательства, отказывая таким авторам, фактически говорят: «Ты пишешь слишком хорошо, чтобы быть человеком». Появился ответный тренд среди авторов, которые хотят обойти детекторы. Они намеренно вносят в свои тексты ошибки, используют сложный, ломаный синтаксис, добавляют личные отступления и сленг.
Это приводит к тому, что качество публикуемых материалов в ряде издательств начинает падать. Издательства вынуждены выбирать между «идеальным текстом, написанным, возможно, машиной» и «живым, но сырым и грамматически небрежным текстом человека». Это деградация, о которой вы говорили как о "мусоре", только теперь мусор вынужденно создают сами люди, чтобы доказать, что они не роботы.
Можно представить абсурдный диалог издателя и автора: “Мы обнаружили, что для подготовки текстов вы использовали профессиональных редакторов и корректоров. Они в соавторстве с вами. Мы не готовы принять текст, созданный с помощью сторонних людей”. Или даже так: “Вы явно составили текст с помощью персонального компьютера и проверили ошибки в автоматическом режиме, скрыв свой уровень безграмотности”.
А ведь до XIX века это было нормой. Великие писатели (Диккенс, Достоевский) зависели от корректоров и издательских редакторов, которые сильно правили их тексты. Но сегодня это звучит дико, потому что мы привыкли, что редактор — это союзник, а не фальсификатор.
В 1980-х годах учителя действительно говорили: "Если вы будете пользоваться компьютером для написания сочинений, вы разучитесь думать". А программу проверки орфографии считали "обманом", скрывающим истинную грамотность ученика. Сегодня мы смеемся над этим, потому что компьютер стал продолжением руки.
Если отказ за использование редакторов был бы нормой, то мы должны отказаться от всей античной литературы (где тексты переписывались и дополнялись веками), от научных статей (где соавторы правят друг друга) и от кино (где режиссер, сценарист и монтажер — один организм). Это приведет к культу "абсолютного одиночного творчества", которого в истории никогда не существовало.
По такому тренду через 50 лет мы будем проверять, не пользовался ли автор нейроинтерфейсом для подбора рифм, или не использовал ли он генератор идей. Это бесконечная гонка, где каждый раз мы будем отбрасывать инструмент, который стал слишком хорош, и требовать возврата к "аутентичной грязи".
Вместо оценки нетленного качества произведения, его новизны и пользы, возникают попытки скоропостижной оценки по некоторым формальным признакам. Это переход от эстетики (оценка красоты, глубины и смысла) к криминалистике (поиск улик и формальных признаков «преступления против человечности»).
Раньше критерии оценки были содержательными:
- «Эта теория объясняет новые факты».
- «Этот роман заставляет меня плакать и думать».
- «Эта картина меняет мое восприятие цвета».
- «Вероятность ИИ-происхождения в 3-м абзаце — 87%».
- «В тексте недостаточно уникальных ошибок».
- «Словарь слишком богат для живого человека».
- «Война и мир» нарушала все каноны романа XIX века (критики ругали Толстого за «небрежность» структуры).
- «Улисс» Джойса был признан бредом безумца по формальной пунктуации.
- Работы художников-импрессионистов отвергали за «неправильную» технику мазка.
И с выводом: "Если же человек мыслил — он получает в руки мощнейший инструмент" - я полностью согласен.