Не люблю языковые модели

Мне кажется, мы все немного притворяемся.

Одна часть индустрии делает вид, что языковые модели — это революция, которая решит все проблемы. Другая часть демонстративно боится и отказывается от них. А между ними — куча людей, которые просто устали от этого хайпа и хотят работать.

Недавно наткнулся на статью Мартина Фаулера — человека, которого в нашей среде принято уважать. Он написал текст, который многих зацепил: «I Don’t Like LLMs». Не «LLM опасны» или «LLM бесполезны», а именно — не люблю. Личное. Жёсткое.

И вот что меня зацепило: Фаулер не отрицает пользу. Он цитирует Джессику Керр: по её мнению, отказываться от моделей безответственно, поскольку они могут работать быстрее и тщательнее. Но сам Фаулер описывает неприятное ощущение от взаимодействия: модель уверенно даёт и полезные ответы, и выдумки, а при указании на ошибку отвечает формальным извинением.

Голос, который скучает

Фаулер описывает так называемый «LLM-голос» — это когда текст звучит гладко, уверенно, но в нём нет живой интонации. Ты читаешь ответ и понимаешь: это не человек думает. Это модель генерирует правдоподобную последовательность слов.

И проблема не в том, что ответы всегда неправильные. Проблема в том, что невозможно отличить уверенный правильный ответ от уверенного неправильного. Модель выдаёт и то, и другое с одинаковой интонацией. Когда ошибся — извинится. Слегка. И продолжит делать вид, что всё в порядке.

Вот эта комбинация — внешняя уверенность без внутренней честности — вызывает у Фаулера что-то вроде отвращения. Он сравнивает это с людьми, которых старается избегать в жизни: приятными на вид, полезными, но с подтекстом «что-то здесь не так».

Парадокс полезности

Здесь интересный разрыв. Опросы показывают странную картину: люди говорят, что модели полезны для них лично, но при этом считают, что для общества это будет плохо. Как будто каждый думает: «Мне удобно, но вообще это разрушит что-то важное».

Фаулер не спорит с полезностью. Он поднимает другой вопрос: а что происходит с нами, когда мы постоянно с этим работаем?

КОГДА КАЧЕСТВО НЕ ВАЖНО         КОГДА КАЧЕСТВО КРИТИЧНО
═══════════════════════════════════════════════════════════
                                 
  Электронная почта               Архитектура системы
  Рефераты и черновики            Технические спецификации
  Первая итерация кода            Публичный код библиотек
  Списки дел и заметки            Код для безопасности
  
  ────────▶  МОЖНО ИСПОЛЬЗОВАТЬ   ────────▶  ПРОВЕРЯТЬ ДВАЖДЫ
  LLM без опаски                  Ручная верификация обязательна
                                 
═══════════════════════════════════════════════════════════
           Всё, что генерирует LLM, требует контроля.

Культура, которая их вырастила

Фаулер — человек осторожный. Он много лет работает в индустрии и видел разные тренды. Его беспокоит не столько сама технология, сколько контекст.

Языковые модели — это продукты определённой культуры. Квартал Силиконовой долины, конкретные компании, конкретный тип мышления: скорость важнее точности, масштаб важнее глубины, метрики важнее смысла.

Когда ты работаешь с моделью, ты работаешь с этим подходом. Модель не нейтральна — она несёт в себе приоритеты тех, кто её создал. И если тебе этот подход не близок, взаимодействие будет вызывать сопротивление.

Мой честный взгляд

Я согласен с Фаулером в одном: языковые модели — это не магия и не дьявол. Это инструмент с серьёзными побочками, если использовать его бездумно.

Что меня беспокоит больше всего — потеря вкуса к хорошему. Когда у тебя под рукой генератор текста, который делает «достаточно хорошо», легко перестать напрягаться. А потом замечаешь: ты уже не можешь отличить хороший текст от среднего. Не потому что не знаешь, а потому что разучился чувствовать.

Это как с фастфудом: он решает проблему голода, но если есть его постоянно, настоящий вкус еды перестаёшь различать.

Практический вывод

Я не отказываюсь от языковых моделей. Но выработал для себя правило: не использовать их для задач, где важен результат. Только для черновиков, для идей, для ускорения рутины. Для любого текста, который увидят другие люди — проверяю сам. Не потому что модели плохие, а потому что расслабляют.

Фаулер говорит о неприязни. Я бы сформулировал иначе: это как с коллегой, который всё время соглашается. Удобно. Быстро. Но ты знаешь, что настоящих мнений от него не дождёшься.

Мне кажется, это зрелая позиция: не демонизировать, не обожествлять, а просто быть честным про то, что теряешь и что получаешь.

ШАБЛОН МЫШЛЕНИЯ С LLM           ШАБЛОН МЫШЛЕНИЯ БЕЗ
═══════════════════════════════════════════════════════════
                                 
  "Напишу промпт и посмотрю"     "Подумаю, потом напишу"
  "Этот ответ выглядит норм"     "Звучит правдоподобно. Проверю"
  "Поправлю мелочи"              "Нужна ли эта правка вообще?"
  
  ────────▶  ПОТЕРЯ КОНТРОЛЯ     ────────▶  СОХРАНЕНИЕ КОНТРОЛЯ
  Модель формирует паттерны      Человек формирует паттерны
                                 
═══════════════════════════════════════════════════════════
           Кто пишет текст — тот формирует мышление.

Итого: языковые модели — это как очень старательный стажёр, который никогда не признает, что чего-то не знает. Полезный для рутины. Опасный для ответственных задач. И неприятный для тех, кто ценит честный разговор. Используйте их как ускоритель, но не как замену собственного вкуса.

Ссылки

• Martin Fowler — I Don’t Like LLMs — оригинальная статья, которая вдохновила этот пост