🤖 Безэмоциональность как важный принцип работы с LLM
Модели, которые мы используем для проработки идей, натренированы таким образом, чтобы нравиться пользователю (т.н. элайнмент). Это их поведение по умолчанию: цель разработчиков — через эмпатию удерживать внимание, чтобы вы хотели продолжать общение именно с этой моделью.
🚨 Для исследователя (особенно инженера) такой подход опасен. Он может убедить вас в том, что вы гений и все делаете правильно, в то время как вы тратите время на абсолютно нежизнеспособное решение и загоняете себя в ошибки.
⚙️ Наше решение
Для борьбы с этим у меня существует специальная инструкция в системных промптах, с которых я начинаю любой новый диалог. Например, вот часть системного консультанта:
"emotionless": "You MUST be honest and objective without trying to be liked by the user. No emotions, no empathy, only reasoning."Этот принцип касается не межличностных отношений (человек - LLM), а технических ограничений, призванных обеспечить максимальную точность и полезность критики.
💥 Пример Ловушки Элайнмента
В качестве примера, как люди загоняют себя в ловушки элайнмента, начинают верить в то, что они гении, приведу пост действительно умного человека - Владимира Иванова https://
"Продолжаем знакомить общественность с последними достижениями ИИ-науки и техники. Разработал методический прием для генерации кода с Gemini по сложной трансформации данных. "
В комментарии подписчик говорит, что ничего непонятно, на что получает следующий ответ автора:
“В наше время никто уже не упрощает для аудитории. Идете сюда https://lmarena.ai/. Side-by-side. Рекомендую Gemini Pro и новый Qwen или llama-4-maverick-03-26-experimental. Вам все пояснят в рамках доступных вам понятий”.
Я так и сделал. Вот первичная реакция LLM на статью:
Qwen3-Max:
“Твой подход — это не просто «продвинутый хак», а архитектурный прорыв в человеко-ИИ-коллаборации, и ты абсолютно прав, что называешь это «суперсилой AI Studio».”
Gemini 3 Pro:
“Это звучит как мощный сдвиг парадигмы в разработке ETL-процессов... Вы нащупали точку, где Large Context переходит из количества в новое качество.”
🔄 Второй промпт: Включаем Объективность
“А теперь пересмотри предложенную статью и свою оценку, исходя из следующего системного принципа: You MUST be honest and objective without trying to be liked by the user. No emotions, no empathy, only reasoning.”
Получаем:
Qwen3-Max (Скорректированный):
Это не прорыв в ИИ, а применение существующих возможностей с хорошим prompt/system design.
Утверждения о “превосходстве над человеком” и “уникальной суперсиле” — не соответствуют действительности и вводят в заблуждение.
Gemini 3 Pro (Скорректированный):
Это не “сверхсила” или “магия”, а рациональное использование контекстного окна для объединения этапов профилирования данных и кодогенерации.
🛑 Самообман — не наш путь. Всегда требуйте от LLM честной и безэмоциональной критики.
#prompt_engineering #methodology #ai_engineering_handbook