AI отвечает шаблонно — как прожать?

[student_KTU]

Кто-нибудь заметил, что AI стал выдавать один и тот же стиль, похожие формулировки и в итоге все тексты словно с копипасты? У меня пару проектов, где боты пишут статейки и посты, и это реально тормозит прогресс — нет живости, всё скучно. Причин тут может быть несколько: слишком узкая настройка промптов, мало разброса в исходных данных или модель просто начинает «залипать» в привычных паттернах.

Чтобы проверить, попробуйте менять входные параметры — разные ключевые слова, чуть более свободный формат запроса. Иногда помогает снизить температуру генерации (если можно менять), чтобы текст стал чуть менее однородным. Ещё совет — накидать побольше примеров в обучающую базу, чтобы модель не цеплялась к шаблонам. В коде, если есть, посмотрите, нет ли постпроцессинга, который мог бы упростить и выравнивать стиль (автозамена, фильтры).

Пару раз сталкивался с ситуацией, когда AI слишком «застревал» на одинаковых выражениях, и пока не выключишь однотипные шаблоны из тренировочного набора — не сдвинуться. Ещё эксперименты с разными моделями — иногда переключение на другой движок удивительно помогает убрать однообразие.

У кого как, есть похожие загоны? Как боретесь с тем, что AI начинает писать будто по шаблону?

[giantcat]

Термин который ты ищешь - mode collapse. Кратко, одно и то же на входе = одно и то же на выходе. Температура и примеры тебе абсолютно ничем не помогут, это можно пофиксить только на этапе обучения. Рандомизируй промпт, но сначала разберись в причинах этого явления, всем маминым промпт-агентик-инженерам подобные основы стоит понимать чтобы не изобретать вечный двигатель не зная закона сохранения энергии.

Если у тебя куча мусора в контексте уже есть, сетка ещё может лупиться, такое тоже бывает.