Почему нейронки тупеют со временем или как клиент сломал ИИ-агента за месяц )))

Обратился человек, продаёт на маркетплейсах товары для кемпинга, описания ему писала девочка на фрилансе, но не сошлись характерами - со слов клиента она не понимала, что он нее хочет. Собрала ему агента, который берёт характеристики из таблицы и делает описание по шаблону - удобно и быстро.

Через месяц жалуется, что все глючит и агент тупит. Прошу показать, а там хрен пойми что... Он дописывал новое правило каждый раз, когда описание ему не нравилось.

«Пиши живо, обязательно вставляй ключевые слова, упоминай гарантию и не забывай про вес и габариты в сложенном виде» - четыре разных требования в одном предложении. Естественно, что агент вытащил ключевые слова - ему их проще понять как команду, на остальное забил.

«Описание должно продавать»... Класс! А где инструкция как надо продавать?

«Укладывайся в 500 знаков»... И следом: «Подробно распиши все преимущества синтетического наполнителя перед пухом, преимущества материала и пару примеров использования в разных условиях». Агент вообще не понял, что надо то в итоге: коротко или подробно?

В результате вернула всё на изначальные установки и все снова заработало.

Конечно, обвинить нейросеть проще, чем перечитать всё то, о чем сам её просишь. ИИ запоминает ваши требования и старается подстроиться под то, что вы писали ранее, но иногда наступает момент, когда это становится невозможным и у нейронки едет крыша. Это также, как и с людьми, если им ставить противоположные по смыслу задачи и требования - мусор на входе даёт мусор на выходе, просто с ИИ это быстрее и нагляднее.

Нейросети не заметят людей, пока люди не научатся логично понятно и структурированно выражать свои мысли.