AI Blindspots

Memento

В фильме «Мементо» главный герой не может формировать новые воспоминания и вынужден использовать сложную систему записок, чтобы вспомнить, что делал раньше, и раскрыть, кто убил его жену.

Как и у героя Мементо, у LLM'ки, с которой ты работаешь, нет памяти. Каждый раз, когда просишь выполнить задачу, она должна восстановить достаточно контекста, чтобы понять, что делать. Это промпт (например, Cursor rules для проекта), контекст, который явно/неявно подцепился, и все, что модель решает спросить в agent mode. И все! Твоя модель — это speed learner, который разбирается в кодовой базе с нуля каждый раз, когда начинаешь новый чат.

«Чудо не в том, что медведь хорошо танцует, а в том, что медведь вообще танцует». Невероятно, что LLM'ка может заново понимать кодовую базу с чистого листа на каждый запрос. Но это хрупкая штука — если модель не получит правильные файлы в контекст, она может быстро начать сносить крышу, выдумав неправильное представление о том, что ты пытаешься сделать.

Помоги модели делать все правильно: убедись, что есть документация, на которую она может сослаться, и что модель может ее найти (через промпт или просто положив туда, где модель ее ожидает). Избегай просить о серьезных изменениях (где отклонение от реальной цели может навредить), не объяснив контекст — как это должно вписываться в проект в целом.

Примеры