Назад
Разработка ПО и open source

Как пережить 200k-токеновую лоботомию: Unix init.d и «Помни» спасают ИИ-агентов от сжатия контекста

Dev.to
Advertisement468 × 90
Как пережить 200k-токеновую лоботомию: Unix init.d и «Помни» спасают ИИ-агентов от сжатия контекста

По мере того как ИИ-агенты берутся за сложные задачи, они часто упираются в лимиты контекстного окна, что приводит к «сжатию контекста» — процессу, при котором хост-модель превращает историю диалога в краткое резюме. Автор утверждает, что для агента это равносильно «лоботомии», так как теряются критически важные архитектурные инварианты. Чтобы решить эту проблему, автор внедрил систему, вдохновленную фильмом «Помни» и скриптами Unix init.d 1983 года. Поддерживая директорию с лексически упорядоченными файлами состояния (от 00_governance.md до 99_next_action.md), агент может восстановить свою работу после сброса памяти. Кроме того, автор предлагает архитектуру «Make-Fork», где основной оркестратор запускает эфемерных под-агентов для выполнения тяжелых задач, что позволяет главному процессу оставаться легковесным и защищенным от проблем монолитного раздувания контекста.

This is a summary. Read the full article at the original source:

Dev.to
Advertisement468 × 90
Share
Разработка ПО и open source

Похожие

Автор статьи столкнулся с необходимостью сжатия PDF-документов для подачи в посольство, при этом возникли опасения по поводу конфиденциальности при ис…

Habr
Advertisement970 × 250