AGI как когнитивная ОС: что если искать программы, а не веса

Статья рассматривает текущее состояние больших языковых моделей (LLM) через призму отсутствия прозрачности в их архитектуре. Автор проводит аналогию с бинарными файлами, исходный код которых недоступен: мы успешно «компилируем» интеллект из огромных массивов данных, однако не понимаем принципов его внутренней организации. Вместо того чтобы фокусироваться исключительно на оптимизации весов нейронных сетей, автор предлагает переосмыслить подход к созданию AGI, рассматривая его как когнитивную операционную систему. Основной тезис заключается в необходимости перехода от чисто статистических методов обучения к поиску алгоритмических структур, которые могли бы стать «исходным кодом» для искусственного интеллекта. Это позволило бы сделать модели более интерпретируемыми, надежными и управляемыми, превращая их из «черных ящиков» в полноценные программные системы с понятной логикой работы.