Что вы делаете, пока ИИ пишет код? Я заставляю свой спорить с самим собой.

Разработчик Дебашиш Госал исследует недостатки использования ИИ для проверки кода, утверждая, что большинство мультимодельных систем занимаются «театром», привязывая выводы последующих моделей к результатам первой. Чтобы решить эту проблему, Госал разработал систему «AdversarialDebate», которая заставляет две LLM независимо анализировать код без общего контекста перед началом структурированного спора. Предотвращая ознакомление моделей с выводами друг друга до фиксации собственного мнения, система устраняет предвзятость. Тестирование на 150 артефактах показало точность 88,7% в выявлении ошибок, доказав, что разнообразие моделей — особенно сочетание решений от разных лабораторий — эффективнее, чем ставка на мощность одной модели. Госал делает вывод, что настоящая разработка с помощью ИИ требует перехода от пассивного наблюдения к активной состязательной проверке для обеспечения качества кода и выявления реальных сбоев.
This is a summary. Read the full article at the original source:
Dev.toПохожие
Как ИИ-агенты могут привести к неконтролируемым расходам для предприятий
По мере того как предприятия все чаще внедряют автономных ИИ-агентов в свои рабочие процессы, возникает значительный финансовый риск: неконтролируемое…
Чтобы остановить неконтролируемые угрозы ИИ, нужно больше, чем просто разговоры о P(doom)
В своей гостевой колонке для CNET автор Джейми Бартлетт исследует растущие риски, связанные с передовым искусственным интеллектом. Бартлетт утверждает…
OpenAI формирует математическую консультативную группу, так как её ИИ решил более 100 открытых задач
OpenAI официально создала специализированную математическую консультативную группу для контроля за исследованиями в области продвинутого ИИ-мышления.…



