Назад
Кибербезопасность и конфиденциальность

Ваш ИИ-помощник только что прочитал ваши API-ключи. Я создал локальную проверку, чтобы они не попали в модель.

Dev.to
Advertisement468 × 90
Ваш ИИ-помощник только что прочитал ваши API-ключи. Я создал локальную проверку, чтобы они не попали в модель.

Разработчик представил решение для обеспечения безопасности, предотвращающее случайную утечку конфиденциальных данных, таких как API-ключи и пароли, при использовании ИИ-агентов для написания кода. Когда агенты считывают локальные файлы, они часто передают их содержимое облачным провайдерам, таким как OpenAI или Anthropic. Чтобы предотвратить это, автор создал плагин для Torana — open-source локального прокси-сервера. Плагин использует небольшую локальную ИИ-модель для сканирования вывода инструментов перед отправкой данных в облако. Если обнаруживается конфиденциальная информация, плагин заменяет её предупреждением, гарантируя, что исходные данные остаются на компьютере пользователя. Автор протестировал различные локальные модели и выяснил, что такие модели, как Qwen2.5 3B, эффективно справляются с обнаружением секретов. Этот инструмент обеспечивает дополнительный уровень конфиденциальности для инженеров, использующих ИИ в своей работе, подчеркивая важность локального контроля при взаимодействии с нейросетями.

This is a summary. Read the full article at the original source:

Dev.to
Advertisement468 × 90
Share
Кибербезопасность и конфиденциальность

Похожие

Недавний отчет BioCatch подчеркивает значительный сдвиг в сфере финансовых преступлений, показывая, что 90% всех попыток банковского мошенничества теп…

TechRadar
Advertisement970 × 250