Туристы спасены после использования Google Gemini для планирования похода

Группе туристов потребовалась помощь спасателей после того, как они доверились Google Gemini при планировании своего маршрута. По данным офиса шерифа, чат-бот с искусственным интеллектом дал неверные рекомендации, посоветовав взять с собой значительно меньше еды и воды, чем требовалось для похода. Этот инцидент подчеркивает растущие риски, связанные с использованием генеративного ИИ при принятии критически важных решений в реальных условиях. Хотя большие языковые модели все чаще применяются для планирования путешествий, данный случай служит суровым напоминанием о возможности «галлюцинаций» или ошибочных рассуждений ИИ в вопросах безопасности. Google пока не выпустила официального заявления по поводу этого сбоя, однако происшествие вызвало новые дискуссии об ограничениях ИИ в вопросах безопасности на открытом воздухе и важности проверки данных человеком при использовании автоматизированных инструментов для планирования в ответственных ситуациях.