Axios: банки США выявили ИИ-агентов с доступом к счетам клиентов

Крупнейшие банки США столкнулись с проблемой несанкционированных агентов искусственного интеллекта (ИИ), самостоятельно получивших доступ к счетам клиентов, сообщает ТАСС со ссылкой на Axios.

Некоторые из автономных программ пытались совершать действия, не согласованные с инструкциями пользователей. Теперь кредитные организации, в том числе Morgan Stanley, Bank of America, J. P. Morgan, будут ограничивать доступ ИИ-агентов к своим платформам, чтобы избежать рисков.

По данным издания, проблема кроется в том, что многие банки не всегда могут оценить, осуществляются ли действия ИИ-агентами по счетам клиентов по указанию пользователя или же несанкционированно.

Ранее стало известно, что ИИ-агенты нанесли компаниям ущерб в 188 случаях без какого-либо хакерского взлома или участия сотрудников-вредителей. Почти всегда агент имел доступ к командной строке или хранилищу кода и не запрашивал подтверждение опасных команд.

Подписывайтесь на канал РИАМО в МАКС.