ШІ-агенти купують за вас: шість банків назвали ризики для гаманця

Йдеться про агентну торгівлю — модель, у якій ШІ-агент самостійно підбирає товари та оплачує їх замість користувача. У звіті банківської групи зазначено: що більше самостійності отримують такі системи, то вищі ризики для прозорості, безпеки, приватності, вибору товарів і сумісності платформ.

Ключова проблема — втрата контролю над рішенням. Користувач може не розуміти, чому агент обрав саме цей товар чи спосіб оплати. Наслідки бувають фінансовими: помилка в розрахунках, витрати понад запланований бюджет або використання агента шахраями.

Окремий ризик — конфлікт інтересів. У звіті вказано, що ШІ-агенти потенційно можуть надавати перевагу певним товарам чи платіжним сервісам через комісії або дешевшу обробку запитів, а не через вигоду для покупця.

Банки також звертають увагу на доступ до даних. Агенти можуть отримувати платіжну інформацію, облікові записи та інші конфіденційні дані покупців і продавців. Якщо систему зламають, зловмисники скористаються дозволами, які користувач видав агенту.

Ілюстрацією цього стала вразливість у ШІ-асистенті Meta Muse, яку компанія нещодавно виявила й усунула. За певних умов вона могла дати зловмиснику контроль над асистентом і доступ до наданих ним дозволів.

Попри перелік ризиків, банки не відмовляються від технології. У звіті зазначено, що агентна торгівля має шанс стати звичним способом покупок — але за умови чітких стандартів, правил і механізмів захисту споживачів.

Група сформулювала п'ять принципів розвитку напряму: прозорість, безпека, захист приватності та даних, можливість вибору і сумісність різних систем. Нині учасники консорціуму готують документ із детальним описом того, як ці принципи застосовувати на практиці.

Що це означає для грошей читача. Якщо ви вже користуєтеся ШІ-асистентом для онлайн-покупок, обмежте його дозволи: не давайте доступу до основної картки, встановіть ліміти на операції та перевіряйте підсумкову суму перед підтвердженням. Відсутність єдиних стандартів означає, що відповідальність за помилку агента наразі лежить на користувачі, а не на сервісі чи банку.