Слияние AI и Web3: Безопасностные вызовы, возникающие с появлением DeFAI

Недавно на проведенной в Стамбуле неделе блокчейна слияние ИИ и Web3 стало热门话题. Множество экспертов из компаний по безопасности и блокчейн-проектов провели глубокую дискуссию о текущем состоянии применения технологий ИИ в области децентрализованных финансов (DeFi) и связанных с этим вызовах безопасности.

С быстрым развитием крупных языковых моделей и AI-агентов формируется новая финансовая модель, известная как "DeFAI" (децентрализованный искусственный интеллект в финансах). Однако эта инновация также приносит новые проблемы безопасности и потенциальные риски.

Эксперты отмечают, что в отличие от традиционных смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов может зависеть от множества факторов, таких как контекст, время и даже исторические взаимодействия. Эта непредсказуемость не только увеличивает риски системы, но и предоставляет потенциальным злоумышленникам возможность для атаки.

AI-агенты по сути являются интеллектуальными системами, способными самостоятельно принимать решения и выполнять действия на основе логики ИИ, обычно действующими по поручению пользователей, протоколов или децентрализованных автономных организаций (DAO). В настоящее время торговые роботы на основе ИИ являются наиболее典型ным представителем. Большинство AI-агентов все еще работают на архитектуре Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для различных атак, таких как инъекционные атаки, манипуляции моделями или подделка данных. Если они будут захвачены злоумышленниками, это может привести не только к потерям средств, но и к влиянию на стабильность всего протокола.

Эксперты также обсудили типичный сценарий атаки: когда AI-торговый агент, работающий у пользователей DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, злоумышленник может опубликовать ложное предупреждение, например, заявив, что протокол подвергся атаке. Это может подвергнуть AI-агента к немедленному запуску экстренных операций по ликвидации, что не только приведет к потере активов пользователей, но и может вызвать рыночные колебания, которые злоумышленники могут использовать с помощью методов, таких как фронт-раннинг.

По мнению экспертов, присутствовавших на встрече, безопасность ИИ-агентов не должна зависеть от одной стороны, а требует совместных усилий пользователей, разработчиков и сторонних организаций по обеспечению безопасности.

Для пользователей важно четко понимать диапазон полномочий, которыми обладает агент, осторожно предоставлять права и внимательно следить за высокорисковыми операциями AI-агента. Разработчики должны внедрять меры безопасности на этапе проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и механизмы отката. Третьи стороны по безопасности должны предоставить независимую проверку поведения модели AI-агента, инфраструктуры и способов интеграции в блокчейн, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.

Эксперты предупреждают, что если продолжать рассматривать AI-агентов как "черный ящик", инциденты безопасности в реальном мире — это лишь вопрос времени. Для разработчиков, которые исследуют направление DeFAI, рекомендуется осознать, что логика поведения AI-агентов также реализована кодом, поэтому существует вероятность их атаки, и необходимо проводить профессиональные проверки безопасности и тестирование на проникновение.

С развитием и применением технологий блокчейн, связанные с ними проблемы безопасности также становятся все более актуальными. Данное мероприятие «Неделя блокчейн» привлекло множество разработчиков, представителей проектов, инвесторов и регуляторов со всего мира для совместного обсуждения направлений будущего развития отрасли и стратегий реагирования.