A fusão da IA e do Web3: a ascensão das finanças de inteligência artificial descentralizada e seus desafios de segurança
Recentemente, um grande evento de blockchain focado na tendência de fusão entre AI e Web3 ocorreu em Istambul, Turquia. Este evento tornou-se uma plataforma importante para a discussão sobre segurança do Web3 este ano, atraindo a participação de muitos especialistas da indústria.
Em duas mesas-redondas, vários especialistas discutiram em profundidade o estado atual e os desafios de segurança da aplicação da tecnologia de IA nas finanças descentralizadas. Entre eles, "finanças descentralizadas com inteligência artificial" (DeFAI) tornou-se a palavra-chave. Os especialistas apontaram que, com o rápido desenvolvimento de modelos de linguagem grandes e agentes de IA, um novo paradigma financeiro está gradualmente se formando. No entanto, essa transformação também trouxe uma nova superfície de ataque e riscos de segurança.
Um executivo de uma empresa de segurança afirmou: "Embora o DeFAI tenha um grande potencial, também nos exige reavaliar os mecanismos de confiança em sistemas de Descentralização. Ao contrário dos contratos inteligentes baseados em lógica fixa, o processo de decisão dos agentes de IA é influenciado pelo contexto, pelo tempo e até mesmo por interações históricas. Essa imprevisibilidade não apenas agrava os riscos, mas também cria oportunidades para os atacantes."
Os agentes de IA são essencialmente entidades inteligentes que podem tomar decisões e executar ações de forma autónoma com base na lógica da IA, normalmente autorizados a operar por um utilizador, protocolo ou DAO. O representante mais típico é o robô de negociação de IA. Atualmente, a maioria dos agentes de IA opera sobre uma arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna vulneráveis a ameaças como ataques por injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, não só podem resultar em perdas financeiras, como também podem afetar a estabilidade de todo o protocolo.
O fórum também mencionou uma situação típica de ataque: quando um agente de negociação de IA, operado por um usuário de DeFi, está monitorando mensagens nas redes sociais como sinais de negociação, um atacante pode publicar alarmes falsos, como "um determinado protocolo está sob ataque", o que pode induzir o agente a iniciar imediatamente uma liquidação de emergência. Esta operação não só resultará na perda de ativos do usuário, mas também provocará volatilidade no mercado, que poderá ser explorada pelo atacante através de negociações antecipadas.
Perante os riscos acima mencionados, os especialistas acreditam que a segurança dos agentes de IA não deve ser responsabilidade exclusiva de uma única parte, mas sim uma responsabilidade partilhada entre os utilizadores, desenvolvedores e instituições de segurança de terceiros.
Primeiro, os usuários precisam estar cientes do alcance das permissões que o agente possui, concedendo permissões com cautela e prestando atenção à revisão das operações de alto risco do agente de IA. Em segundo lugar, os desenvolvedores devem implementar medidas de defesa já na fase de design, como: reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de retrocesso, entre outros mecanismos. E as empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento do modelo do agente de IA, da infraestrutura e da forma de integração na blockchain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a tratar os agentes de IA como uma 'caixa-preta', os acidentes de segurança no mundo real são apenas uma questão de tempo." Para os desenvolvedores que estão a explorar a direção do DeFAI, ele sugeriu: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Sendo código, há a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança e testes de penetração profissionais."
Como um dos eventos de blockchain mais influentes da Europa, este evento atraiu mais de 15.000 participantes, incluindo desenvolvedores, promotores de projetos, investidores e reguladores de todo o mundo. É digno de nota que, com o lançamento formal da emissão de licenças para projetos de blockchain pela Comissão do Mercado de Capitais da Turquia, a posição da indústria deste evento foi ainda mais elevada.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
7 Curtidas
Recompensa
7
5
Repostar
Compartilhar
Comentário
0/400
ForkLibertarian
· 13h atrás
Quem ainda joga Finanças Descentralizadas? Todos estão a investir em IA agora.
Ver originalResponder0
StealthMoon
· 13h atrás
o defi sempre consegue apresentar novas novidades!
Ver originalResponder0
rekt_but_vibing
· 13h atrás
O novo bónus da pista é uma armadilha, os investidores de retalho必被割韭菜
A fusão de AI e Web3: Desafios de segurança e estratégias de defesa na ascensão do DeFAI
A fusão da IA e do Web3: a ascensão das finanças de inteligência artificial descentralizada e seus desafios de segurança
Recentemente, um grande evento de blockchain focado na tendência de fusão entre AI e Web3 ocorreu em Istambul, Turquia. Este evento tornou-se uma plataforma importante para a discussão sobre segurança do Web3 este ano, atraindo a participação de muitos especialistas da indústria.
Em duas mesas-redondas, vários especialistas discutiram em profundidade o estado atual e os desafios de segurança da aplicação da tecnologia de IA nas finanças descentralizadas. Entre eles, "finanças descentralizadas com inteligência artificial" (DeFAI) tornou-se a palavra-chave. Os especialistas apontaram que, com o rápido desenvolvimento de modelos de linguagem grandes e agentes de IA, um novo paradigma financeiro está gradualmente se formando. No entanto, essa transformação também trouxe uma nova superfície de ataque e riscos de segurança.
Um executivo de uma empresa de segurança afirmou: "Embora o DeFAI tenha um grande potencial, também nos exige reavaliar os mecanismos de confiança em sistemas de Descentralização. Ao contrário dos contratos inteligentes baseados em lógica fixa, o processo de decisão dos agentes de IA é influenciado pelo contexto, pelo tempo e até mesmo por interações históricas. Essa imprevisibilidade não apenas agrava os riscos, mas também cria oportunidades para os atacantes."
Os agentes de IA são essencialmente entidades inteligentes que podem tomar decisões e executar ações de forma autónoma com base na lógica da IA, normalmente autorizados a operar por um utilizador, protocolo ou DAO. O representante mais típico é o robô de negociação de IA. Atualmente, a maioria dos agentes de IA opera sobre uma arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna vulneráveis a ameaças como ataques por injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, não só podem resultar em perdas financeiras, como também podem afetar a estabilidade de todo o protocolo.
O fórum também mencionou uma situação típica de ataque: quando um agente de negociação de IA, operado por um usuário de DeFi, está monitorando mensagens nas redes sociais como sinais de negociação, um atacante pode publicar alarmes falsos, como "um determinado protocolo está sob ataque", o que pode induzir o agente a iniciar imediatamente uma liquidação de emergência. Esta operação não só resultará na perda de ativos do usuário, mas também provocará volatilidade no mercado, que poderá ser explorada pelo atacante através de negociações antecipadas.
Perante os riscos acima mencionados, os especialistas acreditam que a segurança dos agentes de IA não deve ser responsabilidade exclusiva de uma única parte, mas sim uma responsabilidade partilhada entre os utilizadores, desenvolvedores e instituições de segurança de terceiros.
Primeiro, os usuários precisam estar cientes do alcance das permissões que o agente possui, concedendo permissões com cautela e prestando atenção à revisão das operações de alto risco do agente de IA. Em segundo lugar, os desenvolvedores devem implementar medidas de defesa já na fase de design, como: reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de retrocesso, entre outros mecanismos. E as empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento do modelo do agente de IA, da infraestrutura e da forma de integração na blockchain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a tratar os agentes de IA como uma 'caixa-preta', os acidentes de segurança no mundo real são apenas uma questão de tempo." Para os desenvolvedores que estão a explorar a direção do DeFAI, ele sugeriu: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Sendo código, há a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança e testes de penetração profissionais."
Como um dos eventos de blockchain mais influentes da Europa, este evento atraiu mais de 15.000 participantes, incluindo desenvolvedores, promotores de projetos, investidores e reguladores de todo o mundo. É digno de nota que, com o lançamento formal da emissão de licenças para projetos de blockchain pela Comissão do Mercado de Capitais da Turquia, a posição da indústria deste evento foi ainda mais elevada.