Fusión de IA y Web3: La aparición de la financiación de inteligencia artificial descentralizada y sus desafíos de seguridad
Recientemente, se llevó a cabo un evento de blockchain en Estambul, Turquía, centrado en la tendencia de fusión entre AI y Web3. Este evento se ha convertido en una plataforma importante para la discusión sobre la seguridad de Web3 este año, atrayendo a numerosos expertos de la industria.
En dos foros de mesa redonda, varios expertos llevaron a cabo discusiones profundas sobre el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas y los desafíos de seguridad. Entre ellos, "finanzas artificiales descentralizadas" (DeFAI) se convirtió en la palabra clave. Los expertos señalaron que, con el rápido desarrollo de los modelos de lenguaje grande y los agentes de AI, una nueva paradigma financiero está tomando forma gradualmente. Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un alto ejecutivo de una empresa de seguridad declaró: "Aunque DeFAI tiene un amplio potencial, también nos exige reevaluar los mecanismos de confianza en los sistemas de Descentralización. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de toma de decisiones de los agentes de IA se ve influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo agrava el riesgo, sino que también crea oportunidades para los atacantes."
Los agentes de IA son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de forma autónoma basándose en la lógica de IA, generalmente autorizados para operar por usuarios, protocolos o DAOs. El representante más típico son los robots de trading de IA. Actualmente, la mayoría de los agentes de IA operan sobre la arquitectura Web2, dependiendo de servidores centralizados y API, lo que los hace susceptibles a amenazas como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo pueden causar pérdidas financieras, sino que también pueden afectar la estabilidad de todo el protocolo.
En el foro también se mencionó un escenario típico de ataque: cuando un agente de trading de IA utilizado por un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante puede publicar alertas falsas, como "cierto protocolo está bajo ataque", lo que podría inducir al agente a iniciar inmediatamente una liquidación de emergencia. Esta operación no solo puede resultar en la pérdida de activos para el usuario, sino que también puede provocar volatilidad en el mercado, que el atacante puede aprovechar mediante el front-running.
Frente a los riesgos mencionados, los expertos coinciden en que la seguridad de los agentes de IA no debe ser asumida únicamente por una parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros.
Primero, los usuarios deben tener claro el alcance de los permisos que posee el agente, otorgando permisos con precaución y prestando atención a la revisión de las operaciones de alto riesgo del agente de IA. En segundo lugar, los desarrolladores deben implementar medidas de defensa desde la fase de diseño, tales como: refuerzo de palabras clave, aislamiento en sandbox, limitación de velocidad y lógica de retroceso, entre otros mecanismos. Por último, las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, su infraestructura y su forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, sugirió: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se requiere una auditoría de seguridad profesional y pruebas de penetración."
Como uno de los eventos de blockchain más influyentes de Europa, esta actividad ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Cabe destacar que, con el lanzamiento oficial de la emisión de licencias para proyectos de blockchain por parte de la Comisión del Mercado de Capitales de Turquía, la posición de la industria de este evento se ha visto aún más fortalecida.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
7 me gusta
Recompensa
7
5
Republicar
Compartir
Comentar
0/400
ForkLibertarian
· hace18h
¿Quién todavía juega a las Finanzas descentralizadas? Todos están especulando con la IA.
Ver originalesResponder0
StealthMoon
· hace18h
defi siempre puede jugar con cosas nuevas
Ver originalesResponder0
rekt_but_vibing
· hace18h
La nueva bonificación de la pista es una trampa, los inversores minoristas必被割韭菜.
Fusión de IA y Web3: Desafíos de seguridad y estrategias de defensa ante el auge de DeFAI
Fusión de IA y Web3: La aparición de la financiación de inteligencia artificial descentralizada y sus desafíos de seguridad
Recientemente, se llevó a cabo un evento de blockchain en Estambul, Turquía, centrado en la tendencia de fusión entre AI y Web3. Este evento se ha convertido en una plataforma importante para la discusión sobre la seguridad de Web3 este año, atrayendo a numerosos expertos de la industria.
En dos foros de mesa redonda, varios expertos llevaron a cabo discusiones profundas sobre el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas y los desafíos de seguridad. Entre ellos, "finanzas artificiales descentralizadas" (DeFAI) se convirtió en la palabra clave. Los expertos señalaron que, con el rápido desarrollo de los modelos de lenguaje grande y los agentes de AI, una nueva paradigma financiero está tomando forma gradualmente. Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un alto ejecutivo de una empresa de seguridad declaró: "Aunque DeFAI tiene un amplio potencial, también nos exige reevaluar los mecanismos de confianza en los sistemas de Descentralización. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de toma de decisiones de los agentes de IA se ve influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo agrava el riesgo, sino que también crea oportunidades para los atacantes."
Los agentes de IA son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de forma autónoma basándose en la lógica de IA, generalmente autorizados para operar por usuarios, protocolos o DAOs. El representante más típico son los robots de trading de IA. Actualmente, la mayoría de los agentes de IA operan sobre la arquitectura Web2, dependiendo de servidores centralizados y API, lo que los hace susceptibles a amenazas como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo pueden causar pérdidas financieras, sino que también pueden afectar la estabilidad de todo el protocolo.
En el foro también se mencionó un escenario típico de ataque: cuando un agente de trading de IA utilizado por un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante puede publicar alertas falsas, como "cierto protocolo está bajo ataque", lo que podría inducir al agente a iniciar inmediatamente una liquidación de emergencia. Esta operación no solo puede resultar en la pérdida de activos para el usuario, sino que también puede provocar volatilidad en el mercado, que el atacante puede aprovechar mediante el front-running.
Frente a los riesgos mencionados, los expertos coinciden en que la seguridad de los agentes de IA no debe ser asumida únicamente por una parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros.
Primero, los usuarios deben tener claro el alcance de los permisos que posee el agente, otorgando permisos con precaución y prestando atención a la revisión de las operaciones de alto riesgo del agente de IA. En segundo lugar, los desarrolladores deben implementar medidas de defensa desde la fase de diseño, tales como: refuerzo de palabras clave, aislamiento en sandbox, limitación de velocidad y lógica de retroceso, entre otros mecanismos. Por último, las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, su infraestructura y su forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, sugirió: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se requiere una auditoría de seguridad profesional y pruebas de penetración."
Como uno de los eventos de blockchain más influyentes de Europa, esta actividad ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Cabe destacar que, con el lanzamiento oficial de la emisión de licencias para proyectos de blockchain por parte de la Comisión del Mercado de Capitales de Turquía, la posición de la industria de este evento se ha visto aún más fortalecida.