Los avances en inteligencia fabricado (IA) están transformando el progreso de software. Un mensaje de la empresa argentina Lambda Class señala que este cambio crea oportunidades y riesgos para el ecosistema de las criptomonedas, especialmente cuando los sistemas automatizados interactúan directamente con peculio efectivo sin intervención humana continua.
En un documento publicado el 23 de enero, la empresa se centra en desarrollar herramientas para Ethereum y propone el uso de agentes de IA para manipular la criptomoneda. Introduciendo nuevos vectores de fallos de seguridad.. Son factores que no fueron considerados en el diseño llamativo de la infraestructura.
Según el mensaje, la ingreso de agentes de IA (programas que pueden tomar decisiones y realizar acciones de forma autónoma) cambia los supuestos secreto que forman parte del diseño de Ethereum. Esto se debe a que su infraestructura financiera de propósito caudillo se podio en: Las operaciones son iniciadas y comprendidas por humanos.
Por lo tanto, cuando un sistema de IA interactúa directamente con una red y firma transacciones sin revisión humana previa, los errores ya no son conceptuales, sino más aceptablemente provocando pérdidas económicas inmediatas e irreparables..
El observación del equipo de la clase Lambda tiene distinto relevancia dadas las circunstancias del 29 de enero. El unificado ERC-8004 se ha implementado en la red principal de Ethereum. Según informó CriptoNoticias, este unificado proporciona a Ethereum precisamente el sistema que los agentes de IA pueden ejecutar. Conectarse, validarse y evaluarse mutuamente automáticamente A través de contratos inteligentes.
¿Qué sucederá cuando la IA reemplace a los operadores humanos?
Según el mensaje Lambda Class, la biblioteca, un conjunto de herramientas de software que los desarrolladores utilizan para interactuar con Ethereum y dirigir transacciones, Está diseñado para humanos, no para sistemas autónomos.
Herramientas como ethers.js y web3.js suponen que determinado comprende la firma antaño de aprobar una transacción. Como se mencionó anteriormente, este maniquí puede decidir si el cámara es una IA.
- agente Posibilidad de desvariar la dirección.Esto significa que se generará una dirección válida pero incorrecta.
- poder confundir unidades. Por ejemplo, “envíe 100 como 100 Ether en ocupación de $100”.
- Asimismo, manipulado La inyección de instrucciones es una técnica que introduce comandos maliciosos en los datos que se procesan.
Es poco probable que cada uno de estos errores ocurra por sí solo. Sin retención, el mensaje advierte que estos fallos pueden ocurrir cuando se ejecutan millones de operaciones automatizadas. se vuelven inevitables.
Ethereum no tiene bancos que reviertan operaciones. Una vez confirmada la transacción, los fondos se pierden para siempre (A excepción del popular hack DAO).
Lambda Class enfatiza que no se negociación de “mejorar la IA”. Tolerar sistemas imperfectos genera aventura actuar directamente Sobre una infraestructura financiera irreparable. Cuando poco falta, el sistema devuelve mensajes técnicos que la IA no puede interpretar de forma segura.
El mensaje describe este círculo como Un androide conduce un camión sin frenado forzoso: El problema no son las intenciones del agente, sino la desliz de barreras para detenerlo cuando poco sale mal.
Limitaciones como capa de defensa.
Para encarar este problema, el equipo de Lambda Class cree que la forma de disminuir el aventura no es hacer que la IA sea “más inteligente”; Establecer límites estructurales.
Para ello, desarrolló un kit de progreso llamado eth-agent. Introducir restricciones obligatorias Realizar transacciones en cada billetera. Por ejemplo, límites de consumición por transacción, por hora y por día. De esta forma, si el agente intenta aventajar estos límites, la operación fallará automáticamenteno hay posibilidad de esparcimiento.
El sistema igualmente devuelve errores claros y estructurados. En ocupación de mensajes técnicos que son difíciles de interpretar, se le indicará qué reglas se infringieron y cuándo es seguro retornar a intentarlo.
Adicionalmente, para transacciones sensibles (como grandes cantidades o nuevos destinatarios) requiere aprobación humana antaño de realizar el pedido.
Hay formas de evitar los riesgos de la IA
Como parte de sus predicciones, el estudio advierte que los agentes autónomos operan principalmente a través de los siguientes medios: moneda establepara evitar errores provocados por las fluctuaciones de precios.
Asimismo recomendamos incorporar cuentas inteligentes basadas en el unificado ERC-4337. Delegar autoridad de forma limitada y controlada..
Las ideas centrales de estas propuestas son similares a las de los sistemas operativos. La aplicación puede decidir, pero el núcleo imponer reglas para evitar mayores daños. En las finanzas descentralizadas, incluso si la IA comete un error, se debe proteger su “núcleo”.
El mensaje concluye que, si aceptablemente los agentes de IA seguirán mejorando, nunca serán perfectos. En un sistema financiero sin recuperación de errores, encomendar en su corrección es insuficiente.
(Traducción de etiquetas)Blockchain
