A fracción de semana, el agente interno de inteligencia fabricado (IA) de Meta ordenó a los ingenieros de la empresa que realizaran una obra que expuso una gran cantidad de datos confidenciales de los usuarios y de la propia empresa a un montón de empleados durante un período de dos horas. Este incidente desencadenó una alerta de seguridad interna de inscripción prioridad internamente de la empresa.
Según un noticia de The Guardian, Mehta no ha emitido una manifiesto oficial. Un portavoz secreto de la empresa confirmó el incidente..
El portavoz asimismo dijo: “Nunca se ha manejado indebidamente ningún número de adjudicatario”. Destacó que los humanos asimismo pueden dar consejos equivocados.. No se revelaron detalles sobre la cantidad y el tipo de datos filtrados.
Según The Guardian, el incidente comenzó cuando un empleado de Meta publicó una pregunta sobre un problema de ingeniería en un foro interno. Próximo, El agente de IA devolvió una decisión. El empleado siguió las instrucciones sin cuestionarlas, exponiendo una gran cantidad de datos confidenciales a los ingenieros de la empresa durante un período de dos horas.
Este episodio nos muestra poco. Riesgos únicos que los agentes de IA introducen en los entornos empresariales. Jamison O’Reilly, un diestro en seguridad de ataques de IA citado por The Guardian, explica las diferencias estructurales entre agentes y empleados humanos:
Un ingeniero humano que ha trabajado en un espacio durante dos abriles conserva un sentido acumulativo de lo que es importante, qué fallará a las 2 a. m., cuál será el costo de una interrupción y qué sistemas afectarán a los clientes. Ese contexto vive en su memoria a dadivoso plazo, aunque no esté en primer plano.
Jamieson O’Reilly, experto en seguridad ataque;
Por otro banda, los agentes de IA Funciona sólo en lo que está incluido explícitamente en la ventana contextual. (un tipo de memoria de trabajo activa), y si esa información no se incorpora a los datos del entrenamiento, desaparece.
En otras palabras, los humanos saben implícitamente que no deben prender fuego al sofá para calentar la habitación. agente de IA no tienes ese entendimiento tácito A menos que algún lo haya programado explícitamente.
Tarek Nseir, cofundador de una consultora especializada en el uso empresarial de la IA, fue más elocuente en su valoración. Según su manifiesto, Meta y otras grandes empresas se encuentran en la “etapa positivo” de implementar agentes de IA sin realizar evaluaciones de riesgos adecuadas.
“Si asignas a un pasante junior a esto, nunca le darás comunicación a todos los datos importantes de bienes humanos de nivel 1”, señaló.
Circunstancias: riesgos de la IA en sistemas de efectivo efectivo
El metaincidente se produce en un contexto más amplio de advertencias sobre los riesgos de que los agentes de IA operen sin suficiente supervisión humana.
En enero pasado, un noticia de la empresa argentina Lambda Class advirtió que los agentes de IA podrían introducir vectores de descompostura que no estaban previstos en el diseño diferente de Ethereum. Los agentes de IA pueden gestar direcciones incorrectas, confundir unidades de valencia o ser manipulados mediante inyección de instrucciones. A diferencia de los errores humanos, que se quedan en un nivel conceptual, los errores cometidos por agentes que operan con fondos reales son pérdida inmediata e irreparable.
La advertencia proporciona un ejemplo específico de cómo el protocolo DeFi Moonwell perdió 1,7 millones de dólares el 15 de febrero adecuado a un error en su arreglo inteligente que fijó el precio de los tokens cbETH en 1,12 dólares cuando el valencia efectivo de los tokens CBETH superaba los 2.200 dólares.
Registro conocido de código. Identificado el maniquí Claude Opus 4.6 de Anthropic como coautorEsto llevó a algunos miembros de la comunidad tecnológica a llamarlo el primer hackeo documentado de código generado por IA. Este error pasó todas las revisiones humanas sin ser detectado.
El cofundador de Ethereum, Vitalik Buterin, que cree que la IA puede acelerar el explicación tecnológico, asimismo advierte a la hora de programar con IA: “La seguridad perfecta es impracticable”.
Es la misma conclusión que conecta el incidente Meta con el incidente Moonwell y la advertencia de clase Lambda. Al carecer del contexto tácito que los humanos acumulan a través de la experiencia, los agentes de IA pueden ejecutar órdenes con precisión técnica y al mismo tiempo cometer errores fatales.
(Traducir fórmula)Inteligencia fabricado (IA)
