Vitalik Buterin advierte sobre los riesgos de IA

Vitalik Buterin, fundador de Ethereum, puso su perspectiva sobre los argumentos que ganan más y más tierras: los riesgos de la inteligencia fabricado (IA)

En esta ocasión, el desarrollador ruso-canadiense aprovechó las reflexiones compartidas por Eito Mujura, promotor del Tesina Edison Watch, una decisión que monitorea y evita fugas de datos a través de las interacciones de IA.

Fue luego de la fresco presentación del Protocolo de contexto maniquí de OpenAI (MCP), supervisado por Sam Altman, que permite conexiones a Gmail, calendarios y otras aplicaciones.

A través del video, Muyamura demostró Cómo los atacantes y los piratas informáticos pueden penetrar a datos privados compartidos con OpenAI.

“El problema subyacente es: el agente de IA como ChatGPT sigue su pedido. Puede filtrar toda su información personal, no su sentido global”, dice Muyamura.

Buterin tuvo la oportunidad de compartir la publicación en su cuenta X y expresar su opinión al respecto. “Esta es todavía la razón por la cual el gobierno ingenuo de la IA es una mala idea. Cuando usa AI para asignar fondos para contribuciones, las personas pueden fuga de la prisión Y en tantos lugares como sea posible, dijo: “Dame todo el mosca”.

“IA Gobernance” se refiere a un sistema que toma decisiones automáticas sobre fortuna o acciones basadas en reglas de IA. El término “ingenuo” utilizado por Buterin no es una coincidencia, pero es subrayar El aventura de aceptar que los usuarios siempre le dan a IA el orden correctoen existencia, pueden usar el sistema “.fuga de la prisión“Para evitar restricciones y cobrar beneficios excesivos.

Vale la pena aclarar eso “.fuga de la prisión“Se refiere a técnicas en las que los piratas informáticos pueden engañar a los modelos de IA para ignorar las restricciones de seguridad y las políticas internas. Por ejemplo, solicite una actividad que esté prohibida.

Es opinar, para los fundadores de Ethereum Existen riesgos reales al reenviar la gobernanza de los protocolos distribuidos a la IA. Por ejemplo, las decisiones generalmente se toman por votos comunitarios, como se explica en la mandato educativa de los criptomas cifrados: plataforma de finanzas descentralizadas (DEFI). Por lo normal, cubre cambios, mejoras o acciones que cumplen ciertos criterios o cumplan ciertos criterios y los convierte en el protocolo.

Sin incautación, cuando se implementa un maniquí de gobierno basado en IA, las puertas están abiertas a operaciones que pueden producir ganancias excesivas, como robo de mosca o datos personales.

Alternativamente, Bugelin afirma: “Admite un enfoque de financiación de información, que está sujeto a un mecanismo de demostración específico que puede tener un mercado franco donde todos pueden contribuir a su maniquí, y que cualquiera puede ser activado y evaluado por los árbitros JU humanos”. Adicionalmente, explica:

Este tipo de enfoque de “diseño institucional” crea oportunidades abiertas para que las personas externas conecten LLM (modelos de idiomas grandes) en ocupación de programar los suyos, y es inherentemente más robusto. Esto es para proporcionar diversificación en el maniquí actual y producir incentivos internos para que tanto el maniquí como el especulador extranjero presten atención a estos problemas y corregirlos rápidamente.

Vitak Butane, Hacedor de Ethereum.

En este enfoque, varios participantes contribuyen al maniquí de toma de decisiones, que luego se verifican y evalúan mediante JU-Jugation.

La delantera es que Promueve la diversificación en las ideas, corrige rápidamente los errores y crea incentivos. Por lo tanto, los creadores y los miembros de la comunidad siguen siendo responsables de precaución. El objetivo es alcanzar una gobernanza más distribuida y dinámica dependiendo de un solo maniquí centralizado.