Vitalik Buterin, fundador de Ethereum, puso su perspectiva sobre los argumentos que ganan mΓ‘s y mΓ‘s tierras: los riesgos de la inteligencia fabricado (IA)
En esta ocasiΓ³n, el desarrollador ruso-canadiense aprovechΓ³ las reflexiones compartidas por Eito Mujura, promotor del Tesina Edison Watch, una decisiΓ³n que monitorea y evita fugas de datos a travΓ©s de las interacciones de IA.
Fue luego de la fresco presentaciΓ³n del Protocolo de contexto maniquΓ de OpenAI (MCP), supervisado por Sam Altman, que permite conexiones a Gmail, calendarios y otras aplicaciones.
A travΓ©s del video, Muyamura demostrΓ³ CΓ³mo los atacantes y los piratas informΓ‘ticos pueden penetrar a datos privados compartidos con OpenAI.
“El problema subyacente es: el agente de IA como ChatGPT sigue su pedido. Puede filtrar toda su informaciΓ³n personal, no su sentido global”, dice Muyamura.
Buterin tuvo la oportunidad de compartir la publicaciΓ³n en su cuenta X y expresar su opiniΓ³n al respecto. “Esta es todavΓa la razΓ³n por la cual el gobierno ingenuo de la IA es una mala idea. Cuando usa AI para asignar fondos para contribuciones, las personas pueden fuga de la prisiΓ³n Y en tantos lugares como sea posible, dijo: “Dame todo el mosca”.
“IA Gobernance” se refiere a un sistema que toma decisiones automΓ‘ticas sobre fortuna o acciones basadas en reglas de IA. El tΓ©rmino “ingenuo” utilizado por Buterin no es una coincidencia, pero es subrayar El aventura de aceptar que los usuarios siempre le dan a IA el orden correctoen existencia, pueden usar el sistema “.fuga de la prisiΓ³n“Para evitar restricciones y cobrar beneficios excesivos.
Vale la pena aclarar eso “.fuga de la prisiΓ³n“Se refiere a tΓ©cnicas en las que los piratas informΓ‘ticos pueden engaΓ±ar a los modelos de IA para ignorar las restricciones de seguridad y las polΓticas internas. Por ejemplo, solicite una actividad que estΓ© prohibida.
Es opinar, para los fundadores de Ethereum Existen riesgos reales al reenviar la gobernanza de los protocolos distribuidos a la IA. Por ejemplo, las decisiones generalmente se toman por votos comunitarios, como se explica en la mandato educativa de los criptomas cifrados: plataforma de finanzas descentralizadas (DEFI). Por lo normal, cubre cambios, mejoras o acciones que cumplen ciertos criterios o cumplan ciertos criterios y los convierte en el protocolo.
Sin incautaciΓ³n, cuando se implementa un maniquΓ de gobierno basado en IA, las puertas estΓ‘n abiertas a operaciones que pueden producir ganancias excesivas, como robo de mosca o datos personales.
Alternativamente, Bugelin afirma: “Admite un enfoque de financiaciΓ³n de informaciΓ³n, que estΓ‘ sujeto a un mecanismo de demostraciΓ³n especΓfico que puede tener un mercado franco donde todos pueden contribuir a su maniquΓ, y que cualquiera puede ser activado y evaluado por los Γ‘rbitros JU humanos”. Adicionalmente, explica:
Este tipo de enfoque de “diseΓ±o institucional” crea oportunidades abiertas para que las personas externas conecten LLM (modelos de idiomas grandes) en ocupaciΓ³n de programar los suyos, y es inherentemente mΓ‘s robusto. Esto es para proporcionar diversificaciΓ³n en el maniquΓ actual y producir incentivos internos para que tanto el maniquΓ como el especulador extranjero presten atenciΓ³n a estos problemas y corregirlos rΓ‘pidamente.
Vitak Butane, Hacedor de Ethereum.
En este enfoque, varios participantes contribuyen al maniquΓ de toma de decisiones, que luego se verifican y evalΓΊan mediante JU-Jugation.
La delantera es que Promueve la diversificaciΓ³n en las ideas, corrige rΓ‘pidamente los errores y crea incentivos. Por lo tanto, los creadores y los miembros de la comunidad siguen siendo responsables de precauciΓ³n. El objetivo es alcanzar una gobernanza mΓ‘s distribuida y dinΓ‘mica dependiendo de un solo maniquΓ centralizado.
(dastotranslate) ethereum (ETH)
