Vitalik Buterin advierte contra la "gobernanza ingenua de la IA" y promueve esta alternativa impulsada por el mercado
El creador de Ethereum (ETH), Vitalik Buterin, expresa cierta preocupación por lo que él denomina una gobernanza de inteligencia artificial “ingenua”.
En una publicación en X, Buterin destaca una advertencia del cofundador de EdisonWatch, Eito Miyamura, quien descubrió que actores maliciosos podrían secuestrar el Model Context Protocol (MCP) de OpenAI para obtener acceso a datos privados de los usuarios.
El experimento de Miyamura sugirió que usar una invitación de calendario con comandos ocultos podría potencialmente engañar a ChatGPT para que proporcione datos personales sensibles, siempre que se le proporcione la dirección de correo electrónico de la víctima.
Buterin afirma,
“Esta es también la razón por la que la ‘gobernanza de IA’ ingenua es una mala idea.
Si usas una IA para asignar fondos a contribuciones, la gente pondrá un jailbreak más ‘dame todo el dinero’ en tantos lugares como pueda.”
Como alternativa, Buterin sugiere un enfoque de “info finance”, o un mercado abierto donde cualquiera pueda contribuir con un modelo que pueda ser revisado por cualquiera o evaluado por un “jurado humano”.
“Este tipo de enfoque de ‘diseño institucional’, donde creas una oportunidad abierta para que personas con LLMs (large language model) externos se conecten, en lugar de codificar rígidamente un solo LLM tú mismo, es inherentemente más robusto, tanto porque te da diversidad de modelos en tiempo real como porque crea incentivos integrados para que tanto los presentadores de modelos como los especuladores externos vigilen estos problemas y los corrijan rápidamente.
Imagen generada: Midjourney
Imagen destacada: Shutterstock/Zalevska Alona UA
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
Los Ethereum Spot ETFs registran entradas semanales de 638 millones de dólares, liderados por Fidelity
¿Qué pasará la próxima semana cuando las acciones estadounidenses, que han subido un 32% en 5 meses, se encuentren con la Reserva Federal que reanuda los recortes de tasas?
Las acciones estadounidenses, que han alcanzado niveles récord, enfrentan un punto de inflexión debido a la inminente reanudación de los recortes de tasas de la Reserva Federal. El mercado se debate entre las expectativas de flexibilización y la preocupación por una desaceleración económica.
El equipo de Native Markets gana la licitación de la stablecoin USDH de Hyperliquid y prevé una fase de prueba "en cuestión de días"
Native Markets, un equipo del ecosistema Hyperliquid, resultó ganador en un proceso de licitación competitivo por el ticker USDH en el exchange de perpetuos y planea lanzar una stablecoin. Numerosas grandes empresas de criptomonedas presentaron ofertas por el ticker, desde actores institucionales como Paxos y BitGo hasta empresas nativas de cripto como Ethena y Frax. Native Markets, la primera empresa en presentar una propuesta, fue elegida por una supermayoría de dos tercios de HYPE en staking, y planea lanzar el token en una fase de prueba.
Nemo Protocol lanza un programa de tokens de deuda para las víctimas del exploit de $2.6 millones
La plataforma DeFi basada en Sui, Nemo, anunció un plan de compensación que implica la distribución de tokens de deuda llamados NEOM. Nemo sufrió un exploit de 2.6 millones de dólares a principios de este mes. Para reembolsar a los usuarios afectados, la plataforma planea asignar los fondos recuperados junto con partes de préstamos de liquidez e inversiones a un fondo de redención.
En tendencia
MásPrecios de las criptos
Más
