Vitalik Buterin ha advertido que muchas herramientas de IA pueden convertirse en una amenaza importante para la privacidad porque dependen de infraestructura remota con acceso a los datos de los usuarios.
Dijo que los riesgos se extienden más allá de los propios grandes modelos lingüísticos, hasta servicios externos, filtraciones de datos y ataques de jailbreak que pueden poner los sistemas en contra de los intereses del usuario.

Vitalik Buterin ha lanzado una advertencia fresca sobre la inteligencia artificial, esta vez centrada menos en el hype y más en la privacidad. En una nueva publicación de blog, el cofundador de Ethereum argumentó que muchas herramientas de IA se construyen sobre infraestructura remota que puede acceder a datos sensibles de los usuarios, creando riesgos que la mayoría de las personas no ven completamente cuando escriben en un chatbot, delegan una tarea o conectan un servicio externo. La preocupación, tal como la expone, no se limita a un solo modelo ni a una sola aplicación. Es estructural. La infraestructura de IA remota crea una superficie de privacidad más amplia El punto de Buterin es bastante directo. Un número creciente de productos de IA depende de infraestructura que está fuera del dispositivo del usuario y fuera del control del usuario. Eso significa que los mensajes, los archivos, los detalles de la cuenta y los patrones de uso pueden pasar por sistemas que quizá almacenen, procesen o reutilicen los datos de maneras que el usuario nunca pretendió. Advirtió que el problema no se detiene con los grandes modelos lingüísticos. Los servicios externos vinculados a esos sistemas pueden introducir sus propias vulnerabilidades, desde filtraciones simples de datos hasta el uso no autorizado de información personal. En otras palabras, el peligro no es solo el modelo. Es toda la cadena que lo rodea. Esto importa porque cada vez más se vende la IA como una capa de asistencia en el sector financiero, el software, la comunicación y la identidad en línea. Cuanto más útil se vuelve, más contexto privado tiende a absorber. Los jailbreaks convierten la IA de ayudante en un pasivo Buterin también señaló los ataques de jailbreak como una amenaza específica. Estos ataques usan entradas externas para manipular un modelo y hacer que se comporte de maneras que van en contra de los intereses del usuario, convirtiendo efectivamente un asistente en algo menos fiable y potencialmente dañino. Ese aviso llega en un momento en el que las herramientas de IA se están acercando a la ejecución, no solo a la conversación. A medida que estos sistemas obtienen acceso a mensajes, carteras, documentos y acciones automatizadas, los fallos de privacidad pueden convertirse rápidamente también en fallos operativos. Lo que Buterin está señalando realmente aquí es un cambio en el riesgo. La IA ya no es solo una cuestión de capacidad. Se está convirtiendo en una cuestión de límites de confianza, de quién controla los datos, de dónde se ejecuta el modelo y de lo que ocurre cuando ese límite falla.

Aviso legal: La información de esta página puede proceder de terceros y no representa los puntos de vista ni las opiniones de Gate. El contenido que aparece en esta página es solo para fines informativos y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate no garantiza la exactitud ni la integridad de la información y no se hace responsable de ninguna pérdida derivada del uso de esta información. Las inversiones en activos virtuales conllevan riesgos elevados y están sujetas a una volatilidad significativa de los precios. Podrías perder todo el capital invertido. Asegúrate de entender completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el Aviso legal.