Divulgación: Los puntos de vista y opiniones expresados aquí pertenecen únicamente al autor y no representan los puntos de vista y opiniones del editorial de crypto.news.
En la famosa escena inicial de Cazador de espadasun personaje llamado Holden administra una interpretación ficticia de la prueba de Turing para evaluar si Leon es un replicante (un robot humanoide). Para la prueba, Holden le cuenta a Leon una historia para provocar una reacción emocional. “Estás en un desierto, caminando por la arena, cuando de repente miras hacia abajo… miras hacia abajo y ves una tortuga, León. Se arrastra hacia ti…” Mientras Holden sigue contando esta historia hipotética, Leon se agita cada vez más hasta que es obvio que no es humano.
También te puede interesar: La modularidad del conocimiento cero puede ayudar a escalar web3 | Opinión
no estamos en Cazador de espadas territorio todavía en el mundo real, pero a medida que la IA y el aprendizaje automático se integran más en nuestras vidas, necesitamos garantías de que los modelos de IA que utilizamos son lo que dicen que son.
Aquí es donde entran las pruebas de conocimiento cero. En esencia, las pruebas ZK permiten a una parte demostrarle a otra que un cálculo específico se ejecutó correctamente sin exponer los datos reales ni requerir que el verificador rehaga los cálculos (también conocida como propiedad de concisión). Piense en ello como un sudoku: si bien resolverlo puede ser difícil, verificar la solución es mucho más fácil.
Esta propiedad es especialmente valiosa cuando las tareas computacionales se realizan fuera de la cadena para evitar sobrecargar una red e incurrir en tarifas elevadas. Con las pruebas ZK, estas tareas fuera de la cadena aún se pueden verificar sin sobrecargar las cadenas de bloques, que tienen límites computacionales estrictos ya que todos los nodos deben verificar cada bloque. En resumen, necesitamos la criptografía ZK para escalar el aprendizaje automático de IA de forma segura y eficiente.
ZK verifica los modelos de ML para que podamos escalar la IA de forma segura
El aprendizaje automático, un subconjunto de la IA, es conocido por sus fuertes demandas computacionales, que requieren grandes cantidades de procesamiento de datos para simular la adaptación y la toma de decisiones humanas. Desde el reconocimiento de imágenes hasta el análisis predictivo, los modelos de aprendizaje automático se están preparando para transformar casi todas las industrias (si aún no lo han hecho), pero también están superando los límites de la computación. Entonces, ¿cómo verificamos y atestiguamos que los modelos de aprendizaje automático son auténticos mediante el uso de cadenas de bloques, donde las operaciones en cadena pueden ser prohibitivamente costosas?
Necesitamos una forma demostrable de confiar en los modelos de IA para saber que el modelo que estamos usando no ha sido manipulado ni publicitado falsamente. Cuando realiza consultas en ChatGPT sobre sus películas de ciencia ficción favoritas, probablemente confíe en el modelo que se utiliza, y no es el fin del mundo si la calidad de las respuestas disminuye aquí y allá. Sin embargo, en sectores como el financiero y el sanitario, la precisión y la fiabilidad son fundamentales. Un error podría haber tenido efectos económicos negativos en todo el mundo.
Aquí es donde ZK desempeña un papel fundamental. Al aprovechar las pruebas ZK, los cálculos de ML aún se pueden ejecutar fuera de la cadena y al mismo tiempo tener verificación en la cadena. Esto abre nuevas vías para implementar modelos de IA en aplicaciones blockchain. El aprendizaje automático de conocimiento cero, o ZKML, permite la verificación criptográfica de los algoritmos de ML y sus resultados, manteniendo al mismo tiempo la privacidad de los algoritmos reales, cerrando la brecha entre las demandas computacionales de la IA y las garantías de seguridad de blockchain.
Una de las aplicaciones ZKML más interesantes es DeFi. Imagine un fondo de liquidez donde un algoritmo de IA gestiona el reequilibrio de activos para maximizar el rendimiento mientras refina sus estrategias comerciales a lo largo del camino. ZKML puede ejecutar estos cálculos fuera de la cadena y luego usar pruebas ZK para garantizar que un modelo de ML sea legítimo, en lugar de algún otro algoritmo o las operaciones de otra persona. Al mismo tiempo, ZK puede proteger los datos comerciales de los usuarios para que conserven la confidencialidad financiera, incluso si los modelos de ML que utilizan para realizar transacciones son públicos. ¿El resultado? Protocolos DeFi seguros impulsados por IA con verificabilidad ZK.
Necesitamos conocer mejor nuestras máquinas
A medida que la IA se vuelve más central para la actividad humana, las preocupaciones sobre la manipulación, la manipulación y los ataques adversarios siguen creciendo. Los modelos de IA, especialmente aquellos que manejan decisiones críticas, deben ser resistentes a ataques que corromperían sus resultados. Por supuesto, queremos que las aplicaciones de IA sean seguras. No se trata sólo de la seguridad de la IA en el sentido tradicional (es decir, garantizar que los modelos no se comporten de manera impredecible), sino también de crear un entorno sin confianza donde el modelo en sí sea fácilmente verificable.
En un mundo donde proliferan los modelos, esencialmente vivimos nuestras vidas guiados por la IA. A medida que crece el número de modelos, también aumenta la posibilidad de que se produzcan ataques que socaven la integridad del modelo. Esto es particularmente preocupante en escenarios donde el resultado de un modelo de IA podría no ser lo que parece.
Al integrar la criptografía ZK en la IA, podemos comenzar a generar confianza y responsabilidad en estos modelos ahora. Al igual que un certificado SSL o una insignia de seguridad en su navegador web, probablemente habrá un símbolo de verificabilidad de IA, uno que garantiza que el modelo con el que está interactuando es el que espera.
En Cazador de espadasla prueba de Voight-Kampff tenía como objetivo distinguir a los replicantes de los humanos. Hoy, mientras navegamos por un mundo cada vez más impulsado por la IA, nos enfrentamos a un desafío similar: distinguir los modelos de IA auténticos de los potencialmente comprometidos. En criptografía, la criptografía ZK podría ser nuestra prueba Voight-Kampff: un método sólido y escalable para verificar la integridad de los modelos de IA sin comprometer su funcionamiento interno. De esa manera, no sólo nos preguntamos si los androides sueñan con ovejas eléctricas, sino también nos aseguramos de que la IA que guía nuestras vidas digitales sea exactamente lo que dice ser.
Leer más: Conectar personas y plataformas: el camino hacia la descentralización que prioriza la identidad | Opinión
Rob Viglione
Rob Viglione es el cofundador y director ejecutivo de Laboratorios Horizonteel estudio de desarrollo detrás de varios proyectos web3 líderes, incluidos zkVerify, Horizen y ApeChain. Rob está profundamente interesado en la escalabilidad de web3, la eficiencia de blockchain y las pruebas de conocimiento cero. Su trabajo se centra en el desarrollo de soluciones innovadoras para zk-rollups para mejorar la escalabilidad, generar ahorros de costos e impulsar la eficiencia. Tiene un doctorado. en Finanzas, MBA en Finanzas y Marketing y Licenciatura en Física y Matemática Aplicada. Rob actualmente forma parte de la Junta Directiva de la Asociación de Comercio Blockchain de Puerto Rico.