-
La tecnología logra velocidades de procesamiento hasta 11 veces más rápidas usando la GPU del móvil.
-
El framework es de código abierto y compatible con estándares gráficos como Vulkan y Apple Metal.
Tether, la empresa emisora de la stablecoin USDT, anunció el lanzamiento de una nueva versión de su framework QVAC Fabric este 17 de marzo. Esta herramienta técnica permite el entrenamiento y la ejecución de modelos de inteligencia artificial (IA) con miles de millones de parámetros directamente en teléfonos inteligentes iPhone y Android, además de computadoras con tarjetas gráficas de consumo.
Según explicaron en el anuncio del lanzamiento, el desarrollo utiliza la arquitectura BitNet de Microsoft, la cual simplifica los modelos de IA al reducir sus valores numéricos a solo tres opciones: -1, 0 y 1. Este proceso, conocido como cuantización de un bit, disminuye el peso de los archivos y la potencia necesaria para procesarlos. Gracias a esto, un dispositivo móvil puede realizar tareas de personalización de modelos que anteriormente requerían servidores industriales costosos.
QVAC Fabric actúa como el motor que gestiona estos modelos. Este antecedente técnico permite que el sistema funcione mediante Vulkan y Metal, tecnologías que habilitan el uso de la unidad de procesamiento gráfico (GPU) de los teléfonos. En pruebas realizadas por el equipo de Tether, se logró ajustar modelos de hasta 13.000 millones de parámetros en un iPhone 16, aprovechando la potencia del hardware local sin depender de la nube.
La implementación busca garantizar la privacidad del usuario, ya que los datos sensibles utilizados para entrenar o ajustar la IA no abandonan el dispositivo. Al ser un software de código abierto disponible en GitHub ,cualquier desarrollador puede acceder a los binarios y al código para integrar estas capacidades en sus propias aplicaciones de forma independiente.
La visión de Tether sobre la IA descentralizada
Respecto al lanzamiento, el CEO de Tether, Paolo Ardoino, señaló: «Cuando el entrenamiento de grandes modelos de lenguaje depende de una infraestructura centralizada, la innovación se estanca, el ecosistema se vuelve frágil y el equilibrio social se pone en riesgo. Al permitir un entrenamiento significativo de modelos grandes en hardware de consumo, incluido el de teléfonos inteligentes, QVAC de Tether está demostrando que la IA avanzada puede ser descentralizada».
Esta tecnología reduce el uso de memoria RAM hasta en un 90% en comparación con los modelos de precisión completa. Según los datos técnicos publicados, el ajuste fino de un modelo puede completarse en menos de diez minutos en dispositivos de gama alta como el Samsung S25, marcando un precedente en la disponibilidad de herramientas de IA local.
Guarda lo que vale la pena descifrar