Apple detalla sus nuevos modelos de lenguaje basados en dispositivo y en la nube | JQJO

Apple publicó un informe técnico que detalla sus nuevos modelos base basados ​​en dispositivo y en la nube. El modelo basado en dispositivo, con 3 mil millones de parámetros, se divide en dos bloques para mejorar la eficiencia de la memoria y la velocidad. El modelo basado en la nube utiliza una arquitectura personalizada de mezcla de expertos de pista paralela para obtener respuestas más rápidas y precisas. La compatibilidad multilingüe mejoró significativamente, aumentando los datos multilingües del 8% al 30% de los datos de entrenamiento. Las fuentes de datos incluyeron rastreo web (respetando robots.txt), contenido con licencia y datos sintéticos. El informe destaca el enfoque de Apple en la privacidad y la eficiencia.