Flower AI et Vana ont collaboré pour créer Collective-1, un grand modèle linguistique (LLM) de 7 milliards de paramètres entraîné à l'aide d'une approche de calcul distribué sur de nombreux ordinateurs dispersés dans le monde. Cette méthode innovante, contrairement à l'entraînement traditionnel basé sur les centres de données, exploite des ensembles de données publics et privés, notamment des données provenant de X, Reddit et Telegram. L'approche d'entraînement distribué, mise au point par Flower AI, permet une évolutivité dépassant la taille de Collective-1, avec des projets de modèles plus grands en cours. Cette technologie révolutionnaire pourrait démocratiser le développement de l'IA, permettant à des entreprises et à des pays plus petits disposant de ressources limitées de créer des modèles d'IA avancés, ce qui pourrait modifier la dynamique de puissance du secteur.
Prepared by Jonathan Pierce and reviewed by editorial team.
Comments