nebula@atheron:/fr/batch$
// Inférence par lots
Des lots, faits pour vous
Plongements, étiquettes, transcriptions, légendes.
Téléversez vos éléments, choisissez un modèle de notre catalogue et recevez un seul fichier de résultats. Nous répartissons le travail sur les GPU du réseau Constellation, vérifions chaque partie et remettons le tout en ordre.
// Ce que vous pouvez lancer
Quatre tâches pour commencer
Chacune s'exécute sur des modèles ouverts que nous avons vérifiés, signés et figés : la même entrée donne toujours le même genre de réponse.
Plongements
Transformez du texte en vecteurs pour la recherche, le regroupement et les recommandations. Petits, moyens et grands modèles, normalisés et prêts pour votre base vectorielle.
Classification
Classez du texte selon vos étiquettes : sujets, sentiment, intention ou pourriel. Vous recevez une étiquette et un score pour chaque élément.
Transcription
Transformez de l'audio enregistré en texte avec les horodatages, dans les langues que le modèle prend en charge.
Légendes
Décrivez des images en une phrase, pour le texte de remplacement, la recherche et le catalogage.
// Un travail vérifié
Chaque partie est vérifiée
Un lot ne vaut que sa pire partie : aucune partie n'est acceptée sur la seule parole d'une machine.
Exécuté deux fois
Chaque fragment envoyé aux appareils des membres s'exécute sur au moins 2 machines appartenant à des personnes différentes. Leurs réponses doivent concorder.
Tranché par nous
Quand les réponses diffèrent, un nœud maison Atheron exécute lui-même le fragment et tranche. Une machine qui s'est trompée reçoit une pénalité et ne reçoit plus de travail.
Vérifications au hasard
Une partie des réponses concordantes est relancée au hasard sur notre propre matériel : personne ne peut savoir quand il est vérifié.
Adapté au matériel
Un fragment ne va qu'à un GPU qui a la mémoire et les pilotes dont le modèle a besoin. Rien n'est deviné au moment de l'exécution.
// Le déroulement d'un lot
Du fichier au résultat
Vous faites un seul appel. Tout le reste se passe de notre côté.
- 1
Soumettre
Envoyez vos éléments et le modèle voulu en un appel d'API, ou téléversez un fichier dans le portail des développeurs.
- 2
Découper
Nous découpons le lot en fragments adaptés aux GPU capables d'exécuter ce modèle.
- 3
Exécuter et vérifier
Les fragments s'exécutent sur les GPU de Constellation, chacun vérifié par une deuxième machine ou par un nœud maison Atheron.
- 4
Rassembler
Nous remettons les réponses dans votre ordre, conservons un fichier de résultats pour vous et appelons votre webhook quand il est prêt.
Questions
- Mes données sont-elles envoyées sur les ordinateurs d'inconnus?
- Seulement si vous le permettez. Un lot est privé par défaut et ne s'exécute que sur les nœuds maison Atheron ou des GPU AWS. Marquez un lot comme partageable pour qu'il utilise les appareils des membres, ce qui coûte moins cher. Ne marquez jamais des données personnelles ou confidentielles comme partageables.
- Combien de temps prend un lot?
- Cela dépend de sa taille et du modèle. Vous pouvez suivre la progression de chaque lot dans le portail ou par l'API, et un webhook vous avise quand il est terminé.
- Quels modèles puis-je utiliser?
- Les modèles de notre catalogue, présentés dans la documentation avec leur licence et leurs points forts. Nous ajoutons des modèles après les avoir vérifiés.
- Combien de temps les résultats sont-ils conservés?
- 30 jours par défaut, puis supprimés. Vous pouvez choisir une durée plus courte, ou jusqu'à 90 jours au plus.
Lancez votre premier lot
À l'ouverture de Nebula, vous créez votre équipe dans le portail des développeurs, passez une courte vérification d'entreprise, ajoutez une carte et envoyez un lot avec votre clé.