nebula@atheron:/es/batch$
// Inferencia por lotes
Lotes listos para usted.
Embeddings, etiquetas, transcripciones, descripciones.
Suba sus elementos, elija un modelo de nuestro catálogo y reciba un solo archivo de resultados. Repartimos el trabajo entre GPU de la red Constellation, verificamos cada parte y lo volvemos a unir en orden.
// Lo que puede ejecutar
Cuatro tareas para empezar
Cada una se ejecuta con modelos abiertos que hemos revisado, firmado y fijado, así que la misma entrada le da siempre el mismo tipo de respuesta.
Embeddings
Convierta texto en vectores para búsqueda, agrupación y recomendaciones. Modelos pequeños, base y grandes, normalizados y listos para su base vectorial.
Clasificación
Ordene texto en sus etiquetas: temas, sentimiento, intención o spam. Recibe una etiqueta y una puntuación por cada elemento.
Transcripción
Convierta audio grabado en texto con tiempos, en los idiomas que admite el modelo.
Descripciones
Describa imágenes en una frase, para texto alternativo, búsqueda y catalogación.
// Trabajo verificado
Cada parte se verifica
Un lote vale lo que su peor parte, así que ninguna parte se acepta por la palabra de una sola máquina.
Ejecutado dos veces
Cada fragmento en dispositivos de miembros se ejecuta en al menos 2 máquinas de personas distintas. Sus respuestas tienen que coincidir.
Resuelto por nosotros
Cuando las respuestas difieren, un nodo propio de Atheron ejecuta el fragmento y decide. Una máquina que se equivocó recibe una falta y deja de recibir trabajo.
Comprobaciones al azar
Una parte de las respuestas coincidentes se vuelve a ejecutar al azar en nuestro propio hardware, así que nadie puede saber cuándo se le comprueba.
Ajustado al hardware
Un fragmento solo va a una GPU con la memoria y los controladores que necesita el modelo. Nada se adivina en el momento de ejecutarlo.
// Cómo se ejecuta un lote
Del archivo al resultado
Usted hace una llamada. Todo lo demás ocurre de nuestro lado.
- 1
Enviar
Envíe sus elementos y el modelo que quiere con una llamada a la API, o suba un archivo en el portal para desarrolladores.
- 2
Dividir
Cortamos el lote en fragmentos del tamaño adecuado para las GPU que pueden ejecutar ese modelo.
- 3
Ejecutar y verificar
Los fragmentos se ejecutan en GPU de Constellation, cada uno verificado por una segunda máquina o por un nodo propio de Atheron.
- 4
Reunir
Volvemos a poner las respuestas en su orden, guardamos un archivo de resultados para usted y llamamos a su webhook cuando está listo.
Preguntas
- ¿Se envían mis datos a ordenadores de desconocidos?
- Solo si usted lo permite. Un lote es privado por defecto y solo se ejecuta en nodos propios de Atheron o en GPU de AWS. Marque un lote como compartible para que use dispositivos de miembros, lo que es más barato. Nunca marque como compartibles datos personales o confidenciales.
- ¿Cuánto tarda un lote?
- Depende de su tamaño y del modelo. Puede seguir el progreso de cada lote en el portal o mediante la API, y un webhook le avisa cuando termina.
- ¿Qué modelos puedo usar?
- Los modelos de nuestro catálogo, listados en la documentación con su licencia y para qué sirven mejor. Añadimos modelos después de revisarlos.
- ¿Cuánto tiempo se conservan los resultados?
- 30 días por defecto, y después se eliminan. Puede elegir un plazo más corto, o hasta 90 días como máximo.
Ejecute su primer lote
Cuando Nebula abra, creará su equipo en el portal para desarrolladores, pasará una breve verificación de empresa, añadirá una tarjeta y enviará un lote con su clave.