Modelos

Actualmente, para interactuar con nuestros modelos mediante Saptiva-Agents, es necesario contar con una api_key proporcionada por Saptiva.

Los modelos validados y recomendados para interacciones basadas en texto que involucren agentes con capacidad para llamar a herramientas son:

  • Llama 3.3 (70B)

  • Qwen 2.5 (70B)

Para interacciones multimodales (texto e imágenes), recomendamos utilizar:

  • Gemma3 (27B)

Aquí puedes encontrar una lista de todos los modelos disponibles en Saptiva:

Modelos Disponibles

Para accesar a los modelos de Saptiva, necesitas usar el SaptivaAIChatCompletionClient.

from saptiva_agents import LLAMA_MODEL
from saptiva_agents.base import SaptivaAIChatCompletionClient

saptiva_model_client = SaptivaAIChatCompletionClient(
    model=LLAMA_MODEL,
    api_key="va-ai-..."
)

Para probar el cliente de modelos, puedes utilizar el siguiente código:

from saptiva_agents.models import UserMessage

result = await saptiva_model_client.create([UserMessage(content="Cuál es la capital de Francia?", source="user")])
print(result)
finish_reason='stop' content='La capital de Francia es París.' usage=RequestUsage(prompt_tokens=38, completion_tokens=10) cached=False logprobs=None thought=None

Nota

Puedes acceder a variables de entorno predefinidas para los modelos actualmente soportados importándolas:

from saptiva_agents import QWEN_MODEL, LLAMA_MODEL, GEMMA_MODEL

Última actualización