Encontrar IA com Instruções / Agente "permanente"

  • Autor Autor coreio
  • Data de início Data de início
Tradução em andamento: em alguns minutos este tópico estará em português. Por enquanto, o conteúdo está no original em espanhol. Ver original
C

coreio

Alfa
Verificación en dos pasos activada
Usuário com poucas negociações! Use sempre o saldo do ForoBeta!
Hola, me gustaría utilizar un servicio de IA con API como grop cloud (o lo más economico posible) dónde pudiera darle unas instrucciones (unas 250 lineas) permamentes.

Supongo que con la IA muy básica me sería suficiente pues sólo va a responder temas relacionados con matemáticas básicas, no es necesario que sepa (o que sea bueno) programando, reflexionando ni interactuando con humanos, ni imágenes ni informes ni leches 😆

Considero que sería un desperdicio de tokens / dinero si pretendo enviar una y otra vez las instrucciones en cada nueva consulta.

Tampoco me interesa mantener la misma sesión para cada nueva consulta que haga ya que son preguntas totalmente inconexas y supongo, sería otro desperdicio de tokens mantener el contexto inutil de las preguntas anteriores, ademas de la lentitud acumulada, posibles respuestas contaminadas por contexto anteriores que no deberían existir etc...

Pero sobre todo, intento ahorrarme esos 5-10 segundos e tiempo que tardar en cargar y asimilar las instrucciones en cada consulta.

PD: No me planteo algo local pues ni tengo los conocimientos para montar ese pifostio, ni un buen internet ni buen equipo (gpu, ram etc..)

Alguien que haya pasado por esta situación? Si no fuera posible lo que pido ¿Cuales serían las mejores prácticas?
 
Foi útil? Participe da conversa

Com sua conta grátis você pode responder, mandar mensagem privada ao autor e comprar com Saldo retido: o pagamento é liberado quando você recebe o combinado.

Leva 30 segundos · você volta a este tópico ao terminar
Para lo que necesitas, la mejor opción del mercado actual es usar la API de Groq o DeepSeek aprovechando el Context Caching y esto almacena tus 250 líneas en el servidor por una fracción del costo y reduce la latencia a milisegundos y como pasas de mantener el historial para evitar respuestas contaminadas simplemente haces peticiones HTTP independientes limpiando el chat cada vez, pero apuntando a ese mismo System Prompt cacheado, así te ahorras montar el pifostio local, no gastas una fortuna y la IA te responde al toque con la matemática básica que pides
 
Voltar
Topo