Encontrar IA con Instrucciones / Agente "permanente"

  • Autor Autor coreio
  • Fecha de inicio Fecha de inicio
C

coreio

Alfa
Verificación en dos pasos activada
¡Usuario con pocos negocios! ¡Utiliza siempre saldo de Forobeta!
Hola, me gustaría utilizar un servicio de IA con API como grop cloud (o lo más economico posible) dónde pudiera darle unas instrucciones (unas 250 lineas) permamentes.

Supongo que con la IA muy básica me sería suficiente pues sólo va a responder temas relacionados con matemáticas básicas, no es necesario que sepa (o que sea bueno) programando, reflexionando ni interactuando con humanos, ni imágenes ni informes ni leches 😆

Considero que sería un desperdicio de tokens / dinero si pretendo enviar una y otra vez las instrucciones en cada nueva consulta.

Tampoco me interesa mantener la misma sesión para cada nueva consulta que haga ya que son preguntas totalmente inconexas y supongo, sería otro desperdicio de tokens mantener el contexto inutil de las preguntas anteriores, ademas de la lentitud acumulada, posibles respuestas contaminadas por contexto anteriores que no deberían existir etc...

Pero sobre todo, intento ahorrarme esos 5-10 segundos e tiempo que tardar en cargar y asimilar las instrucciones en cada consulta.

PD: No me planteo algo local pues ni tengo los conocimientos para montar ese pifostio, ni un buen internet ni buen equipo (gpu, ram etc..)

Alguien que haya pasado por esta situación? Si no fuera posible lo que pido ¿Cuales serían las mejores prácticas?
 
Para lo que necesitas, la mejor opción del mercado actual es usar la API de Groq o DeepSeek aprovechando el Context Caching y esto almacena tus 250 líneas en el servidor por una fracción del costo y reduce la latencia a milisegundos y como pasas de mantener el historial para evitar respuestas contaminadas simplemente haces peticiones HTTP independientes limpiando el chat cada vez, pero apuntando a ese mismo System Prompt cacheado, así te ahorras montar el pifostio local, no gastas una fortuna y la IA te responde al toque con la matemática básica que pides
 
Atrás
Arriba