GPT4All: IA para pc OFF-Line

  • Autor Autor Johan Sibulo
  • Fecha de inicio Fecha de inicio
Johan Sibulo

Johan Sibulo

Zeta
Verificación en dos pasos activada
¿Ya han probado LA IA que no necesita tener conexión a internet pero requiere casi un mundo para que funcione?

Es gratis y esta en la internet, pero estaba buscando algo mas simple en cuanto a requerimiento y aunque esto es bueno y se las presento para cualquiera que le pueda ser útil...

Le tengo ganas a algo Off line, que yo le enseñe ciertas cosas, una sola roma, por ejemplo programación de algunos lenguajes para que no se atasque con tanto...
 
Cual es me gustaria saber
 
a mi tambien me gustaria saber, que tanto pide?
 
creo que llegó la hora de desempolvar el azure, me quedan aún 15 días de GPT plus, pero lo voy a probar para ver la diferencia, salu2 gracias por compartir.
 
1- una inteligencia básica , requiere al menos 4gb de ram y que te responda rapido tipo 10-20 segundos(depende de la cantidad de palabras de respuesta) , una cpu de 4 núcleos . pero tiene perdidas de conocimiento , recomeidno al menos 8gb de ram y 8 nucleos para que sea optimo en cuanto a potencia de computador/pc

en gpu responde mas rapido , lo mismo de lo anterior al menos 8gb de ram o 12 recomendada

ahora enseñarle cosas , para ir entrenandola si o si requiere gpu , requiere 4 veces mas de ram osea 15/16gb de ram , y dependiendo de la cantidad de datos , es la cantidad de tiempo, normalmente es 15 a 30 minutos , algo asi como 1k de preguntas y respuestas

si es un AI de chat


ahora dices , que lea de documentos , eso ya seria un RAG, se demorara mas en responder , pero no hay que re entrenarla

te explique muuuuuuuy por encima como seria , pero al menos te da una idea basica
 
Atrás
Arriba