FredoCubaP
Usuario nuevo
¡Usuario con pocos negocios! ¡Utiliza siempre saldo de Forobeta!
Hola a todos. Llevo unas semanas con un proyecto de investigación personal y quiero contarlo para recibir críticas de gente que sepa más que yo. No libero el repo por ahora, pero comparto método y resultados.
La idea
Separar dos cosas que los modelos grandes mezclan:
El destino concreto
Un NPC de un videojuego (Kenshi) que conozca el lore de verdad y hable con la voz de su facción, servido por un mod que acepta cualquier API compatible con OpenAI. Tengo un dataset propio en español, privado, así que no lo comparto.
Cómo lo hago (hardware modesto)
Resultados hasta ahora
E1 - ¿Se puede cambiar de LoRA por petición en llama-server?
E2 - ¿Un LoRA aprende el lore de un juego?
Dos trampas que me costaron tiempo, por si a alguien le sirven:
Lo que quiero preguntar
Sé que es un tema de nicho para este foro. Lo pongo aquí porque me interesa cualquier opinión, de ML o de fuera, y si hay alguien que haya hecho algo parecido, mejor. Gracias por leer.
La idea
Separar dos cosas que los modelos grandes mezclan:
- Un núcleo pequeño que razona (en mi caso Qwen2.5-0.5B-Instruct, y 1.5B para validar).
- Módulos de conocimiento intercambiables en caliente, hoy adaptadores LoRA, que se eligen, combinan y retiran por petición.
El destino concreto
Un NPC de un videojuego (Kenshi) que conozca el lore de verdad y hable con la voz de su facción, servido por un mod que acepta cualquier API compatible con OpenAI. Tengo un dataset propio en español, privado, así que no lo comparto.
Cómo lo hago (hardware modesto)
- Mi PC no tiene GPU dedicada: laboratorio en CPU + iGPU (Vulkan) con llama.cpp.
- Entreno en una T4 gratuita de Colab y solo guardo los adaptadores.
- Cada resultado lo verifico contra un control: PEFT contra GGUF, escalas en 0, control de eco en la evaluación.
Resultados hasta ahora
E1 - ¿Se puede cambiar de LoRA por petición en llama-server?
- Sí. Cambiar es gratis, pero cada LoRA activo cuesta ~20 % más de lectura de prompt.
- Un LoRA "SQL" salió peor que la base, y el nombre del adaptador no garantiza su especialidad.
E2 - ¿Un LoRA aprende el lore de un juego?
- Aprende la forma, no los hechos.
- Recombina entidades: acierta ~26 % en paráfrasis, y eso es cota superior.
- Sube la alucinación y daña lo que está fuera de dominio.
Dos trampas que me costaron tiempo, por si a alguien le sirven:
- En llama-server, "lora": [] aplica todos los adaptadores en vez de ninguno.
- Si puntúas la respuesta buscando palabras clave, hay que descartar las que ya venían en la pregunta; si no, el modelo "acierta" repitiéndola.
Lo que quiero preguntar
- Con 0.5B, ¿es esperable que un LoRA aprenda la forma pero no los hechos? ¿Subir a 1.5B cambia el panorama o es mejor ir directo a RAG?
- ¿Alguien consiguió que un LoRA retenga hechos de verdad (paráfrasis, Deep Context Distillation, más épocas)? ¿Con qué rango y qué learning rate?
- ¿Memory layers o WISE como sustrato de conocimiento en lugar de LoRA: vale la pena probarlos o es demasiado para este tamaño?
- ¿Cómo evaluarían "sabe el lore" sin caer en medir solo memorización de formato?
Sé que es un tema de nicho para este foro. Lo pongo aquí porque me interesa cualquier opinión, de ML o de fuera, y si hay alguien que haya hecho algo parecido, mejor. Gracias por leer.
