Este fenómeno se conoce como "alucinación". Ocurre porque los LLM no "entienden" la verdad, sino que predicen la palabra más probable según sus datos de entrenamiento. Para solucionarlo, los ingenieros aplicamos técnicas como RAG (Generación Aumentada por Recuperación) para conectar el modelo a bases de datos externas verificadas, y realizamos ajustes finos (Fine-Tuning) con ejemplos específicos.
¡Bienvenido!
Comparta y comente sobre el mejor contenido y las mejores ideas de marketing. Construya su perfil profesional y conviértase en un mejor mercadólogo.
Se marcó esta pregunta
1
Responder
69
Vistas
Los Modelos de Lenguaje Grande (LLM) "como GPT-4" a veces “inventan” información (lo que se suele llamar alucinaciones) por cómo están construidos y entrenados. No es un bug puntual: es una consecuencia de su objetivo y de sus límites. La buena noticia es que hay varias estrategias efectivas para mitigarlo.