Modelos de lenguaje e IA: explicación de las alucinaciones
¿Por qué los modelos de lenguaje generan alucinaciones en IA?
Las alucinaciones en inteligencia artificial son respuestas plausibles pero incorrectas que los modelos de lenguaje generan con confianza, incluso ante preguntas sencillas y directas. Este problema persiste debido a que los métodos actuales de entrenamiento y evaluación premian el hecho de adivinar sobre la honestidad y la manifestación de incertidumbre. Así, los modelos tienden a “adivinar” una respuesta antes que admitir que no saben la respuesta correcta, ya que los sistemas actuales incentivan el obtener una respuesta aunque sea errónea.
