2.2 - Almacenamiento en caché de respuestas
Almacenamiento en caché
NeuralSeek utiliza una estrategia de almacenamiento en caché al buscar en una base de conocimientos corporativa para mejorar el rendimiento y reducir el costo computacional durante su funcionamiento. NeuralSeek emplea dos tipos de caché: uno para sus respuestas editadas y otro para las respuestas generadas. Estos cachés pueden proporcionar respuestas almacenadas a las preguntas de los usuarios, acelerando los tiempos de respuesta y produciendo resultados más consistentes.
Ejemplo de respuesta inexacta
Navegue a la pestaña Curar de NeuralSeek para ver nuestro ejemplo de respuesta inexacta.
- (a) Selecciona una intención haciendo clic en el icono de la flecha desplegable.
- (b) Lee la respuesta generada para esa intención específica. Es posible que NeuralSeek genere una respuesta inexacta porque el contenido de la base de conocimiento está desactualizado o falta.
Corregir manualmente las respuestas de IA generativa.
Puede editar cualquier respuesta, y la respuesta editada se utilizará cuando realice el proceso de edición y exporte a un agente virtual. Las respuestas editadas también se utilizan para entrenar las respuestas generadas en el futuro.
- (a) Haga clic en el cuadro de texto para actualizar la respuesta con precisión. Por ejemplo, agregue este texto a la respuesta:
The best cereal is Cheerios. - (b) Haga clic en Guardar. La nueva respuesta agregada se marcará como Editada.
Coincidencia y categorización de intenciones
Navegue a la pestaña Configurar de NeuralSeek y expanda los detalles de Coincidencia de intenciones y configuración de caché.
Aquí, podemos seleccionar qué tan estrictos queremos ser con la coincidencia de intenciones, lo cual es útil especialmente si tiene respuestas editadas que desea que los usuarios encuentren más fácilmente.
Escala de caché de respuestas editadas
Esta escala deslizante permite al usuario establecer cuántas respuestas editadas diferentes existen para una pregunta del usuario, y servirá una respuesta editada al menos esa cantidad de veces.
- Establezca la escala deslizante en 1 para priorizar la caché de respuestas editadas.
Escala de caché de respuestas normales
Las respuestas editadas tienen prioridad en la caché de respuestas normales. Esta escala deslizante permite al usuario establecer cuántas respuestas diferentes existen para una pregunta del usuario, y servirá una respuesta reciente si la documentación no ha cambiado, o una respuesta editada si está disponible.
- Establezca la escala deslizante en 1 para priorizar la caché de respuestas editadas.
Opciones de guardado
Desplácese hasta la parte inferior de la pantalla y haga clic en el botón rojo Guardar.
Consulta de búsqueda
Vaya a la pestaña Buscar de NeuralSeek.
- Ingrese la pregunta del ejemplo inexacto y haga clic en Buscar.
Revisión de la salida
Observe cómo el resultado generado corresponde a la respuesta recientemente editada.
- El tiempo de respuesta total es inferior a un segundo, ya que servir respuestas almacenadas en caché acelera los tiempos de respuesta.
- El puntaje semántico es del 100% y hay una indicación junto a él que muestra que la respuesta está en caché.
- Los puntajes de confianza y cobertura de la base de conocimientos alcanzan el 100% cuando se proporciona una respuesta editada. Estas respuestas editadas se mantienen vigentes hasta que se actualicen o eliminen, incluso si la documentación fuente cambia. Por lo tanto, es crucial asegurarse de que las respuestas editadas contengan información relevante y actualizada.
