Acerca de la generación aumentada de recuperación

RAG en acción

Cuando envía una solicitud de modelo de lenguaje grande (LLM), RAG en Data 360:

• Recupera información relevante de un establecimiento Knowledge con contenido estructurado y no estructurado
• Aumenta la solicitud combinando esta información con la solicitud original
• Genera una respuesta de solicitud

Descripción general de RAG en Data 360

Es útil pensar en RAG en dos partes principales: preparación sin conexión y uso online.

Inicio rápido para la preparación sin conexión

La forma más rápida de configurar su solución RAG es crear una biblioteca de datos, ya sea en Agentforce Builder o Configuración. Cuando crea una biblioteca de datos Agentforce, crea automáticamente todos los elementos necesarios para una solución con tecnología RAG. Salesforce utiliza parámetros predeterminados para todos los componentes: almacenamiento de datos vectorial, índice de búsqueda, recuperador, plantilla de solicitud y acción estándar. Si lo desea, puede personalizar estos elementos para ajustar las soluciones de RAG para sus casos de uso.

Configuración avanzada para la preparación sin conexión

Para implementar RAG en Data 360, comience conectando datos estructurados y no estructurados que RAG utiliza para fundamentar solicitudes LLM. Data 360 utiliza un índice de búsqueda para gestionar contenido estructurado y no estructurado de una forma optimizada para la búsqueda. El contenido se puede ingresar desde una variedad de orígenes y tipos de archivo. Algunos ejemplos de contenido no estructurado utilizado con RAG incluyen respuestas de servicio, casos, respuestas de RFP, artículos Knowledge, preguntas frecuentes, emails y notas de reuniones.

La preparación sin conexión incluye estos pasos:

1. Conecte sus datos no estructurados.
2. Cree una configuración de índice de búsqueda para fragmentar y vectorizar el contenido.

   La fragmentación divide el texto en unidades más pequeñas, reflejando pasajes del contenido original, como frases o párrafos. La vectorización convierte fragmentos en representaciones numéricas del texto que capturan similitudes semánticas.

3. Almacene y gestione el índice de búsqueda en Data 360.

Para obtener más información, consulte Buscar IA, automatización y Analytics.

Los recuperadores sirven como puente entre índices de búsqueda y plantillas de solicitudes. Los recuperadores afinan aún más los criterios de búsqueda y recuperan la información más relevante utilizada para aumentar solicitudes. Para admitir una variedad de casos de uso, crea recuperadores personalizados en Modelos de IA (anteriormente Einstein Studio). Para obtener más información, consulte Recuperar datos.

Uso online

La pieza final del rompecabezas de implementación de RAG es agregar una llamada a un recuperador en una plantilla de solicitud. Para una plantilla de solicitud concreta, el diseñador de solicitudes puede personalizar la consulta del recuperador y la configuración de resultados para rellenar la solicitud con la información más relevante. Para obtener más información, consulte Ground with Knowledge Using Retrieval Augmented Generation.

Cada vez que se ejecuta una plantilla de solicitud con un recuperador, se produce esta secuencia:

1. La plantilla de solicitud invoca el recuperador con una consulta dinámica.
2. La consulta se vectoriza (se convierte en representaciones numéricas). La vectorización permite a la búsqueda encontrar coincidencias semánticas en el índice de búsqueda (que ya está vectorizado).
3. La consulta recupera el contexto relevante de los datos indexados en el índice de búsqueda.
4. La solicitud original se rellena con la información recuperada desde el índice de búsqueda.
5. La solicitud se envía al LLM, que genera y devuelve la respuesta de la solicitud.

Muchos LLM recibieron capacitación general en Internet sobre contenido estático y disponible públicamente. RAG agrega información a una solicitud que es precisa, actualizada y no disponible como parte del Knowledge capacitado de LLM. Es como complementar las funciones del LLM proporcionando información relevante recuperada desde un establecimiento Knowledge que contiene la versión más reciente y mejor de los hechos. Con RAG, los usuarios de plantillas de solicitudes pueden aportar datos patentados al LLM sin volver a entrenar y ajustar el modelo, dando como resultado respuestas generadas que son más pertinentes a su contexto y caso de uso.