La Solución

En busca de una solución más robusta y eficiente, Desk Manager estableció una alianza con CloudDog, un socio de servicios de nivel avanzado de AWS. Con la consultoría de CloudDog, Desk Manager adoptó un nuevo enfoque arquitectónico, ampliando su uso de los servicios de AWS para integrar Amazon API Gateway, AWS Lambda y Amazon Bedrock.

Esta arquitectura serverless fue diseñada para optimizar el procesamiento de datos e integrar el agente de IA generativa directamente en la plataforma. La integración con Amazon Bedrock, utilizando el modelo de lenguaje de gran tamaño Anthropic Claude 3, aportó un análisis de contenido más eficiente, rápido y económico.

La implementación se concluyó en abril de 2024, y el nuevo agente de IA sustituyó por completo el uso de ChatGPT. Además, el equipo de Desk Manager inició la reestructuración de las bases de conocimiento, buscando mejorar la capacidad de comprensión de la IA.

Arquitectura

• Amazon S3: Funciona como repositorio central para el almacenamiento de datos, como copias de seguridad, archivos multimedia y documentos. Ofrece seguridad, durabilidad y alta escalabilidad.

• Amazon SQS: Actúa como una cola de mensajes para procesar eventos de forma asíncrona, garantizando organización y escalabilidad en la gestión de mensajes en flujos de datos complejos.

• AWS Lambda (Procesamiento Inicial): Ejecuta funciones bajo demanda para realizar validaciones, transformaciones y otras lógicas sobre los archivos antes de enviarlos a los servicios de análisis o procesamiento.

• Amazon Transcribe: Automatiza la conversión de audios en textos precisos. Ideal para la transcripción de reuniones, grabaciones o cualquier audio almacenado en S3, con integración fluida con otros servicios.

• Amazon DynamoDB: Almacena información en una estructura de base de datos NoSQL, garantizando un acceso rápido y eficiente. Es ideal para grandes volúmenes de datos y ofrece alta disponibilidad.

• Amazon DynamoDB Streams: Permite monitorear los cambios realizados en las tablas de DynamoDB en tiempo real. Se integra con Lambda para activar eventos automáticamente después de cualquier modificación.

• AWS Lambda (Procesamiento de Streams): Gestiona los datos provenientes de DynamoDB Streams, activando notificaciones o integrando otros sistemas, asegurando la continuidad en el flujo de datos procesados.

• Amazon SNS: Envía notificaciones automatizadas a sistemas o usuarios finales sobre la finalización de procesos, utilizando canales como correos electrónicos, SMS o webhooks para la integración.

• Amazon Bedrock: Ofrece modelos avanzados de machine learning para generar análisis predictivos o insights semánticos, complementando los flujos de datos con inteligencia artificial.

• AWS Lambda (Análisis Avanzados): Ejecuta análisis y procesamiento de datos complejos antes de enviarlos a Bedrock u otras soluciones, aplicando la lógica específica según la necesidad.

• Amazon CloudWatch: Monitorea métricas y logs de todos los servicios de AWS integrados, enviando alertas en caso de problemas y garantizando visibilidad para las operaciones y el rendimiento.

• AWS CloudTrail: Registra todas las actividades realizadas en los servicios de AWS, ofreciendo una auditoría completa y el rastreo de acciones administrativas y automatizaciones en el entorno.

• AWS Config: Evalúa y monitorea el cumplimiento de la infraestructura con las políticas definidas, detectando cambios no autorizados y generando alertas en tiempo real.

• AWS Budgets: Monitorea los costos asociados a los servicios de AWS, alertando a los responsables cuando se alcanzan o superan los límites financieros predefinidos.

Esta arquitectura modular e integrada combina la robustez de AWS con servicios como SQS, DynamoDB, Bedrock y Lambda, ofreciendo procesamiento escalable, seguridad e inteligencia. Herramientas como CloudWatch, CloudTrail y Config garantizan observabilidad y cumplimiento, atendiendo las demandas complejas de forma eficiente y promoviendo la evolución continua de los sistemas.

Resultados

• Reducción de Costos de Atención: Con la adopción de la IA generativa y el uso de Amazon Bedrock, Desk Manager obtuvo una reducción del 40% en los costos por atención, permitiendo una asignación más eficiente de los recursos.

• Alta Asertividad en las Grabaciones de Audio: La nueva solución presentó una tasa del 99% de asertividad en las transcripciones de audio en portugués, mejorando la calidad de la atención al cliente.

• Automatización en la Atención al Cliente: Entre abril y junio de 2024, el 13% de las atenciones se finalizaron automáticamente por la IA, liberando al equipo para resolver cuestiones más complejas y estratégicas.

• Cumplimiento de la LGPD: La integración de la IA con Amazon Bedrock permitió a Desk Manager aumentar el cumplimiento de la LGPD, eliminando datos personales en las respuestas automáticas y mejorando la seguridad de la información.

• Integración con Alexa: Desk Manager ahora ofrece la generación de informes a través de Alexa, proporcionando a los usuarios un canal adicional para acompañar el estado de sus operaciones.

• Procesamiento de Textos Más Largos: La utilización de Amazon Bedrock permitió el procesamiento de textos más extensos, superando las limitaciones anteriores de tokens y mejorando la capacidad de atención.

• Reestructuración Continua de las Bases de Conocimiento: Desk Manager está actualizando continuamente sus bases de conocimiento, con el objetivo de mejorar la precisión y relevancia de las respuestas automáticas de la IA.