Aprimoramento e soluções na Desk Manager com IA generativa AWS

A Solução

Em busca de uma solução mais robusta e eficiente, a Desk Manager firmou uma parceria com a CloudDog, um parceiro de serviços de nível avançado da AWS. Com a consultoria da CloudDog, a Desk Manager adotou uma nova abordagem arquitetônica, expandindo seu uso dos serviços AWS para integrar o Amazon API Gateway, AWS Lambda e Amazon Bedrock.

Essa arquitetura serverless foi projetada para otimizar o processamento de dados e integrar o agente de IA generativa diretamente à plataforma. A integração com o Amazon Bedrock, utilizando o modelo de linguagem de grande porte Anthropic Claude 3, trouxe uma análise de conteúdo mais eficiente, rápida e econômica.

A implementação foi concluída em abril de 2024, e o novo agente de IA substituiu completamente o uso do ChatGPT. Além disso, a equipe da Desk Manager iniciou a reestruturação das bases de conhecimento, buscando aprimorar a capacidade de compreensão da IA.

Arquitetura

• Amazon S3: Funciona como repositório central para armazenamento de dados, como backups, arquivos multimídia e documentos. Oferece segurança, durabilidade e alta escalabilidade.

• Amazon SQS: Atua como uma fila de mensagens para processar eventos de forma assíncrona, garantindo organização e escalabilidade no gerenciamento de mensagens em fluxos de dados complexos.

• AWS Lambda (Processamento Inicial): Executa funções sob demanda para realizar validações, transformações e outras lógicas nos arquivos antes do envio para os serviços de análise ou processamento.

• Amazon Transcribe: Automatiza a conversão de áudios em textos precisos. Ideal para transcrição de reuniões, gravações ou qualquer áudio armazenado no S3, com integração fluida a outros serviços.

• Amazon DynamoDB: Armazena informações em uma estrutura de banco de dados NoSQL, garantindo acesso rápido e eficiente. É ideal para grandes volumes de dados e oferece alta disponibilidade.

• Amazon DynamoDB Streams: Permite monitorar alterações realizadas em tabelas DynamoDB em tempo real. Integra-se ao Lambda para acionar eventos automaticamente após qualquer modificação.

• AWS Lambda (Processamento de Streams): Gerencia dados provenientes do DynamoDB Streams, ativando notificações ou integrando outros sistemas, assegurando continuidade no fluxo de dados processados.

• Amazon SNS: Envia notificações automatizadas para sistemas ou usuários finais sobre a conclusão de processos, utilizando canais como e-mails, SMS ou webhooks para integração.

• Amazon Bedrock: Oferece modelos avançados de machine learning para gerar análises preditivas ou insights semânticos, complementando fluxos de dados com inteligência artificial.

• AWS Lambda (Análises Avançadas): Executa análises e processamento de dados complexos antes de enviá-los ao Bedrock ou outras soluções, aplicando lógica específica conforme a necessidade.

• Amazon CloudWatch: Monitora métricas e logs de todos os serviços AWS integrados, enviando alertas em caso de problemas e garantindo visibilidade para operações e desempenho.

• AWS CloudTrail: Registra todas as atividades realizadas nos serviços AWS, oferecendo auditoria completa e rastreamento de ações administrativas e automações no ambiente.

• AWS Config: Avalia e monitora a conformidade da infraestrutura com as políticas definidas, detectando alterações não autorizadas e gerando alertas em tempo real.

• AWS Budgets: Monitora os custos associados aos serviços da AWS, alertando os responsáveis quando os limites financeiros predefinidos são alcançados ou excedidos.

Essa arquitetura modular e integrada combina a robustez da AWS com serviços como SQS, DynamoDB, Bedrock e Lambda, oferecendo processamento escalável, segurança e inteligência. Ferramentas como CloudWatch, CloudTrail e Config garantem observabilidade e conformidade, atendendo às demandas complexas de forma eficiente e promovendo a evolução contínua dos sistemas.

Resultados

• Redução de Custos de Atendimento: Com a adoção da IA generativa e o uso do Amazon Bedrock, a Desk Manager obteve uma redução de 40% nos custos por atendimento, permitindo uma alocação mais eficiente dos recursos.

• Alta Assertividade nas Gravações de Áudio: A nova solução apresentou uma taxa de 99% de assertividade nas transcrições de áudio em português, aprimorando a qualidade do atendimento ao cliente.

• Automação no Atendimento ao Cliente: Entre abril e junho de 2024, 13% dos atendimentos foram finalizados automaticamente pela IA, liberando a equipe para resolver questões mais complexas e estratégicas.

• Conformidade com a LGPD: A integração da IA com o Amazon Bedrock permitiu à Desk Manager aumentar a conformidade com a LGPD, eliminando dados pessoais nas respostas automáticas e melhorando a segurança das informações.

• Integração com Alexa: A Desk Manager agora oferece a geração de relatórios através da Alexa, proporcionando aos usuários um canal adicional para acompanhar o status de suas operações.

• Processamento de Textos Mais Longos: A utilização do Amazon Bedrock permitiu o processamento de textos mais extensos, superando as limitações anteriores de tokens e melhorando a capacidade de atendimento.

• Reestruturação Contínua das Bases de Conhecimento: A Desk Manager está continuamente atualizando suas bases de conhecimento, visando aprimorar a precisão e relevância das respostas automáticas da IA.