Aprimoramento e soluções na Desk Manager com IA generativa AWS
O Desafio
A Desk Manager se deparou com um desafio ao tentar integrar a inteligência artificial generativa em sua plataforma de forma eficiente, sem gerar etapas extras para os usuários. Desde o lançamento do ChatGPT em 2022, a empresa já vinha estudando como integrar essa tecnologia, mas encontrou dificuldades em implementá-la sem que seus clientes precisassem criar contas separadas. Embora a adoção do ChatGPT tenha gerado bons resultados, surgiram obstáculos no processo, como a necessidade de adaptação das bases de dados da empresa para a IA generativa, e a integração mais profunda e imperceptível da tecnologia à plataforma.
A Solução
Em busca de uma solução mais robusta e eficiente, a Desk Manager firmou uma parceria com a CloudDog, um parceiro de serviços de nível avançado da AWS. Com a consultoria da CloudDog, a Desk Manager adotou uma nova abordagem arquitetônica, expandindo seu uso dos serviços AWS para integrar o Amazon API Gateway, AWS Lambda e Amazon Bedrock.
Essa arquitetura serverless foi projetada para otimizar o processamento de dados e integrar o agente de IA generativa diretamente à plataforma. A integração com o Amazon Bedrock, utilizando o modelo de linguagem de grande porte Anthropic Claude 3, trouxe uma análise de conteúdo mais eficiente, rápida e econômica.
A implementação foi concluída em abril de 2024, e o novo agente de IA substituiu completamente o uso do ChatGPT. Além disso, a equipe da Desk Manager iniciou a reestruturação das bases de conhecimento, buscando aprimorar a capacidade de compreensão da IA.
Arquitetura
-
Amazon S3: Funciona como repositório central para armazenamento de dados, como backups, arquivos multimídia e documentos. Oferece segurança, durabilidade e alta escalabilidade.
-
Amazon SQS: Atua como uma fila de mensagens para processar eventos de forma assíncrona, garantindo organização e escalabilidade no gerenciamento de mensagens em fluxos de dados complexos.
-
AWS Lambda (Processamento Inicial): Executa funções sob demanda para realizar validações, transformações e outras lógicas nos arquivos antes do envio para os serviços de análise ou processamento.
-
Amazon Transcribe: Automatiza a conversão de áudios em textos precisos. Ideal para transcrição de reuniões, gravações ou qualquer áudio armazenado no S3, com integração fluida a outros serviços.
-
Amazon DynamoDB: Armazena informações em uma estrutura de banco de dados NoSQL, garantindo acesso rápido e eficiente. É ideal para grandes volumes de dados e oferece alta disponibilidade.
-
Amazon DynamoDB Streams: Permite monitorar alterações realizadas em tabelas DynamoDB em tempo real. Integra-se ao Lambda para acionar eventos automaticamente após qualquer modificação.
-
AWS Lambda (Processamento de Streams): Gerencia dados provenientes do DynamoDB Streams, ativando notificações ou integrando outros sistemas, assegurando continuidade no fluxo de dados processados.
-
Amazon SNS: Envia notificações automatizadas para sistemas ou usuários finais sobre a conclusão de processos, utilizando canais como e-mails, SMS ou webhooks para integração.
-
Amazon Bedrock: Oferece modelos avançados de machine learning para gerar análises preditivas ou insights semânticos, complementando fluxos de dados com inteligência artificial.
-
AWS Lambda (Análises Avançadas): Executa análises e processamento de dados complexos antes de enviá-los ao Bedrock ou outras soluções, aplicando lógica específica conforme a necessidade.
-
Amazon CloudWatch: Monitora métricas e logs de todos os serviços AWS integrados, enviando alertas em caso de problemas e garantindo visibilidade para operações e desempenho.
-
AWS CloudTrail: Registra todas as atividades realizadas nos serviços AWS, oferecendo auditoria completa e rastreamento de ações administrativas e automações no ambiente.
-
AWS Config: Avalia e monitora a conformidade da infraestrutura com as políticas definidas, detectando alterações não autorizadas e gerando alertas em tempo real.
-
AWS Budgets: Monitora os custos associados aos serviços da AWS, alertando os responsáveis quando os limites financeiros predefinidos são alcançados ou excedidos.
Essa arquitetura modular e integrada combina a robustez da AWS com serviços como SQS, DynamoDB, Bedrock e Lambda, oferecendo processamento escalável, segurança e inteligência. Ferramentas como CloudWatch, CloudTrail e Config garantem observabilidade e conformidade, atendendo às demandas complexas de forma eficiente e promovendo a evolução contínua dos sistemas.
Resultados
-
Redução de Custos de Atendimento: Com a adoção da IA generativa e o uso do Amazon Bedrock, a Desk Manager obteve uma redução de 40% nos custos por atendimento, permitindo uma alocação mais eficiente dos recursos.
-
Alta Assertividade nas Gravações de Áudio: A nova solução apresentou uma taxa de 99% de assertividade nas transcrições de áudio em português, aprimorando a qualidade do atendimento ao cliente.
-
Automação no Atendimento ao Cliente: Entre abril e junho de 2024, 13% dos atendimentos foram finalizados automaticamente pela IA, liberando a equipe para resolver questões mais complexas e estratégicas.
-
Conformidade com a LGPD: A integração da IA com o Amazon Bedrock permitiu à Desk Manager aumentar a conformidade com a LGPD, eliminando dados pessoais nas respostas automáticas e melhorando a segurança das informações.
-
Integração com Alexa: A Desk Manager agora oferece a geração de relatórios através da Alexa, proporcionando aos usuários um canal adicional para acompanhar o status de suas operações.
-
Processamento de Textos Mais Longos: A utilização do Amazon Bedrock permitiu o processamento de textos mais extensos, superando as limitações anteriores de tokens e melhorando a capacidade de atendimento.
-
Reestruturação Contínua das Bases de Conhecimento: A Desk Manager está continuamente atualizando suas bases de conhecimento, visando aprimorar a precisão e relevância das respostas automáticas da IA.