Chatbot 100% conversacional


Reputação 4

Pessoal,

 

Alguém já colocou em produção um bot 100% rodando com respostas de AI? Sem nenhum menu, ou pelo menos, muito pouco?

 

A direção da empresa quer aplicar, por que viram alguns modelos.


3 comentários

Reputação 2
Crachá +1

Bom dia, @Bruno_Gabriel1!

 

O uso da inteligência artificial pode ser utilizada em duas frentes: 

Com provedores de IA de linguagem de processamento de linguagem natural (DialogFlow, LUIS, IBM Watson), você restringe o seu bot a um conhecimento que você mesmo constrói. Ou seja, a partir do desenho de intenções e entidades, você direciona o usuário para blocos específicos do fluxo.

Com a IA generativa, como ChatGPT e Copilot, você consegue elaborar respostas mais fluídas, que soam mais naturais e engajam com o cliente. Neste caso, você usa uma base de conhecimento “do mundo”, se não restringir o uso.

Mas é bem tranquilo de usar a IA para colocar um campo de resposta livre que direciona o usuário para momentos do fluxo, só com o bot de linguagem de processamento de linguagem natural já possibilita. Mas é necessário contratar o serviço da provedora de IA.

Reputação 1

Até existe a possibilidade, como o @GuilhermeRainner comentou. Eu já vi bots que usam IA generativa em 100% das interações só em fluxos pequenos e com finalidades específicas. Participei de um projeto na área da saúde onde esse recurso seria usado pro cliente final localizar parceiros da rede credenciada (clínicas, laboratórios, etc) e não funcionou. A IA alucinou (inventou dados). Então eu não recomendo fazer isso em situações que você precise lidar com muitos filtros de pesquisa. Exemplo: o cliente A tem o plano XPTO, tá localizado em Ribeirão Preto e quer saber sobre um assunto Y, então pra ele deve ser exibido um resultado de acordo com essas especificações.

Em termos de usabilidade, você transforma tudo em input aberto, ou seja, seu usuário sempre vai ter que digitar um texto nas interações. Seria mais rápido usar o componente quick reply, por exemplo, onde você só precisa tocar no botão pra seguir.

Sobre custo, esse bot pode ficar bem caro se você tiver um volume alto de conversar diárias, considerando que além dos custos com os tokens na OpenAI, você também tem o custo das conversas na Meta.

Reputação 2

Até existe a possibilidade, como o @GuilhermeRainner comentou. Eu já vi bots que usam IA generativa em 100% das interações só em fluxos pequenos e com finalidades específicas. Participei de um projeto na área da saúde onde esse recurso seria usado pro cliente final localizar parceiros da rede credenciada (clínicas, laboratórios, etc) e não funcionou. A IA alucinou (inventou dados). Então eu não recomendo fazer isso em situações que você precise lidar com muitos filtros de pesquisa. Exemplo: o cliente A tem o plano XPTO, tá localizado em Ribeirão Preto e quer saber sobre um assunto Y, então pra ele deve ser exibido um resultado de acordo com essas especificações.

Em termos de usabilidade, você transforma tudo em input aberto, ou seja, seu usuário sempre vai ter que digitar um texto nas interações. Seria mais rápido usar o componente quick reply, por exemplo, onde você só precisa tocar no botão pra seguir.

Sobre custo, esse bot pode ficar bem caro se você tiver um volume alto de conversar diárias, considerando que além dos custos com os tokens na OpenAI, você também tem o custo das conversas na Meta.

Pegando o gancho aqui na usabilidade, também dá pra usar um speech to text ou text to speech pra suportar áudios e não fechar o usuário apenas no texto. 

 

@Bruno_Gabriel1 , acho que esse é um experimento que vale muito a pena ser feito, mas com bastante cautela, pra vocês entenderem o comportamento do usuário e da IA. Ainda é difícil limitar as respostas de uma IA generativa, mesmo com uma boa engenharia de prompt. No entanto, acredito que é o futuro das aplicações conversacionais, então toda experimentação é válida!

Inclusive, tivemos um Talk aqui na Blip no qual eu falei justamente dessa perspectiva de um futuro 100% conversacional generativo.

 

 

Comente