4 minutos de leitura
Todos os argumentos de venda dos fornecedores de tecnologia parecem incluir a frase “alimentado por IA” ou “que potencia a inteligência artificial (IA)”. Mas a verdade incómoda é esta: uma grande parte do que é rotulado de “IA” não é realmente IA ou, pelo menos, não o é de uma forma significativa e com impacto comercial.
O que é AI-Washing?
A lavagem de IA é quando uma empresa comercializa um produto, caraterística ou processo como “IA” quando não o é. Na prática, é como se rotulasse regras ou scripts simples como “IA”, implicando autonomia onde não existe. Desperdiça tempo e orçamento com as soluções erradas, confunde os compradores e os utilizadores e corrói a confiança, tornando as pessoas cépticas.
Diferença de realidade
Um relatório recente do Massachusetts Institute of Technology (MIT) concluiu que cerca de 95% dos projectos-piloto de IA generativa das empresas não conseguem produzir um impacto mensurável nos lucros e nas perdas Forbes
O que isto sugere é: o simples facto de acrescentar “IA” ao seu produto ou processo não o torna magicamente transformador.
Como é que a “I.A. não real” se parece
Eis alguns padrões que irá ver:
- Um fornecedor afirma ser “orientado para a IA” quando a solução é, na realidade, uma automatização tradicional baseada em regras ou scripts com pouca ou nenhuma aprendizagem automática ou comportamento adaptativo.
- Os materiais de marketing destacam a “IA”, mas a implementação carece de uma infraestrutura de dados, de um caso de utilização claro ou de integração com o fluxo de trabalho da empresa - e, por isso, não produz valor.
- O termo “IA” é utilizado de forma vaga para atrair investimento, imprensa ou clientes, enquanto a tecnologia efectiva é mínima ou superficial. O fenómeno é frequentemente designado por “Lavagem de IA”. - Bernard Marr
- O fornecedor ou a organização não tem transparência sobre o que é IA e o que é software antigo.
Se “IA” significar apenas “algum algoritmo” ou “alguma automação” em vez de algo que se adapta, aprende ou aumenta significativamente a tomada de decisões, pode não merecer o rótulo.
Mais do que apenas irritante
Mais do que apenas irritante, a lavagem de IA acarreta custos reais. As organizações perseguem a “IA” por causa do burburinho e ficam presas em pilotos intermináveis que consomem tempo, talento e orçamento sem nunca produzirem resultados. À medida que todos os fornecedores colocam um rótulo de IA em software comum, os compradores e utilizadores têm dificuldade em discernir o que realmente cria valor; a relação sinal/ruído colapsa e a tomada de decisões torna-se mais lenta.
Desilusões repetidas corroem a confiança: funcionários, clientes e partes interessadas tornam-se cépticos e começam a rejeitar até mesmo as ferramentas que poderiam realmente ajudar. Entretanto, o custo de oportunidade aumenta: os recursos investidos em iniciativas exageradas ou mal rotuladas poderiam ter financiado melhorias digitais diretas ou, melhor ainda, o trabalho e a integração de dados necessários para que a verdadeira IA seja bem sucedida.
Porque é que as pessoas se devem preocupar com a verdadeira IA
Apesar da propaganda e dos falsos alarmes, a verdadeira IA tem potencial para ser um fator de mudança quando bem feito. A chave é concentrar-se em caso de utilização + dados + integração de processos + impacto mensurável. Por exemplo, quando encontrar um problema comercial específico, certifique-se de que tem os dados certos, as pessoas certas, o fluxo de trabalho certo e uma métrica clara.
Como diz um artigo: a pergunta “Que problema comercial estamos a resolver?” é o ponto de partida certo. CIO
Além disso, compreender que muitos “projectos de IA falham” não significa que a IA seja inútil - significa, frequentemente, que as fundações não estavam preparadas.
Sinais de lavagem AI
Eis alguns sinais de alerta:
- “A ”IA" é utilizada como uma palavra-chave abrangente em vez de ser claramente definida.
- Alegações de “IA” mas nenhuma explicação sobre a forma como aprende, se adapta ou se integra nos fluxos de trabalho.
- O fornecedor tem poucas provas de implementações em escala de produção ou de resultados mensuráveis.
- A solução carece de uma governação clara dos dados, de clareza quanto à forma como o modelo é treinado ou mantido.
- O projeto é enquadrado como “vamos experimentar a IA” com objectivos vagos em vez de uma abordagem do tipo “temos este objetivo mensurável, a IA é a ferramenta”.
Relatórios como o do CFA Institute descrevem “AI washing: signs, symptoms, and suggested solutions” para investidores e utilizadores.
O que pode fazer
Seja sincero quanto ao seu grau de preparação. Os resultados reais dependem de dados limpos, fluxos de trabalho bem integrados, partes interessadas empenhadas e governação básica. Se estas bases estiverem em falta, a iniciativa é provavelmente prematura. Esclareça também o termo “IA”. Peça aos fornecedores que expliquem com exatidão o que está na base da solução.
Determinar se utiliza aprendizagem automática, aprendizagem profunda ou sistemas de recomendação adaptativos, ou se é simplesmente uma automatização baseada em regras com um novo rótulo. Respostas transparentes evitam confusões e desilusões.
Faça um plano para o que acontece depois do projeto-piloto. Se o projeto não cumprir as métricas que definiu, altere rapidamente ou pare e reafecte os recursos ao que funciona.
Continuar a financiar uma experiência com fraco desempenho faz perder tempo e corrói a confiança. Concentre-se em resultados demonstráveis e protegerá a atenção da sua equipa, ao mesmo tempo que cria credibilidade para a IA nos casos em que esta realmente acrescenta valor.
Conclusão
O AI-washing é um risco a curto prazo que já atrasa as equipas. Desperdiça tempo nos pilotos, turva as expectativas e corrói a confiança precisamente quando são necessárias vitórias claras. É por isso que estamos agora preocupados.
Representative24 fornece agentes de experiência do cliente (CX) que fazem mais do que conversar. Ligam-se aos seus sistemas e executam tarefas reais: marcação de consultas, qualificação de contactos, atualização de registos CRM, abertura de bilhetes e marcação de reuniões - na Web, no WhatsApp, no Facebook e através de API. O foco é a ação, a integração e o alcance multicanal, por isso os resultados são tangíveis e não cosméticos.