A inteligência artificial está remodelando inúmeros setores, mas, de acordo com um novo estudo da Universidade de Michigan, nem todos os grupos a consideram benéfica. A IA emocional ou reconhecimento de emoções, que alega permitir que máquinas interpretem emoções humanas, gerou desconforto, especialmente entre grupos marginalizados, de acordo com uma pesquisa abrangente de uma população diversificada dos EUA.
Esse desconforto abrange aplicações em cuidados de saúde, ambientes de trabalho, carros e até brinquedos infantis. Comunidades marginalizadas — como minorias e indivíduos com deficiências — expressam níveis de conforto significativamente mais baixos, indicando profundas implicações sociais e éticas, indicou a pesquisa. O estudo descobriu que, embora as pessoas se sintam um pouco mais confortáveis com a detecção de felicidade e surpresa pela IA, ainda há um desconforto generalizado, especialmente em relação a aplicações em mídias sociais, entrevistas de emprego e pesquisas de consumidores.
“Essas discrepâncias de conforto destacam uma necessidade urgente de considerar a identidade ao avaliar o alcance social da IA emocional”, disse Nazanin Andalibi , professora assistente na Escola de Informação e principal autora do estudo. Com respostas de quase 600 pessoas, a pesquisa ressalta uma apreensão coletiva em relação à IA emocional em casos de uso importantes: espaços públicos, assistência médica, ambiente de trabalho, entrevistas de emprego, pesquisa de consumidores, controle de fronteiras, mídias sociais, brinquedos infantis, educação, carros e atividades pessoais. Embora o nível de conforto tenha sido baixo em 11 contextos, mesmo o contexto mais favorável (assistência médica) apresentou baixo nível de conforto; isso é impressionante, visto que o uso da IA emocional na área da saúde é frequentemente elogiado, afirmam os pesquisadores.
“A IA emocional afirma inferir nossos sentimentos mais profundos e íntimos. Mesmo que essas inferências não sejam precisas — o que muitos especialistas afirmam que não são —, sua ascensão ainda levanta sérias preocupações com a privacidade, como demonstrado pelo desconforto dos indivíduos em diferentes contextos de implantação”, disse a coautora do estudo, Alexis Shore Ingber , pesquisadora da Escola de Informação. Crucialmente, a análise revela que examinar atentamente os fatores de identidade proporciona insights mais profundos sobre esses níveis de conforto. Pessoas não brancas geralmente relatam mais conforto com a IA emocional do que indivíduos brancos na maioria das situações, exceto em contextos como espaços públicos e entrevistas de emprego.
As descobertas enfatizam um chamado urgente à ação para desenvolvedores e formuladores de políticas nos Estados Unidos: respeitar esse desconforto e promulgar regulamentações fortes para proteger os “dados emocionais” são essenciais, pois a IA emocional continua a ser implantada em cenários de alto risco. “A IA emocional e os dados emocionais devem ser regulamentados nos Estados Unidos”, disse Andalibi. A União Europeia proibiu recentemente o uso de IA emocional no ambiente de trabalho e na educação; embora isso não seja perfeito, é um passo na direção certa, e espero que os EUA façam melhor.” As conclusões serão divulgadas na Conferência sobre Fatores Humanos em Sistemas Computacionais de 2025, em Yokohama, Japão.
