A inteligência artificial tem cada vez mais sido adotada por plataformas para reduzir comentários online inapropriados

A inteligência artificial tem cada vez mais sido adotada por plataformas para reduzir comentários online inapropriados. Desde o ano passado, o Twitter e Instagram adotam ferramentas que alertam, antes da postagem, que a publicação pode ser ofensiva. Agora, a mais recente é a do Tinder. Com a pergunta “você tem certeza?”, faz os usuários reconsiderarem compartilharem mensagens potencialmente ofensivas. Segundo a plataforma de namoro, nos primeiros testes, o recurso já reduziu em mais de 10% o envio de mensagens inadequadas, e os usuários eram menos propensos a serem denunciados por esse motivo nas semanas seguintes — o que o Tinder vê como um sinal de mudança comportamental de longo prazo.

Mas as plataformas ainda enfrentam os vieses raciais da IA. Um estudo apontou que tuítes de americanos negros tinham 1,5 vez mais probabilidade de serem classificados como odiosos ou ofensivos.