Numa era marcada pela expansão incessante das redes sociais, o combate ao discurso de ódio online torna-se um desafio cada vez mais premente. A tecnologia, com seu vasto potencial, emerge como uma ferramenta crucial nesta batalha. Este artigo, publicado em colaboração com The Conversation, explora como a tecnologia pode ser utilizada para combater o ciberbullying e o discurso de ódio online.

O Caso de Josh Bornstein e a Necessidade de Regulação
Em 2015, o advogado australiano Josh Bornstein foi vítima de falsificação e roubo da sua identidade online, tendo sido publicado com o seu nome um artigo de profundo conteúdo racista. As reacções extremas que enfrentou e as dificuldades em reestabelecer a verdade dos factos destacaram as consequências profundas do ódio online. Bornstein considerando a realidade de insegurança demonstrada pelo incidente , apela agora para a regulação das redes sociais e por soluções legais que permitam a ação das vítimas.

O Modelo Alemão de Regulação
A Alemanha introduziu legislação que exige a remoção rápida de discursos de ódio claros das plataformas sociais. A Meta, por exemplo, viu-se obrigada a reforçar a sua equipa para cumprir as novas regras para o Facebook, sob pena de multas significativas. Este modelo oferece uma visão de uma resposta estatal forte ao ciberbullying, mas também levanta preocupações sobre o equilíbrio com a liberdade de expressão.

A Importância da Inteligência Artificial
A incorporação da inteligência artificial (IA) no apoio à regulação é indispensável, dado o volume de dados nas redes sociais. Instituições como o Online Hate Prevention Institute (OHPI) na Austrália têm trabalhado em formas de medir e identificar conteúdos abusivos através de abordagens de crowdsourcing e IA.

Desafios e Limitações da Tecnologia
A IA enfrenta limitações significativas, como a dificuldade em detectar linguagem codificada, simbolismo e eufemismos utilizados por grupos extremistas. Além disso, a eficácia dos sistemas automatizados é limitada quando aplicada a grandes plataformas de redes sociais, dado o enorme volume de informação produzido diariamente. Importante também é a linguagem na qual os dados são criados, já que a precisão dos modelos de AI também varia de acordo com a língua em que a informação é produzida, conforme experiências realizadas com a ferramenta de Conversação AI da Google.

Colaboração entre Juristas e Cientistas de Dados
Para uma regulação eficaz do espaço online, é necessário um esforço conjunto entre juristas e cientistas de dados. A IA pode identificar subconjuntos específicos de ódio online, mas não é uma solução completa. A verificação de ferramentas baseadas em IA contra outras abordagens e a revisão de dados por especialistas são essenciais.

Conclusão
Os inquéritos, conversas e ferramentas sobre ciberbullying representam passos importantes, desde que facilitem as soluções para os desafios atuais e futuros. A tecnologia, especialmente a IA, tem um papel a desempenhar, mas as suas limitações devem ser identificadas, reconhecidas e minimizadas. A colaboração multidisciplinar é a chave para um combate eficaz ao discurso de ódio online, equilibrando a necessidade de segurança com a proteção da liberdade de expressão.