Na semana em que os fãs dos Beatles foram presenteados com uma música inédita da banda, recuperada e editada por meio de inteligência artificial, um caso de manipulação de imagens apavorou a comunidade escolar do Colégio Santo Agostinho, no Rio de Janeiro. Um grupo de alunos criou montagens fotográficas de diversas colegas para que parecessem nuas, com base nas publicações originais das meninas em redes sociais. Como? Também usando inteligência artificial.
Os dois episódios nos dão algumas pistas do que estamos começando a enfrentar — e que tende a se sofisticar mais e mais — com o desenvolvimento de aplicativos e recursos tecnológicos cada vez mais acessíveis e, como o próprio termo sugere, inteligentes, aproximando-se progressivamente das formas pelas quais nós, humanos, raciocinamos.
O potencial do que chamamos de inteligência artificial ainda é enigmático e, por isso mesmo, assustador. Algumas previsões de cientistas são, inclusive, apocalípticas, insinuando que ela pode nos levar à extinção como espécie. Também há, é claro, quem veja exagero nesse posicionamento.
De qualquer forma, o debate sobre a regulação desses avanços tecnológicos não é só necessário como urgente. Isso porque algumas consequências já são sentidas na sociedade, e de formas diversas, que vão além do privilégio de poder ouvir perfeitamente, em 2023, a voz de John Lennon, morto em 1980.
Não é de hoje que se fala na capacidade destrutiva que as deepfakes podem ter na reputação de pessoas, especialmente mulheres, por conta da criação de conteúdos pornográficos falsos — a vítima famosa mais recente foi a atriz Ísis Valverde.
O que choca no caso da escola carioca, e também em mais uma denúncia semelhante em um colégio particular de Recife (PE), é perceber que a criação de mídias sintéticas ilícitas está ao alcance de crianças e adolescentes. Portanto, é preciso reconhecer que, infelizmente, essas não são nem serão as últimas ocorrências do tipo.
Este debate deve ir além das possíveis punições contra menores de idade para delitos do tipo. É necessário prevenir e, obviamente, educar para o uso ético das novas tecnologias, o que inclui as infinitas possibilidades que a inteligência artificial nos traz.
No entanto, parte do problema é que os próprios adultos não foram educados para lidar com tudo isso. Mães, pais, responsáveis e professores não sabem exatamente o que fazer quando veem filhos e alunos envolvidos em condutas criminosas nas plataformas digitais. Falta o entendimento do papel de cada ator nesse pacto coletivo em prol da construção de uma cidadania para o mundo conectado.
As famílias devem exercer o controle do que as crianças e jovens baixam, veem, falam e publicam em redes sociais e aplicativos de mensagem, reforçando que valores como ética, respeito e empatia antecedem o momento que estamos vivendo: são válidos de forma perene. As escolas, por sua vez, não podem ignorar a realidade: devem apoiar o desenvolvimento de habilidades e competências que façam com que os estudantes (e futuros cidadãos) usem o ambiente digital de forma crítica e responsável, com segurança e sem causar danos.
Ao passo que as máquinas estão aprendendo a serem humanas, nós precisamos aprender a nos proteger dos muitos riscos que esse processo oferece. Caminhamos para um contexto em que distinguir entre o que é real e o que não é se tornará praticamente impossível, em proporções jamais vistas. Se não ensinarmos as novas gerações a não só desconfiarem dos conteúdos que recebem, mas também a não criarem imagens que causem exposição e sofrimento a conhecidos e desconhecidos, alguns dos prognósticos pessimistas sobre os perigos da inteligência artificial podem realmente se concretizar.
