internet

Inteligência artificial tem impulsionado imagens de abuso na internet

Inteligência artificial tem impulsionado imagens de abuso na internet

A inteligência artificial (IA) é uma das ferramentas mais utilizadas atualmente para impulsionar a divulgação de imagens de exploração e de abuso sexual na internet. A informação é apontada em pesquisa divulgada nesta terça-feira (6) pela organização não governamental (ONG) Safernet.

Com o uso da inteligência artificial generativa, por exemplo, um criminoso consegue utilizar um vídeo ou imagem disponível na internet e transformá-lo em um conteúdo sexual. “A proliferação de aplicativos de IA generativa permite que se pegue a foto de uma pessoa vestida e se tire a roupa daquela pessoa”, explicou Thiago Tavares, fundador e diretor-presidente da SaferNet Brasil. “Isso pode ser manipulado, gerar uma mídia sintética e representar aquela pessoa em uma imagem ultrarrealista de nudez”.

O tema foi discutido hoje no evento Dia da Internet Segura, que ocorre até amanhã (7) em São Paulo. Em uma das palestras, o diretor executivo da WeProtect Global Alliance, Iain Drennan, disse que a inteligência artificial é uma nova tendência para os casos de abuso sexual no mundo. “Você simplesmente usa uma imagem sintética, você nem usa uma imagem real. E isso pode ser levado a uma escala industrial. Os criminosos podem acessar a tecnologia de IA disponível ou de realidade estendida”, explicou. “Isso é um material que pode não ser ilegal, mas está sendo utilizado com propósito sexual”, alertou.

O tema é amplo e envolve não só a manipulação de imagens. Drennan citou também casos de estupros que vêm ocorrendo em salas de realidade virtual ou metaverso e que estão sob investigação em alguns países. “As salas de realidade virtual são seguras para meninas? Temos que dar conta desse tipo de crime com legislação”.

Segundo o especialista, os grupos que são mais vulneráveis a esses tipos de exposição sexual na internet são, por exemplo, crianças com algum tipo de deficiência ou LGBTs. “Temos que lidar com isso de uma maneira sensível para que esses grupos não se sintam ainda mais marginalizados ou vulneráveis”, ressaltou.

Legislação

No final do ano passado, a Câmara dos Deputados aprovou a criminalização de quem criar e divulgar imagens (foto e vídeo) de nudez e conteúdo sexual de uma pessoa utilizando inteligência artificial no Brasil. Pelo texto, a pena para esse tipo de crime será de 1 a 4 anos de prisão, além de multa. A proposta agora está em análise no Senado.

Para Drennan, a legislação é um dos passos para impedir a proliferação desse tipo de crime na internet. Mas é preciso mais, alertou. “Precisamos de ajuda do governo, do setor privado e da sociedade civil, mas também do empoderamento dos pais e dos tutores das crianças. Mas essa responsabilidade não deve ser responsabilidade única das famílias e das crianças”.

A preocupação com o uso da inteligência artificial para exploração ou abuso sexual e também para uso político se estendeu também para o setor privado. Hoje, a gigante norte-americana Meta anunciou que vai identificar qualquer imagem gerada por inteligência artificial que aparecer em suas redes sociais Facebook, Instagram e Threads. O anúncio foi feito por Nick Clegg, presidente de assuntos globais da Meta.

Segundo Clegg, imagens fotorrealistas criadas por meio de inteligência artificial nas redes sociais da Meta já estão recebendo rótulos. Mas a empresa também está desenvolvendo ferramentas para identificar conteúdo de inteligência artificial criado por meio de outras empresas. “O conteúdo de parceiros, incluindo Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock será marcado com rótulos que indicam se algo foi criado com IA. Embora esta não seja uma solução perfeita e que não vai conseguir resolver tudo, este é um primeiro passo importante em um processo em evolução”, escreveu no X. “As pessoas valorizam a transparência em torno desta nova tecnologia. Por isso, quanto mais pudermos fazer para desmitificar, melhor”, acrescentou.

Denúncias

A pesquisa divulgada hoje pela Safernet mostrou que as denúncias da presença de imagens de abuso e exploração sexual infantil na internet bateram recorde em 2023, somando 71.867 queixas no ano passado.

“Isso representa um recorde absoluto em número de novas URLs (endereços ou páginas da internet) denunciadas desde a criação da instituição, em 2005. É o pico da série histórica em 18 anos”, destacou Thiago Tavares, da SaferNet.

Segundo a ONG, três fatores principais motivaram o aumento das denúncias de imagens de abuso e exploração sexual infantil. Além do uso da inteligência artificial para criação desse tipo de conteúdo também houve demissões em massa realizadas pelas big techs, que atingiram as equipes de segurança, integridade e moderação de conteúdo de algumas plataformas; e a proliferação da venda de imagens de nudez e sexo autogeradas por adolescentes.

Casos de exploração e de abuso sexual na internet podem ser denunciados na Central de Denúncias da SaferNet. É preciso colar o link do endereço da internet suspeito e seguir os demais passos indicados na plataforma.

Para casos de violência sexual infantil, também pode ser acionado o Disque 100, canal mantido pelo governo federal.

Exploração sexual infantil na internet bate recorde em 2023

Exploração sexual infantil na internet bate recorde em 2023

@ebc

As denúncias da presença de imagens de abuso e exploração sexual infantil na internet bateram recorde em 2023 – resultado é o maior da série histórica, iniciada em 2006. Foram 71.867 queixas no ano passado,número 28% superior ao recorde anterior, registrado em 2008 (56.115 denúncias). Em relação a 2022, houve alta de 77,1%. Os dados, divulgados hoje (6), são da organização não governamental (ONG) Safernet.

Segundo a ONG, três fatores principais motivaram o aumento das denúncias de imagens de abuso e exploração sexual infantil: as demissões em massa realizadas pelas big techs, que atingiram as equipes de segurança, integridade e moderação de conteúdo de algumas plataformas; a proliferação da venda de imagens de nudez e sexo autogeradas por adolescentes; e o uso de inteligência artificial para a criação desse tipo de conteúdo.

As denúncias de imagens de abuso e exploração sexual infantil, somadas a outras violações de direitos humanos ou crimes de ódio na internet (xenofobia, tráfico de pessoas, intolerância religiosa, neonazismo, apologia a crimes contra a vida, racismo, LGBTfobia, e misoginia) também foram recorde. Em 2023, a Safernet recebeu um total de 101.313 queixas – o recorde anterior, registrado em 2008, totalizou 89.247 denúncias.

Entre os crimes de ódio praticados na internet destacaram-se as altas, em relação a 2022, de 252,25% das denúncias de xenofobia, e de 29,97% de intolerância religiosa na rede. De acordo com a ONG, o crescimento das queixas desses dois crimes está atrelado à guerra na Faixa de Gaza, na Palestina, no Oriente Médio.

Houve queda no número de denúncias de três crimes de ódio entre 2023 e 2022: racismo, que caiu 20,36%; LGBTfobia, -60,57% e misoginia, -57,56%. Segundo a Safernet, a queda nas denúncias desses tipos de crimes em 2023 já era esperada, uma vez que essas denúncias aumentam em anos eleitorais, comportamento registrado em 2018, 2020 e 2022.

Operação investiga suspeitos de extorsão via internet

Operação investiga suspeitos de extorsão via internet

@ebc

Ministério da Justiça e Segurança Pública (MJ) e Polícia Civil do Distrito Federal (PCDF) deflagraram nesta quinta-feira (28) a Operação Cyber Shield, com o objetivo de combater os crimes de extorsão praticados por organizações criminosas na internet contra pessoas que acessavam conteúdo sexual em grupos de aplicativos de troca de mensagens.

De acordo com a PCDF, os grupos de aplicativos foram criados pelos próprios criminosos “para atrair as vítimas, principalmente moradoras do Distrito Federal, que atuavam em importantes cargos públicos, e/ou familiares de autoridades públicas”.

Ao identificarem que as vítimas tinham esse perfil, os criminosos aprofundavam as pesquisas por meio de acesso indevido em bases de informações sigilosas pertencentes à segurança pública.

Segundo o MJ, a organização criminosa fazia essas extorsões usando “informações pessoais obtidas a partir de acesso ao sistema da PCDF”, e que, com essas informações, faziam as ameaças às vítimas e a seus familiares, “exigindo sucessivas transferências de Pix para que não divulgarem os dados”.

Mandados e prisões

Cinco mandados de busca e apreensão e cinco de prisões temporárias estão sendo cumpridos em São Paulo e na Bahia. De acordo com os investigadores, quatro pessoas foram detidas.

“Durante as investigações, foi constatado que os criminosos operavam a partir dos municípios de Feira de Santana e Salvador (BA), Pirituba (SP) e São Paulo (SP). Eles também possuem relação com facções criminosas nesses estados”, informou o ministério.

O MJ acrescenta que, confirmados os delitos, os investigados poderão responder pelos crimes de extorsão com aumento de pena em decorrência da participação de duas ou mais pessoas e de invasão de dispositivo informático, com aumento de pena em decorrência de obtenção de informações sigilosas.

Governo estuda plano de combate à violência contra mulher na internet

Governo estuda plano de combate à violência contra mulher na internet

@ebc

O governo federal deve propor um plano de combate à violência contra as mulheres nas redes sociais. A informação é da primeira-dama, Janja Lula da Silva, que, nesta terça-feira (19), participou do programa Conversa com o Presidente, ao lado do presidente Luiz Inácio Lula da Silva.

“Eu acho que a gente vai começar a discutir isso de uma forma mais forte”, disse Janja. Na semana passada, o perfil de Janja na plataforma X (antigo Twitter) foi hackeado e, no ataque, os invasores publicaram mensagens ofensivas e com xingamentos.

Para a primeira-dama é preciso regular a atuação das empresas proprietárias de redes sociais no Brasil. “A gente precisa, não só da regularização das redes, mas a gente precisa discutir a monetização dessas redes sociais, porque hoje não importa se é do bem ou do mal, eles ganham dinheiro”, disse. “As redes sociais hoje, eu falo, estão acima de qualquer coisa, acima de regras, acima do famoso mercado, então eles estão flanando”, acrescentou.

Janja afirmou ainda que, ao longo da história, a humanidade aprendeu a criar regras de convivência na sociedade e com a internet não pode ser diferente. Segundo ela, o pedido de suspensão da conta levou uma hora e meia para ser atendido pelo X.

“Por conta de estar nesse lugar que eu estou, sou uma pessoa pública, foi tão difícil que o Twitter derrubasse, congelasse, a minha conta. E eu falo, por uma hora e meia o seu Elon Musk [proprietário do X] ficou muito mais milionário com aquele ataque. É essa que é a questão”, disse, afirmando que vai processar a empresa.

“Eu não sei nem aonde processá-los, se eu processo no Brasil, se eu processo nos Estados Unidos, porque processá-los eu vou, de alguma forma. A gente fez uma pesquisa, tem muitas pessoas públicas que têm as suas contas invadidas […] Então, a gente tem que, de alguma forma, responsabilizar essas plataformas e regulá-las. O problema não é só do Brasil, o problema é global”, explicou.

Misoginia

Janja falou ainda sobre o caráter misógino e violento do ataque e comentou que um dos suspeitos do crime tem 17 anos.

“O que aconteceu semana passada é ruim, mas a gente se acostuma a receber ódio pelas redes. As mulheres se acostumam a receber ódio pelas redes. Mas o que aconteceu semana passada foi muito mais invasivo”, disse. “Então a gente precisa investigar, não criminalizar só esse menino e tentar reeducá-lo para viver numa sociedade com um pouco mais de solidariedade e empatia, mas a gente precisa também investigar quem são os adultos que estão por trás desses adolescentes. Porque existem adultos por trás desses adolescentes fomentando esse ódio nas redes”, acrescentou.

O presidente Lula também manifestou sua indignação e disse que as pessoas estão ficando desumanas. “A violência contra meninas é uma coisa absurda […], não dá pra gente não tratar isso como uma coisa criminosa. E tem menina se cortando, tem gente se matando, tem gente se violentando, então nós vamos ter que fazer uma regulação séria”, disse. Para o presidente, o desafio é fazer uma regulação sem censurar a liberdade de expressão.

“A União Europeia já fez uma regulação, a gente vai ter que olhar bem o que foi feito, vamos ver o que está acontecendo na China, nos Estados Unidos, mas é preciso que o mundo tome cuidado com isso. O mundo já era preconceituoso contra a mulher, o mundo já era preconceituoso contra o negro, o mundo já era preconceituoso contra o pobre, agora com a internet virou hiper preconceituoso, porque as pessoas transformam o seu preconceito pessoal para milhares de pessoas ou milhões de pessoas”, explicou.