Quando crianças, muitos de nós sentimos a dor dos insultos de um agressor ou fomos alvo de fofocas. Mas hoje em dia, as crianças estão colocando palavras maldosas e ofensivas em textos e nas redes sociais, onde podem permanecer. Muitos também tiram ou encaminham fotos de colegas de classe sem consentimento. E se isso não for suficientemente assustador para os pais, a inteligência artificial (IA) tornou agora possível que as pessoas criassem imagens falsas de pessoas reais, que são chamadas de deepfakes. E deepfakes são um risco do qual precisamos estar atentos porque podem afetar nossos filhos. Sabemos como manter nossos filhos protegidos da IA?
“Um deepfake é um vídeo, foto ou gravação de áudio que parece real, mas foi manipulado com IA”, de acordo com GAO.gov, o Government Accountability Office. E alguns alunos do ensino médio em Beverly Hills, Califórnia, de acordo com uma reportagem da NBC News, já foram pegos criando e compartilhando fotos nuas de colegas de classe geradas por IA. Os tempos mudaram desde que estávamos na escola. Aqui estão 5 maneiras de manter nossos filhos seguros em um mundo tecnológico em rápida mudança com imagens geradas por IA e deepfakes.
1. Mantenha-se informado sobre o que as pessoas estão gerando com a IA.
Se quisermos saber como manter as crianças protegidas da IA, temos que prestar atenção. Os cinco alunos da oitava série da Califórnia que criaram fotos nuas de colegas de classe foram expulsos. Mas a criação de deepfakes e a humilhação que causou às crianças visadas continuaram a acontecer nas escolas de todo o país. Deepfakes gerados por estudantes foram relatados em Nova Jersey, Flórida, estado de Washington e Califórnia. “Vinte estados aprovaram leis que penalizam a disseminação de material pornográfico não consensual gerado por IA”, diz a jornalista do Politico Dana Nickel, mas a forma como os distritos escolares lidam com a descoberta e denúncia de deepfakes à polícia varia de acordo com o estado. Los Angeles Times o jornalista John Healey diz que existem dezenas de aplicativos com tecnologia de IA “disponíveis on-line para ‘despir’ alguém em uma foto, simulando como seria a aparência de uma pessoa se estivesse nua quando a foto foi tirada”. A criação destas imagens pode causar muita dor e constrangimento aos pares e ter um efeito profundo e devastador nas vítimas.
Conclusão: Converse com seus filhos de maneira adequada à idade sobre aplicativos com tecnologia de IA e seus recursos. Amarre-o com respeito e bondade pelos outros.
2. Eduque seus filhos sobre genAI tendo em mente seus valores.
“O que vocês sabem sobre IA generativa?” perguntei durante o jantar. “Ou ChatGPT?” Meus dois filhos não ofereceram muito, mas já tinham ouvido falar. Então, compartilhamos o que sabíamos. Como a tecnologia genAI está sendo desenvolvida e lançada em ritmo acelerado, nós, como pais, temos uma oportunidade única de aprender com nossos filhos ou até mesmo ficar um passo à frente. Houve tantos avanços no mundo da genAI nos últimos 18 meses que pode ser difícil ficar por dentro de tudo. Mas, neste momento, ensinar as crianças sobre genAI e, ao mesmo tempo, enfatizar os valores familiares, é crucial.
Conclusão: A IA generativa pode criar novos textos e imagens do zero. Converse com seus filhos sobre se passar o trabalho gerado pela IA como se fosse seu é a coisa certa a fazer.
3. Estabeleça regras tecnológicas claras antes de permitir que seu filho use um chatbot.
A retrospectiva é sempre 20/20. Mas podemos ficar à frente do jogo e manter nossos filhos mais seguros com a tecnologia, sendo claros sobre as regras. Como New York Times a jornalista Jessica Grose argumenta: “As crianças precisam ser mais bem educadas, desde o ensino fundamental, sobre tecnologia e consentimento” antes que incidentes como o da Califórnia aconteçam. Ela continua dizendo que hoje em dia é “normal que as crianças tenham seus próprios celulares por volta dos 11 ou 12 anos, e muitas crianças ainda mais novas têm acesso a um iPad familiar com recursos de criação e compartilhamento de imagens”. Se as crianças já têm a tecnologia em mãos, isso torna a conversa sobre consentimento e deepfakes ainda mais importante.
Conclusão: As crianças devem ter clareza sobre as regras sobre não tirar ou encaminhar imagens sem a permissão da outra pessoa.
4. Experimente um criador de imagens de IA antes de entregar a ferramenta.
A IA facilitou a geração de novas imagens em segundos. É uma ferramenta tecnológica poderosa e seus filhos podem estar entusiasmados para experimentá-la, mas também não estão prontos para lidar com ela. Minha filha e eu recentemente pedimos a um criador de imagens “um dragão bebendo em um lago”. Recebemos alguns dragões bonitos que poderiam ter estrelado um livro ilustrado, mas também alguns dragões rosnantes com dentes afiados. Embora você possa pensar que imagens de dragões são um tanto inocentes, essas ferramentas de IA podem criar imagens para as quais seus filhos não estão preparados.
Os criadores de imagens de IA ainda estão aprendendo e também podem errar. Houve casos de imagens geradas por IA mostrando pessoas com muitos dedos ou dentes. Recentemente, o criador de imagens de IA da Gemini criou números históricos imprecisos e a empresa pausou esse recurso para fazer melhorias.
Resultado final: As empresas ainda estão aperfeiçoando a tecnologia de IA. Sabe-se que os chatbots interpretam coisas erradas com os fatos e o mesmo vale para as imagens. Tenha isso em mente, juntamente com a idade do seu filho, antes de dar a ferramenta a ele.
5. Tome medidas para proteger seus filhos de predadores que usam tecnologia de IA.
Quando você estiver se perguntando como manter as crianças protegidas da IA, tenha certeza de que existem etapas que você pode seguir. Você deve ter ouvido falar sobre os deepfakes envolvendo Taylor Swift, o presidente Biden e o presidente Trump. Eles enganaram muita gente. Mas os nossos filhos são suscetíveis à mesma exploração se as suas fotografias estiverem online. O Gabinete do Procurador-Geral da Carolina do Sul disse que “[C]os criadores estão tirando fotos identificáveis de crianças e transformando-as em imagens pornográficas por meio do uso de IA, deepfakes e outros softwares de edição.” Fotos de seus filhos no Facebook ou TikTok são suscetíveis. A boa notícia é que os legisladores estão apresentando projetos de lei para proteger as crianças, mas ainda pode ser algo em que se pensar se sua família tiver presença pública nas redes sociais.
Resultado final: Agora que os poderosos recursos de IA vieram para ficar, você pode querer repensar quais fotos você publica online. Com isso, verifique novamente suas configurações de segurança para que apenas aqueles em quem você confia possam ver suas fotos.
Que conselho você daria a alguém que deseja saber como manter as crianças protegidas da IA?
