A polêmica entre inteligências artificiais na pedofilia
Uso desatento de bancos de dados de IA
Quando os apaixonados pela tecnologia usam sistemas de IA para gerar imagens, eles ignoram que essas ferramentas podem ser usadas em coleções de imagens repreensíveis. De acordo com pesquisas enviadas pelo Observatório de Internet de Stanford e retransmitidas pela 404 Media, esta situação alarmante é encontrada no LAION-5B, uma vasta base de dados utilizada para a formação de múltiplos algoritmos, não a famosa Difusão Estável. Esta imensa biblioteca de ambiente de seis bilhões de elementos compreende mal os milhões de arquivos ilícitos, não menos que 3.226 imagens classificadas como pedopornográficas.
A polêmica original dos données
No início, a organização LAION, mas não lucrativa, foi criada no fornecimento de ferramentas de aprendizagem automática acessíveis ao público. LAION-5B faz parte de suas principais contribuições. O repertório base de diversas imagens provenientes da Internet, e compreende plataformas sociais de pedopornografia, pode ser armazenado com maldade. Marcus Rogers, da Universidade Purdue, fez uma crítica severa a este respeito: as empresas permaneceram voluntárias para conhecer o conteúdo ilícito, então eles perderam o controle sobre o conteúdo difundido.
Tentativas de filtro ineficazes
A partir de 2021, os responsáveis do LAION expressam os detalhes sobre a conformidade legal de determinados elementos com base em dados. Malgré de tentativas de nettoyage, des images douteuses ont subsisté et LAION-5B a isté mise à la disposition du public. Os sinais dos usuários em questão não são sérios em relação ao que acontece há mais tempo, que é um canal final para a suspensão temporária do LAION-5B e de outra base, LAION-44M, o tempo de renderização dessas ferramentas inofensivo.
As implicações para os usuários
As implicações são sérias para quiconque télécharge l’intégralité dessas bases de dados sem tomar medidas extremas: elas se retrocedem potencialmente na posse de conteúdo ilegal. David Thiel, de Stanford, exige que os filtros desenvolvidos por LAION para eliminar essas imagens não estejam no mesmo lugar que recentemente.
Quadro recapitulativo
| Base Données | Nome das imagens | Conteúdo ilegal | Ação de LAION |
| LAION-5B | ~6 bilhões | Sim, incluindo as imagens pedopornográficas | Filtragem e suspensão temporária |
| LAION-44M | Não especificado | Potentiellement (suspensão preventiva) | Suspensão temporária |
As implicações éticas e legais
Concluindo, este caso aborda questões éticas e legais cruciais sobre o gerenciamento de donativos por parte das organizações que promovem o código aberto, além das responsabilidades incompatíveis com os usuários dessas bases de donativos. Elle atendeu in lumière à necessidade de proteger a integridade e a segurança dos sistemas de IA geradores.
Spanish