La controversia tra intelligenze artificiali nella pedofilia
Uso disattento dei database AI
Quando gli appassionati di tecnologia utilizzano sistemi di intelligenza artificiale per generare immagini, potrebbero ignorare che questi strumenti possono entrare nelle raccolte di immagini riproducibili. Dopo le ricerche effettuate dall’Observatoire Internet di Stanford e trasmesse da 404 Media, questa situazione allarmante si trova a LAION-5B, una vasta base di dati utilizzata per la formazione di algoritmi multipli, non la famosa Stable Diffusion. Questa immensa biblioteca d’ambiente di sei miliardi di elementi comprende malheureusement des milliers de fichiers illégaux, non meno di 3 226 immagini classificate come pedopornografiche.
La controversia originaria dei dati
Au départ, l’organisation à but non lucratif LAION a été créée dans le but de fournir des tools d’aprentissage automatique accessibili al pubblico. LAION-5B fa parte dei suoi principali contributi. Il repertorio di base di diversi collegamenti di immagini provenienti da Internet, comprese le piattaforme sociali in cui la pedopornografia può essere cacher in modo improprio. Marcus Rogers, dell’Université Purdue, esprime una critica sevère a cet égard: les entreprises manquent soit de volonté pour prendre connaissance des contenus illicites, soit elles ont franchement perdu le contrôle sur le contenu diffusé.
Tentativi di filtro inefficaci
Dal 2021, i responsabili della LAION precisano sulla conformità giuridica di alcuni elementi sulla base dei dati. Malgrado i tentativi di pulizia, le immagini dubbie sono rimaste e LAION-5B è stato messo a disposizione del pubblico. The signalments d’utilisateurs concernés n’ont été sérieusement pris en compte qu’après plusieurs mois, ce qui a finalement conduit à laspend temporaire de LAION-5B et d’une autre base, LAION-44M, le temps de rendre ces tools innocuo.
Le implicazioni per gli utilizzatori
Les implications sont serieuses pour quiconque télécharge l’intégralité de ces basis de données sans prendre des mesures extrêmes: ils se retrouvent potenzialmente en possession de contenu illégal. David Thiel di Stanford richiede che i filtri sviluppati da LAION pour eliminator ces images n’ont été mis en place que récemment.
Tableau Récapitulatif
| Dati base | Nome delle immagini | Contenuti illegali | Azione della LAION |
| LAION-5B | ~6 miliardi | Sì, comprese le immagini pedopornografiche | Filtraggio e sospensione temporanea |
| LAION-44M | Non specificato | Potentiellement (sospensione preventiva) | Sospensione temporanea |
Le implicazioni etiche e giuridiche
In conclusione, questa vicenda anima le questioni etiche e legali cruciali sulla gestione dei dati da parte delle organizzazioni che promuovono l’open source, così come sulle responsabilità che incombono sugli utenti di queste basi di dati. Elle ha risposto in lumière alla necessità di proteggere l’integrità e la sicurezza dei sistemi di intelligenza artificiale generativa.
Spanish