Linee guida etiche per lo sviluppo della libreria Diffusers

Linee guida etiche per la libreria Diffusers.

Siamo in un percorso per rendere le nostre librerie più responsabili, un commit alla volta!

Come parte della documentazione della libreria Diffusers, siamo orgogliosi di annunciare la pubblicazione di un framework etico.

Dato l’applicazione reale dei modelli di diffusione nel mondo e i potenziali impatti negativi sulla società, questa iniziativa mira a guidare le decisioni tecniche dei responsabili della libreria Diffusers riguardo ai contributi della comunità. Desideriamo essere trasparenti nel modo in cui prendiamo decisioni e, soprattutto, vogliamo chiarire quali valori guidano tali decisioni.

Vediamo l’etica come un processo che sfrutta valori guida, azioni concrete e adattamento continuo. Per questo motivo, ci impegniamo ad adattare le nostre linee guida nel tempo, seguendo l’evoluzione del progetto Diffusers e i preziosi feedback della comunità che lo tiene vivo.

  • Trasparenza: ci impegniamo ad essere trasparenti nella gestione delle richieste di pull, spiegando le nostre scelte agli utenti e prendendo decisioni tecniche.
  • Coerenza: ci impegniamo a garantire agli utenti lo stesso livello di attenzione nella gestione del progetto, mantenendolo tecnicamente stabile e coerente.
  • Semplicità: con il desiderio di rendere facile l’uso e lo sfruttamento della libreria Diffusers, ci impegniamo a mantenere gli obiettivi del progetto snelli e coerenti.
  • Accessibilità: il progetto Diffusers aiuta a ridurre la barriera di accesso per i contributori che possono aiutare a gestirlo anche senza competenze tecniche. In questo modo, gli artefatti della ricerca diventano più accessibili alla comunità.
  • Riproducibilità: miriamo a essere trasparenti sulla riproducibilità del codice, dei modelli e dei dataset quando resi disponibili tramite la libreria Diffusers.
  • Responsabilità: come comunità e attraverso il lavoro di squadra, abbiamo una responsabilità collettiva verso i nostri utenti anticipando e mitigando i potenziali rischi e pericoli di questa tecnologia.

Inoltre, forniamo un elenco non esaustivo – e sperabilmente in continua espansione! – di funzionalità di sicurezza e meccanismi implementati dal team di Hugging Face e dalla comunità più ampia.

  • Scheda della comunità: consente alla comunità di discutere e collaborare meglio su un progetto.

  • Funzione di tag: gli autori di un repository possono contrassegnare i loro contenuti come “Non per tutti gli occhi”.

  • Esplorazione ed valutazione del bias: il team di Hugging Face fornisce uno spazio per dimostrare in modo interattivo i bias in Stable Diffusion e DALL-E. In questo senso, supportiamo ed incoraggiamo gli esploratori e le valutazioni del bias.

  • Promozione della sicurezza nell’implementazione

    • Safe Stable Diffusion: mitiga il noto problema che i modelli, come Stable Diffusion, addestrati su dataset estratti dal web non filtrati, tendono ad avere una degenerazione inappropriata. Paper correlato: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.

    • Rilascio graduale su Hub: in situazioni particolarmente sensibili, l’accesso a alcuni repository dovrebbe essere limitato. Questo rilascio graduale è un passaggio intermedio che consente agli autori del repository di avere un maggiore controllo sul suo utilizzo.

  • Licenze: OpenRAILs, un nuovo tipo di licenza, ci consente di garantire l’accesso gratuito pur avendo un insieme di restrizioni che assicurano un uso più responsabile.