🧨 Lignes directrices éthiques de Diffusers

Préambule

Diffusers fournit des modèles de diffusion pré-entraînés et sert de boîte à outils modulaire pour l'inférence et l'entraînement.

Compte tenu de ses applications réelles dans le monde et de ses impacts négatifs potentiels sur la société, nous pensons qu’il est important de fournir au projet des directives éthiques pour guider le développement, les contributions des utilisateurs et l’utilisation de la bibliothèque Diffusers.

Les risques associés à l’utilisation de cette technologie sont encore en cours d’examen, mais pour n’en citer que quelques-uns : problèmes de droits d’auteur pour les artistes ; exploitation par deep-fakes ; génération de contenus sexuels dans des contextes inappropriés ; usurpation d’identité non consentie ; biais sociaux préjudiciables perpétuant l’oppression des groupes marginalisés. Nous continuerons à suivre les risques et à adapter les directives suivantes en fonction de la réactivité de la communauté et de ses retours précieux.

Portée

La communauté Diffusers appliquera les directives éthiques suivantes au développement du projet et aidera à coordonner la manière dont la communauté intégrera les contributions, en particulier concernant les sujets sensibles liés aux préoccupations éthiques.

Lignes directrices éthiques

Les lignes directrices éthiques suivantes s’appliquent de manière générale, mais nous les mettrons principalement en œuvre lors du traitement de questions éthiquement sensibles dans le cadre d’un choix technique. Par ailleurs, nous nous engageons à adapter ces principes éthiques au fil du temps, en réponse aux préjudices émergents liés à l’état de l’art de la technologie concernée.

• Transparence : nous nous engageons à gérer les PR de manière transparente, à expliquer nos choix aux utilisateurs et à prendre des décisions techniques.

• Cohérence : nous nous engageons à garantir à nos utilisateurs le même niveau d'attention dans la gestion de projet, en la maintenant techniquement stable et cohérente.

• Simplicité : avec le souhait de faciliter l'utilisation et l'exploitation de la bibliothèque Diffusers, nous nous engageons à maintenir les objectifs du projet sobres et cohérents.

• Accessibilité : le projet Diffusers contribue à abaisser la barrière d’entrée pour les contributeurs qui peuvent aider à le faire fonctionner, même sans expertise technique. Cela rend les artefacts de recherche plus accessibles à la communauté.

• Reproductibilité : nous visons à être transparents quant à la reproductibilité du code, des modèles et des jeux de données en amont lorsqu'ils sont mis à disposition via la bibliothèque Diffusers.

• Responsabilité : en tant que communauté et par le travail d'équipe, nous assumons une responsabilité collective envers nos utilisateurs en anticipant et en atténuant les risques et dangers potentiels de cette technologie.

Exemples de mises en œuvre : fonctionnalités et mécanismes de sécurité

L’équipe travaille quotidiennement pour mettre à disposition les outils techniques et non techniques permettant de gérer les risques éthiques et sociaux potentiels associés à la technologie de diffusion. De plus, les retours de la communauté sont inestimables pour garantir la mise en œuvre de ces fonctionnalités et sensibiliser notre équipe.

• Onglet Communauté : il permet à la communauté de discuter et de mieux collaborer sur un projet.

• Exploration et évaluation des biais : l'équipe Hugging Face met à disposition un space pour démontrer de manière interactive les biais de Stable Diffusion. À cet égard, nous soutenons et encourageons l'exploration et l'évaluation des biais.

• Encourager la sécurité lors du déploiement

  • Safe Stable Diffusion : il atténue le problème bien connu selon lequel les modèles, comme Stable Diffusion, entraînés sur des jeux de données non filtrés issus du web tendent à souffrir d'une dégénérescence inappropriée. Article associé : Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.

  • Safety Checker : il vérifie et compare la probabilité de classe d'un ensemble de concepts nocifs codés en dur dans l'espace des embeddings par rapport à une image après sa génération. Les concepts nocifs sont intentionnellement masqués pour empêcher l'ingénierie inverse du vérificateur.

• Publication par étapes sur le Hub : dans des situations particulièrement sensibles, l'accès à certains dépôts doit être restreint. Cette publication par étapes est une étape intermédiaire qui permet aux auteurs du dépôt d'avoir un meilleur contrôle sur son utilisation.

• Licenciement : OpenRAILs, un nouveau type de licence, nous permet de garantir un accès libre tout en imposant un ensemble de restrictions assurant un usage plus responsable.