🧨 Nguyên tắc đạo đức của Diffusers

Mở đầu

Diffusers cung cấp các mô hình khuếch tán được huấn luyện trước và đóng vai trò là một bộ công cụ mô-đun cho suy luận và huấn luyện.

Với các ứng dụng thực tế trên thế giới và những tác động tiêu cực tiềm tàng đối với xã hội, chúng tôi cho rằng việc cung cấp các nguyên tắc đạo đức cho dự án là rất quan trọng nhằm định hướng cho quá trình phát triển, đóng góp của người dùng và việc sử dụng thư viện Diffusers.

Các rủi ro liên quan đến việc sử dụng công nghệ này vẫn đang được xem xét, nhưng có thể kể đến một số ví dụ: vấn đề bản quyền đối với các nghệ sĩ; lạm dụng deep-fake; tạo nội dung khiêu dâm trong các ngữ cảnh không phù hợp; giả mạo danh tính mà không có sự đồng ý; các thiên kiến xã hội gây hại tiếp tục duy trì sự áp bức đối với các nhóm yếu thế. Chúng tôi sẽ tiếp tục theo dõi các rủi ro và điều chỉnh các hướng dẫn sau đây dựa trên phản hồi và ý kiến đóng góp có giá trị từ cộng đồng.

Phạm vi

Cộng đồng Diffusers sẽ áp dụng các nguyên tắc đạo đức sau đây vào quá trình phát triển dự án và hỗ trợ điều phối cách cộng đồng tích hợp các đóng góp, đặc biệt là đối với các chủ đề nhạy cảm liên quan đến các mối quan tâm về đạo đức.

Hướng dẫn đạo đức

Các nguyên tắc đạo đức sau đây được áp dụng chung, nhưng chúng tôi sẽ chủ yếu thực hiện chúng khi xử lý các vấn đề nhạy cảm về đạo đức trong quá trình đưa ra lựa chọn kỹ thuật. Hơn nữa, chúng tôi cam kết điều chỉnh các nguyên tắc đạo đức đó theo thời gian, dựa trên các tác hại mới phát sinh liên quan đến trình độ công nghệ tiên tiến nhất của công nghệ đang được xem xét.

• Minh bạch: chúng tôi cam kết minh bạch trong việc quản lý PR, giải thích các lựa chọn của mình cho người dùng và đưa ra các quyết định kỹ thuật.

• Sự nhất quán: Chúng tôi cam kết đảm bảo cho người dùng mức độ quan tâm tương đương trong quản lý dự án, giữ cho dự án ổn định và nhất quán về mặt kỹ thuật.

• Đơn giản: với mong muốn giúp việc sử dụng và khai thác thư viện Diffusers trở nên dễ dàng, chúng tôi cam kết giữ cho các mục tiêu của dự án gọn gàng và nhất quán.

• Khả năng tiếp cận: dự án Diffusers giúp hạ thấp rào cản gia nhập cho những người đóng góp có thể hỗ trợ vận hành dự án ngay cả khi không có chuyên môn kỹ thuật. Điều này giúp các sản phẩm nghiên cứu trở nên dễ tiếp cận hơn với cộng đồng.

• Tính tái lập: chúng tôi hướng tới sự minh bạch về tính tái lập của mã nguồn, mô hình và bộ dữ liệu thượng nguồn khi được cung cấp thông qua thư viện Diffusers.

• Trách nhiệm: với tư cách là một cộng đồng và thông qua tinh thần làm việc nhóm, chúng ta cùng chia sẻ trách nhiệm với người dùng bằng cách dự đoán và giảm thiểu các rủi ro và mối nguy hiểm tiềm ẩn của công nghệ này.

Ví dụ về các triển khai: Tính năng và Cơ chế An toàn

Đội ngũ làm việc mỗi ngày để cung cấp các công cụ kỹ thuật và phi kỹ thuật nhằm xử lý các rủi ro đạo đức và xã hội tiềm ẩn liên quan đến công nghệ khuếch tán. Hơn nữa, sự đóng góp của cộng đồng là vô giá trong việc đảm bảo việc triển khai các tính năng này và nâng cao nhận thức cùng với chúng tôi.

• Tab Cộng đồng: cho phép cộng đồng thảo luận và hợp tác tốt hơn trên một dự án.

• Khám phá và đánh giá thiên kiến: nhóm Hugging Face cung cấp một space để minh họa các thiên kiến trong Stable Diffusion một cách tương tác. Theo nghĩa đó, chúng tôi ủng hộ và khuyến khích việc khám phá cũng như đánh giá thiên kiến.

• Khuyến khích an toàn trong triển khai

  • Safe Stable Diffusion: Nó giảm thiểu vấn đề phổ biến mà các mô hình, chẳng hạn như Stable Diffusion, được huấn luyện trên các bộ dữ liệu thu thập từ web không được lọc, thường gặp phải, đó là sự suy giảm không phù hợp. Bài báo liên quan: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.

  • Safety Checker: Nó kiểm tra và so sánh xác suất lớp của một tập hợp các khái niệm gây hại được mã hóa cứng trong không gian nhúng với một hình ảnh sau khi hình ảnh đó được tạo ra. Các khái niệm gây hại được cố tình ẩn đi để ngăn chặn việc phân tích ngược bộ kiểm tra.

• Phát hành theo giai đoạn trên Hub: trong những tình huống đặc biệt nhạy cảm, quyền truy cập vào một số kho lưu trữ cần được hạn chế. Việc phát hành theo giai đoạn này là bước trung gian cho phép các tác giả của kho lưu trữ kiểm soát chặt chẽ hơn việc sử dụng nó.

• Giấy phép: OpenRAILs, một loại giấy phép mới, cho phép chúng tôi đảm bảo quyền truy cập miễn phí đồng thời có một bộ các hạn chế nhằm đảm bảo việc sử dụng có trách nhiệm hơn.