# Funções de ativação

Funções de ativação personalizadas para suportar vários modelos no 🤗 Diffusers.

## GELU[[diffusers.models.activations.GELU]]

#### diffusers.models.activations.GELU[[diffusers.models.activations.GELU]]

```python
diffusers.models.activations.GELU(dim_in: int, dim_out: int, approximate: str = 'none', bias: bool = True)
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L65)

**Parâmetros:**

dim_in (`int`) : O número de canais na entrada.

dim_out (`int`) : O número de canais na saída.

approximate (`str`, *opcional*, padrão `"none"`) : Se `"tanh"`, usa a aproximação tanh.

bias (`bool`, padrão True) : Se deve usar um viés na camada linear.

Função de ativação GELU com suporte à aproximação tanh usando `approximate="tanh"`.

## GEGLU[[diffusers.models.activations.GEGLU]]

#### diffusers.models.activations.GEGLU[[diffusers.models.activations.GEGLU]]

```python
diffusers.models.activations.GEGLU(dim_in: int, dim_out: int, bias: bool = True)
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L93)

**Parâmetros:**

dim_in (`int`) : O número de canais na entrada.

dim_out (`int`) : O número de canais na saída.

bias (`bool`, padrão True) : Se deve usar um viés na camada linear.

Uma [variante](https://huggingface.co/papers/2002.05202) da função de ativação da unidade linear com portão.

## ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

#### diffusers.models.activations.ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

```python
diffusers.models.activations.ApproximateGELU(dim_in: int, dim_out: int, bias: bool = True)
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L149)

**Parâmetros:**

dim_in (`int`) : O número de canais na entrada.

dim_out (`int`) : O número de canais na saída.

bias (`bool`, padrão True) : Se deve usar um viés na camada linear.

A forma aproximada da Gaussian Error Linear Unit (GELU). Para mais detalhes, consulte a seção 2 deste [artigo](https://huggingface.co/papers/1606.08415).

## SwiGLU[[diffusers.models.activations.SwiGLU]]

#### diffusers.models.activations.SwiGLU[[diffusers.models.activations.SwiGLU]]

```python
diffusers.models.activations.SwiGLU(dim_in: int, dim_out: int, bias: bool = True)
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L126)

**Parâmetros:**

dim_in (`int`) : O número de canais na entrada.

dim_out (`int`) : O número de canais na saída.

bias (`bool`, padrão True) : Se deve usar um viés na camada linear.

Uma [variante](https://huggingface.co/papers/2002.05202) da função de ativação gated linear unit. É semelhante ao `GEGLU`, mas usa SiLU / Swish em vez de GeLU.

## FP32SiLU[[diffusers.models.activations.FP32SiLU]]

#### diffusers.models.activations.FP32SiLU[[diffusers.models.activations.FP32SiLU]]

```python
diffusers.models.activations.FP32SiLU()
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L53)

Função de ativação SiLU com entrada convertida para torch.float32.

## LinearActivation[[diffusers.models.activations.LinearActivation]]

#### diffusers.models.activations.LinearActivation[[diffusers.models.activations.LinearActivation]]

```python
diffusers.models.activations.LinearActivation(dim_in: int, dim_out: int, bias: bool = True, activation: str = 'silu')
```

[Fonte](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/activations.py#L169)

