Moderação com IA
Moderação com IA que entende o contexto, para o que os filtros não pegam.
Como funciona
A Moderação com IA complementa os filtros de palavras-chave do plugin Moderação com um modelo de IA que lê as mensagens pela intenção, não só por palavras exatas. Ela consegue pegar assédio, ódio, ameaças e mais mesmo quando não há uma palavra específica para filtrar. Cada mensagem recebe uma pontuação separada em seis categorias.
Configuração básica
Ative na aba Geral, defina um canal de log e escolha uma Ação adicional (nada, advertir, silenciar, expulsar, banir, banimento temporário ou adicionar/remover um cargo), aplicada além de excluir a mensagem sinalizada. Você também pode mandar uma DM ao usuário e responder no canal quando algo for sinalizado.
Ajustar as categorias
Cada categoria é avaliada separadamente numa escala de 0 a 100%, e uma mensagem é sinalizada assim que a pontuação ajustada de qualquer categoria ativa atinge o limite dela. Por categoria, você controla:
| Campo | O que controla |
|---|---|
| Limite | A pontuação mínima de confiança necessária para sinalizar uma mensagem. |
| Sensibilidade | Um multiplicador aplicado à pontuação bruta da IA antes de compará-la com o limite. Mais alta pega mais, mas aumenta o risco de falsos positivos. |
| Excluir mensagem | Se esta categoria, sozinha, exclui a mensagem infratora quando é acionada. |
As seis categorias
| Categoria | Descrição |
|---|---|
| Assédio | Conteúdo que expressa, incita ou promove linguagem de assédio contra qualquer alvo. |
| Ódio | Conteúdo que expressa, incita ou promove ódio com base em raça, gênero, etnia, religião, nacionalidade, orientação sexual, deficiência ou casta. |
| Ilícito | Conteúdo que dá conselhos ou instruções para cometer atos ilícitos, ex.: "como furtar uma loja". |
| Automutilação | Conteúdo que promove, incentiva ou mostra atos de automutilação, como suicídio, cortes e transtornos alimentares. |
| Sexual | Conteúdo feito para provocar excitação sexual ou que promove serviços sexuais (exceto educação sexual e bem-estar). |
| Violência | Conteúdo que mostra morte, violência ou ferimentos físicos. |
Restrições, testes e revisão
- Restrições: Limite a quais canais e cargos a Moderação com IA se aplica, para que ela só vigie onde precisa.
- Testador de mensagens: O Testador de mensagens passa qualquer texto que você colar pelas configurações ativas do seu servidor e mostra as pontuações por categoria, para você ajustar os limites antes que eles afetem membros reais.
- Mensagens sinalizadas: Mensagens sinalizadas guarda, opcionalmente, suas últimas 25 mensagens sinalizadas (criptografadas) para você revisar e marcar falsos positivos, que não serão sinalizados do mesmo jeito de novo.
Variáveis disponíveis
A resposta postada no canal quando uma mensagem é sinalizada aceita as variáveis de membro e servidor de sempre, mais um token próprio da sinalização:
{user_name}o nome de usuário do membro no Discord{user_global_name}o nome de exibição global dele{user_display_name}o nome dele como aparece neste servidor{user_mention}uma @menção que o notifica{user_tag}a tag antiga dele no formato usuario#0000{user_id}o ID de usuário dele no Discord{user_avatar}um link para o avatar dele{server_name}o nome deste servidor{server_avatar}um link para o ícone deste servidor{policies}uma lista separada por vírgulas com os nomes das categorias que acionaram a sinalização