Moderação de conteúdo

Verifique conteúdo para garantir que não seja prejudicial ou inapropriado

POST /validate/moderation

cURL

curl --location 'https://api.ayrshare.com/api/validate/moderation' \
--header 'Authorization: Bearer API_KEY' \
--header 'Content-Type: application/json' \
--data '{
    "text": "Let'\''s kill '\''em all"
}'

const url = "https://api.ayrshare.com/api/validate/moderation";
const apiKey = "API_KEY"; // Replace with your actual API key

const data = {
  text: "Let's kill 'em all",
};

fetch(url, {
  method: "POST",
  headers: {
    Authorization: `Bearer ${apiKey}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify(data),
})
  .then((response) => response.json())
  .then((result) => console.log(result))
  .catch((error) => console.error("Error:", error));

import requests

url = 'https://api.ayrshare.com/api/validate/moderation'
api_key = 'API_KEY'  # Replace with your actual API key

headers = {
    'Authorization': f'Bearer {api_key}',
    'Content-Type': 'application/json'
}

data = {
    'text': "Let's kill 'em all"
}

response = requests.post(url, json=data, headers=headers)

if response.status_code == 200:
    result = response.json()
    print(result)
else:
    print(f"Error: {response.status_code}")
    print(response.text)

<?php

$url = 'https://api.ayrshare.com/api/validate/moderation';
$apiKey = 'API_KEY';  // Replace with your actual API key

$data = [
    'text' => "Let's kill 'em all"
];

$headers = [
    'Authorization: Bearer ' . $apiKey,
    'Content-Type: application/json'
];

$ch = curl_init($url);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_HTTPHEADER, $headers);

$response = curl_exec($ch);

if (curl_errno($ch)) {
    echo 'Error: ' . curl_error($ch);
} else {
    $httpCode = curl_getinfo($ch, CURLINFO_HTTP_CODE);
    if ($httpCode == 200) {
        $result = json_decode($response, true);
        print_r($result);
    } else {
        echo "Error: HTTP Code " . $httpCode . "\n";
        echo $response;
    }
}

package main

import (
	"bytes"
	"encoding/json"
	"fmt"
	"io/ioutil"
	"net/http"
)

func main() {
	url := "https://api.ayrshare.com/api/validate/moderation"
	apiKey := "API_KEY" // Replace with your actual API key

	// Create the request body
	requestBody, err := json.Marshal(map[string]string{
		"text": "Let's kill 'em all",
	})
	if err != nil {
		fmt.Println("Error creating request body:", err)
		return
	}

	// Create a new request
	req, err := http.NewRequest("POST", url, bytes.NewBuffer(requestBody))
	if err != nil {
		fmt.Println("Error creating request:", err)
		return
	}

	// Set headers
	req.Header.Set("Authorization", "Bearer "+apiKey)
	req.Header.Set("Content-Type", "application/json")

	// Send the request
	client := &http.Client{}
	resp, err := client.Do(req)
	if err != nil {
		fmt.Println("Error sending request:", err)
		return
	}
	defer resp.Body.Close()

	// Read the response
	body, err := ioutil.ReadAll(resp.Body)
	if err != nil {
		fmt.Println("Error reading response:", err)
		return
	}

	// Check the status code
	if resp.StatusCode == http.StatusOK {
		fmt.Println("Response:")
		fmt.Println(string(body))
	} else {
		fmt.Printf("Error: Status Code %d\n", resp.StatusCode)
		fmt.Println(string(body))
	}
}

using System;
using System.Net.Http;
using System.Text;
using System.Threading.Tasks;
using System.Text.Json;

class Program
{
    static async Task Main(string[] args)
    {
        string url = "https://api.ayrshare.com/api/validate/moderation";
        string apiKey = "API_KEY";  // Replace with your actual API key

        var data = new
        {
            text = "Let's kill 'em all"
        };

        using (var client = new HttpClient())
        {
            client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");

            var content = new StringContent(JsonSerializer.Serialize(data), Encoding.UTF8, "application/json");

            try
            {
                HttpResponseMessage response = await client.PostAsync(url, content);

                if (response.IsSuccessStatusCode)
                {
                    string result = await response.Content.ReadAsStringAsync();
                    Console.WriteLine("Response:");
                    Console.WriteLine(result);
                }
                else
                {
                    Console.WriteLine($"Error: {response.StatusCode}");
                    Console.WriteLine(await response.Content.ReadAsStringAsync());
                }
            }
            catch (HttpRequestException e)
            {
                Console.WriteLine($"Request error: {e.Message}");
                Console.WriteLine($"InnerException: {e.InnerException?.Message}"); // Include inner exception details for more information
            }
        }
    }
}

200: Response

{
  "status": "success",
  "text": "Let's kill 'em all",
  "moderation": [
    {
      "flagged": true,
      "categories": {
        "sexual": false,
        "hate": false,
        "harassment": false,
        "self-harm": false,
        "sexual/minors": false,
        "hate/threatening": false,
        "violence/graphic": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "harassment/threatening": false,
        "violence": true
      },
      "categoryScores": {
        "sexual": 0.00002128273445123341,
        "hate": 0.027735227718949318,
        "harassment": 0.08523011207580566,
        "self-harm": 0.0000021838018255948555,
        "sexual/minors": 1.924875903114298e-7,
        "hate/threatening": 0.0063302298076450825,
        "violence/graphic": 0.00024857991957105696,
        "self-harm/intent": 7.833968993509188e-7,
        "self-harm/instructions": 8.686130570367823e-8,
        "harassment/threatening": 0.07459623366594315,
        "violence": 0.9833663702011108
      }
    }
  ]
}

{
  "action": "generate",
  "status": "error",
  "code": 331,
  "message": "There was an issue with the AI processing. Please try again and if the issue persists, contact us."
}

A API de moderação de conteúdo foi projetada para ajudar desenvolvedores a identificar conteúdo textual potencialmente prejudicial ou inapropriado. Este endpoint analisa a entrada de texto e a categoriza com base em vários tipos de conteúdo preocupante.

​

Principais recursos

• Detecção automática de conteúdo prejudicial.
• Várias categorias de texto problemático.
• Fácil integração para filtragem de conteúdo.

​

Como funciona

Quando você envia texto para o endpoint de moderação, ele utiliza modelos da OpenAI para analisar o conteúdo. A API então retorna resultados indicando se o texto se enquadra em alguma das categorias problemáticas definidas.

​

Categorias de conteúdo prejudicial

A API classifica o texto nas seguintes categorias:

CATEGORIA	DESCRIÇÃO
hate	Conteúdo que expressa, incita ou promove ódio com base em raça, gênero, etnia, religião, nacionalidade, orientação sexual, deficiência ou casta. Conteúdo de ódio direcionado a grupos não protegidos (por exemplo, jogadores de xadrez) é considerado assédio.
hate/threatening	Conteúdo de ódio que também inclui violência ou dano grave contra o grupo-alvo com base em raça, gênero, etnia, religião, nacionalidade, orientação sexual, deficiência ou casta.
harassment	Conteúdo que expressa, incita ou promove linguagem de assédio contra qualquer alvo.
harassment/threatening	Conteúdo de assédio que também inclui violência ou dano grave contra qualquer alvo.
self-harm	Conteúdo que promove, incentiva ou retrata atos de automutilação, como suicídio, cortes e transtornos alimentares.
self-harm/intent	Conteúdo em que o autor expressa que está praticando ou pretende praticar atos de automutilação, como suicídio, cortes e transtornos alimentares.
self-harm/instructions	Conteúdo que incentiva a prática de atos de automutilação, como suicídio, cortes e transtornos alimentares, ou que fornece instruções ou conselhos sobre como cometer tais atos.
sexual	Conteúdo destinado a despertar excitação sexual, como a descrição de atividade sexual, ou que promove serviços sexuais (exceto educação sexual e bem-estar).
sexual/minors	Conteúdo sexual que inclui uma pessoa com menos de 18 anos.
violence	Conteúdo que retrata morte, violência ou lesão física.
violence/graphic	Conteúdo que retrata morte, violência ou lesão física em detalhes gráficos.

​

Uso e melhores práticas

1. Tamanho ideal do texto: para melhores resultados, recomendamos dividir textos longos em partes menores. Procure segmentos de menos de 2.000 caracteres cada.
2. Integração: use esta API para sinalizar automaticamente conteúdo potencialmente problemático em seus aplicativos, fóruns ou plataformas de conteúdo gerado por usuários.
3. Ação sobre os resultados: com base na saída da API, você pode implementar ações apropriadas, como filtragem de conteúdo, avisos ao usuário ou processos de revisão adicionais.

​

Parâmetros do cabeçalho

​

Parâmetros do corpo

text · string

O texto a ser analisado para moderação.

imageUrl · string

A URL da imagem. Deve começar com https://.

cURL

curl --location 'https://api.ayrshare.com/api/validate/moderation' \
--header 'Authorization: Bearer API_KEY' \
--header 'Content-Type: application/json' \
--data '{
    "text": "Let'\''s kill '\''em all"
}'

const url = "https://api.ayrshare.com/api/validate/moderation";
const apiKey = "API_KEY"; // Replace with your actual API key

const data = {
  text: "Let's kill 'em all",
};

fetch(url, {
  method: "POST",
  headers: {
    Authorization: `Bearer ${apiKey}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify(data),
})
  .then((response) => response.json())
  .then((result) => console.log(result))
  .catch((error) => console.error("Error:", error));

import requests

url = 'https://api.ayrshare.com/api/validate/moderation'
api_key = 'API_KEY'  # Replace with your actual API key

headers = {
    'Authorization': f'Bearer {api_key}',
    'Content-Type': 'application/json'
}

data = {
    'text': "Let's kill 'em all"
}

response = requests.post(url, json=data, headers=headers)

if response.status_code == 200:
    result = response.json()
    print(result)
else:
    print(f"Error: {response.status_code}")
    print(response.text)

<?php

$url = 'https://api.ayrshare.com/api/validate/moderation';
$apiKey = 'API_KEY';  // Replace with your actual API key

$data = [
    'text' => "Let's kill 'em all"
];

$headers = [
    'Authorization: Bearer ' . $apiKey,
    'Content-Type: application/json'
];

$ch = curl_init($url);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_HTTPHEADER, $headers);

$response = curl_exec($ch);

if (curl_errno($ch)) {
    echo 'Error: ' . curl_error($ch);
} else {
    $httpCode = curl_getinfo($ch, CURLINFO_HTTP_CODE);
    if ($httpCode == 200) {
        $result = json_decode($response, true);
        print_r($result);
    } else {
        echo "Error: HTTP Code " . $httpCode . "\n";
        echo $response;
    }
}

package main

import (
	"bytes"
	"encoding/json"
	"fmt"
	"io/ioutil"
	"net/http"
)

func main() {
	url := "https://api.ayrshare.com/api/validate/moderation"
	apiKey := "API_KEY" // Replace with your actual API key

	// Create the request body
	requestBody, err := json.Marshal(map[string]string{
		"text": "Let's kill 'em all",
	})
	if err != nil {
		fmt.Println("Error creating request body:", err)
		return
	}

	// Create a new request
	req, err := http.NewRequest("POST", url, bytes.NewBuffer(requestBody))
	if err != nil {
		fmt.Println("Error creating request:", err)
		return
	}

	// Set headers
	req.Header.Set("Authorization", "Bearer "+apiKey)
	req.Header.Set("Content-Type", "application/json")

	// Send the request
	client := &http.Client{}
	resp, err := client.Do(req)
	if err != nil {
		fmt.Println("Error sending request:", err)
		return
	}
	defer resp.Body.Close()

	// Read the response
	body, err := ioutil.ReadAll(resp.Body)
	if err != nil {
		fmt.Println("Error reading response:", err)
		return
	}

	// Check the status code
	if resp.StatusCode == http.StatusOK {
		fmt.Println("Response:")
		fmt.Println(string(body))
	} else {
		fmt.Printf("Error: Status Code %d\n", resp.StatusCode)
		fmt.Println(string(body))
	}
}

using System;
using System.Net.Http;
using System.Text;
using System.Threading.Tasks;
using System.Text.Json;

class Program
{
    static async Task Main(string[] args)
    {
        string url = "https://api.ayrshare.com/api/validate/moderation";
        string apiKey = "API_KEY";  // Replace with your actual API key

        var data = new
        {
            text = "Let's kill 'em all"
        };

        using (var client = new HttpClient())
        {
            client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");

            var content = new StringContent(JsonSerializer.Serialize(data), Encoding.UTF8, "application/json");

            try
            {
                HttpResponseMessage response = await client.PostAsync(url, content);

                if (response.IsSuccessStatusCode)
                {
                    string result = await response.Content.ReadAsStringAsync();
                    Console.WriteLine("Response:");
                    Console.WriteLine(result);
                }
                else
                {
                    Console.WriteLine($"Error: {response.StatusCode}");
                    Console.WriteLine(await response.Content.ReadAsStringAsync());
                }
            }
            catch (HttpRequestException e)
            {
                Console.WriteLine($"Request error: {e.Message}");
                Console.WriteLine($"InnerException: {e.InnerException?.Message}"); // Include inner exception details for more information
            }
        }
    }
}

200: Response

{
  "status": "success",
  "text": "Let's kill 'em all",
  "moderation": [
    {
      "flagged": true,
      "categories": {
        "sexual": false,
        "hate": false,
        "harassment": false,
        "self-harm": false,
        "sexual/minors": false,
        "hate/threatening": false,
        "violence/graphic": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "harassment/threatening": false,
        "violence": true
      },
      "categoryScores": {
        "sexual": 0.00002128273445123341,
        "hate": 0.027735227718949318,
        "harassment": 0.08523011207580566,
        "self-harm": 0.0000021838018255948555,
        "sexual/minors": 1.924875903114298e-7,
        "hate/threatening": 0.0063302298076450825,
        "violence/graphic": 0.00024857991957105696,
        "self-harm/intent": 7.833968993509188e-7,
        "self-harm/instructions": 8.686130570367823e-8,
        "harassment/threatening": 0.07459623366594315,
        "violence": 0.9833663702011108
      }
    }
  ]
}

{
  "action": "generate",
  "status": "error",
  "code": 331,
  "message": "There was an issue with the AI processing. Please try again and if the issue persists, contact us."
}