Moderación de contenido

Comprueba el contenido para asegurarte de que no es dañino ni inapropiado

POST /validate/moderation

cURL

curl --location 'https://api.ayrshare.com/api/validate/moderation' \
--header 'Authorization: Bearer API_KEY' \
--header 'Content-Type: application/json' \
--data '{
    "text": "Let'\''s kill '\''em all"
}'

const url = "https://api.ayrshare.com/api/validate/moderation";
const apiKey = "API_KEY"; // Replace with your actual API key

const data = {
  text: "Let's kill 'em all",
};

fetch(url, {
  method: "POST",
  headers: {
    Authorization: `Bearer ${apiKey}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify(data),
})
  .then((response) => response.json())
  .then((result) => console.log(result))
  .catch((error) => console.error("Error:", error));

import requests

url = 'https://api.ayrshare.com/api/validate/moderation'
api_key = 'API_KEY'  # Replace with your actual API key

headers = {
    'Authorization': f'Bearer {api_key}',
    'Content-Type': 'application/json'
}

data = {
    'text': "Let's kill 'em all"
}

response = requests.post(url, json=data, headers=headers)

if response.status_code == 200:
    result = response.json()
    print(result)
else:
    print(f"Error: {response.status_code}")
    print(response.text)

<?php

$url = 'https://api.ayrshare.com/api/validate/moderation';
$apiKey = 'API_KEY';  // Replace with your actual API key

$data = [
    'text' => "Let's kill 'em all"
];

$headers = [
    'Authorization: Bearer ' . $apiKey,
    'Content-Type: application/json'
];

$ch = curl_init($url);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_HTTPHEADER, $headers);

$response = curl_exec($ch);

if (curl_errno($ch)) {
    echo 'Error: ' . curl_error($ch);
} else {
    $httpCode = curl_getinfo($ch, CURLINFO_HTTP_CODE);
    if ($httpCode == 200) {
        $result = json_decode($response, true);
        print_r($result);
    } else {
        echo "Error: HTTP Code " . $httpCode . "\n";
        echo $response;
    }
}

package main

import (
	"bytes"
	"encoding/json"
	"fmt"
	"io/ioutil"
	"net/http"
)

func main() {
	url := "https://api.ayrshare.com/api/validate/moderation"
	apiKey := "API_KEY" // Replace with your actual API key

	// Create the request body
	requestBody, err := json.Marshal(map[string]string{
		"text": "Let's kill 'em all",
	})
	if err != nil {
		fmt.Println("Error creating request body:", err)
		return
	}

	// Create a new request
	req, err := http.NewRequest("POST", url, bytes.NewBuffer(requestBody))
	if err != nil {
		fmt.Println("Error creating request:", err)
		return
	}

	// Set headers
	req.Header.Set("Authorization", "Bearer "+apiKey)
	req.Header.Set("Content-Type", "application/json")

	// Send the request
	client := &http.Client{}
	resp, err := client.Do(req)
	if err != nil {
		fmt.Println("Error sending request:", err)
		return
	}
	defer resp.Body.Close()

	// Read the response
	body, err := ioutil.ReadAll(resp.Body)
	if err != nil {
		fmt.Println("Error reading response:", err)
		return
	}

	// Check the status code
	if resp.StatusCode == http.StatusOK {
		fmt.Println("Response:")
		fmt.Println(string(body))
	} else {
		fmt.Printf("Error: Status Code %d\n", resp.StatusCode)
		fmt.Println(string(body))
	}
}

using System;
using System.Net.Http;
using System.Text;
using System.Threading.Tasks;
using System.Text.Json;

class Program
{
    static async Task Main(string[] args)
    {
        string url = "https://api.ayrshare.com/api/validate/moderation";
        string apiKey = "API_KEY";  // Replace with your actual API key

        var data = new
        {
            text = "Let's kill 'em all"
        };

        using (var client = new HttpClient())
        {
            client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");

            var content = new StringContent(JsonSerializer.Serialize(data), Encoding.UTF8, "application/json");

            try
            {
                HttpResponseMessage response = await client.PostAsync(url, content);

                if (response.IsSuccessStatusCode)
                {
                    string result = await response.Content.ReadAsStringAsync();
                    Console.WriteLine("Response:");
                    Console.WriteLine(result);
                }
                else
                {
                    Console.WriteLine($"Error: {response.StatusCode}");
                    Console.WriteLine(await response.Content.ReadAsStringAsync());
                }
            }
            catch (HttpRequestException e)
            {
                Console.WriteLine($"Request error: {e.Message}");
                Console.WriteLine($"InnerException: {e.InnerException?.Message}"); // Include inner exception details for more information
            }
        }
    }
}

200: Response

{
  "status": "success",
  "text": "Let's kill 'em all",
  "moderation": [
    {
      "flagged": true,
      "categories": {
        "sexual": false,
        "hate": false,
        "harassment": false,
        "self-harm": false,
        "sexual/minors": false,
        "hate/threatening": false,
        "violence/graphic": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "harassment/threatening": false,
        "violence": true
      },
      "categoryScores": {
        "sexual": 0.00002128273445123341,
        "hate": 0.027735227718949318,
        "harassment": 0.08523011207580566,
        "self-harm": 0.0000021838018255948555,
        "sexual/minors": 1.924875903114298e-7,
        "hate/threatening": 0.0063302298076450825,
        "violence/graphic": 0.00024857991957105696,
        "self-harm/intent": 7.833968993509188e-7,
        "self-harm/instructions": 8.686130570367823e-8,
        "harassment/threatening": 0.07459623366594315,
        "violence": 0.9833663702011108
      }
    }
  ]
}

{
  "action": "generate",
  "status": "error",
  "code": 331,
  "message": "There was an issue with the AI processing. Please try again and if the issue persists, contact us."
}

La API de moderación de contenido está diseñada para ayudar a los desarrolladores a identificar contenido de texto potencialmente dañino o inapropiado. Este endpoint analiza la entrada de texto y la clasifica según distintos tipos de contenido problemático.

​

Características principales

• Detección automática de contenido dañino.
• Múltiples categorías de texto problemático.
• Fácil integración para el filtrado de contenido.

​

Cómo funciona

Cuando envías texto al endpoint de moderación, se usan modelos de OpenAI para analizar el contenido. A continuación, la API devuelve los resultados indicando si el texto entra en alguna de las categorías problemáticas definidas.

​

Categorías de contenido dañino

La API clasifica el texto en las siguientes categorías:

CATEGORÍA	DESCRIPCIÓN
hate	Contenido que expresa, incita o promueve el odio por motivos de raza, género, etnia, religión, nacionalidad, orientación sexual, discapacidad o casta. El contenido de odio dirigido a grupos no protegidos (por ejemplo, jugadores de ajedrez) se considera acoso.
hate/threatening	Contenido de odio que además incluye violencia o daño grave hacia el grupo objetivo por motivos de raza, género, etnia, religión, nacionalidad, orientación sexual, discapacidad o casta.
harassment	Contenido que expresa, incita o promueve un lenguaje de acoso hacia cualquier objetivo.
harassment/threatening	Contenido de acoso que además incluye violencia o daño grave hacia cualquier objetivo.
self-harm	Contenido que promueve, fomenta o describe actos de autolesión, como suicidio, cortes y trastornos alimentarios.
self-harm/intent	Contenido en el que la persona expresa que está llevando a cabo o tiene la intención de llevar a cabo actos de autolesión, como suicidio, cortes y trastornos alimentarios.
self-harm/instructions	Contenido que fomenta la realización de actos de autolesión, como suicidio, cortes y trastornos alimentarios, o que ofrece instrucciones o consejos sobre cómo cometer tales actos.
sexual	Contenido destinado a provocar excitación sexual, como la descripción de actividad sexual, o que promueve servicios sexuales (excluyendo educación sexual y bienestar).
sexual/minors	Contenido sexual que incluye a una persona menor de 18 años.
violence	Contenido que describe muerte, violencia o lesiones físicas.
violence/graphic	Contenido que describe muerte, violencia o lesiones físicas con detalles gráficos.

​

Uso y buenas prácticas

1. Longitud óptima del texto: para obtener mejores resultados, recomendamos dividir textos largos en fragmentos más pequeños. Procura que cada segmento tenga menos de 2000 caracteres.
2. Integración: usa esta API para marcar automáticamente contenido potencialmente problemático en tus aplicaciones, foros o plataformas con contenido generado por usuarios.
3. Acciones sobre los resultados: en función del resultado de la API, puedes implementar acciones adecuadas como el filtrado de contenido, avisos a los usuarios o procesos adicionales de revisión.

​

Parámetros de cabecera

​

Parámetros del cuerpo

text · string

El texto que se analizará para su moderación.

imageUrl · string

La URL de la imagen. Debe empezar por https://.

cURL

curl --location 'https://api.ayrshare.com/api/validate/moderation' \
--header 'Authorization: Bearer API_KEY' \
--header 'Content-Type: application/json' \
--data '{
    "text": "Let'\''s kill '\''em all"
}'

const url = "https://api.ayrshare.com/api/validate/moderation";
const apiKey = "API_KEY"; // Replace with your actual API key

const data = {
  text: "Let's kill 'em all",
};

fetch(url, {
  method: "POST",
  headers: {
    Authorization: `Bearer ${apiKey}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify(data),
})
  .then((response) => response.json())
  .then((result) => console.log(result))
  .catch((error) => console.error("Error:", error));

import requests

url = 'https://api.ayrshare.com/api/validate/moderation'
api_key = 'API_KEY'  # Replace with your actual API key

headers = {
    'Authorization': f'Bearer {api_key}',
    'Content-Type': 'application/json'
}

data = {
    'text': "Let's kill 'em all"
}

response = requests.post(url, json=data, headers=headers)

if response.status_code == 200:
    result = response.json()
    print(result)
else:
    print(f"Error: {response.status_code}")
    print(response.text)

<?php

$url = 'https://api.ayrshare.com/api/validate/moderation';
$apiKey = 'API_KEY';  // Replace with your actual API key

$data = [
    'text' => "Let's kill 'em all"
];

$headers = [
    'Authorization: Bearer ' . $apiKey,
    'Content-Type: application/json'
];

$ch = curl_init($url);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_HTTPHEADER, $headers);

$response = curl_exec($ch);

if (curl_errno($ch)) {
    echo 'Error: ' . curl_error($ch);
} else {
    $httpCode = curl_getinfo($ch, CURLINFO_HTTP_CODE);
    if ($httpCode == 200) {
        $result = json_decode($response, true);
        print_r($result);
    } else {
        echo "Error: HTTP Code " . $httpCode . "\n";
        echo $response;
    }
}

package main

import (
	"bytes"
	"encoding/json"
	"fmt"
	"io/ioutil"
	"net/http"
)

func main() {
	url := "https://api.ayrshare.com/api/validate/moderation"
	apiKey := "API_KEY" // Replace with your actual API key

	// Create the request body
	requestBody, err := json.Marshal(map[string]string{
		"text": "Let's kill 'em all",
	})
	if err != nil {
		fmt.Println("Error creating request body:", err)
		return
	}

	// Create a new request
	req, err := http.NewRequest("POST", url, bytes.NewBuffer(requestBody))
	if err != nil {
		fmt.Println("Error creating request:", err)
		return
	}

	// Set headers
	req.Header.Set("Authorization", "Bearer "+apiKey)
	req.Header.Set("Content-Type", "application/json")

	// Send the request
	client := &http.Client{}
	resp, err := client.Do(req)
	if err != nil {
		fmt.Println("Error sending request:", err)
		return
	}
	defer resp.Body.Close()

	// Read the response
	body, err := ioutil.ReadAll(resp.Body)
	if err != nil {
		fmt.Println("Error reading response:", err)
		return
	}

	// Check the status code
	if resp.StatusCode == http.StatusOK {
		fmt.Println("Response:")
		fmt.Println(string(body))
	} else {
		fmt.Printf("Error: Status Code %d\n", resp.StatusCode)
		fmt.Println(string(body))
	}
}

using System;
using System.Net.Http;
using System.Text;
using System.Threading.Tasks;
using System.Text.Json;

class Program
{
    static async Task Main(string[] args)
    {
        string url = "https://api.ayrshare.com/api/validate/moderation";
        string apiKey = "API_KEY";  // Replace with your actual API key

        var data = new
        {
            text = "Let's kill 'em all"
        };

        using (var client = new HttpClient())
        {
            client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");

            var content = new StringContent(JsonSerializer.Serialize(data), Encoding.UTF8, "application/json");

            try
            {
                HttpResponseMessage response = await client.PostAsync(url, content);

                if (response.IsSuccessStatusCode)
                {
                    string result = await response.Content.ReadAsStringAsync();
                    Console.WriteLine("Response:");
                    Console.WriteLine(result);
                }
                else
                {
                    Console.WriteLine($"Error: {response.StatusCode}");
                    Console.WriteLine(await response.Content.ReadAsStringAsync());
                }
            }
            catch (HttpRequestException e)
            {
                Console.WriteLine($"Request error: {e.Message}");
                Console.WriteLine($"InnerException: {e.InnerException?.Message}"); // Include inner exception details for more information
            }
        }
    }
}

200: Response

{
  "status": "success",
  "text": "Let's kill 'em all",
  "moderation": [
    {
      "flagged": true,
      "categories": {
        "sexual": false,
        "hate": false,
        "harassment": false,
        "self-harm": false,
        "sexual/minors": false,
        "hate/threatening": false,
        "violence/graphic": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "harassment/threatening": false,
        "violence": true
      },
      "categoryScores": {
        "sexual": 0.00002128273445123341,
        "hate": 0.027735227718949318,
        "harassment": 0.08523011207580566,
        "self-harm": 0.0000021838018255948555,
        "sexual/minors": 1.924875903114298e-7,
        "hate/threatening": 0.0063302298076450825,
        "violence/graphic": 0.00024857991957105696,
        "self-harm/intent": 7.833968993509188e-7,
        "self-harm/instructions": 8.686130570367823e-8,
        "harassment/threatening": 0.07459623366594315,
        "violence": 0.9833663702011108
      }
    }
  ]
}

{
  "action": "generate",
  "status": "error",
  "code": 331,
  "message": "There was an issue with the AI processing. Please try again and if the issue persists, contact us."
}