Qué es OpenAI Classifier
OpenAI Classifier es una herramienta creada para detectar textos generados con Inteligencia Artificial como ChatGPT.
Es una herramienta creada por los propios creadores de OpenAI, de uso gratuito, solo se necesita una cuenta en OpenAI.
OpenAI Classifier es un detector de textos creados con Inteligencia Artificial.
Es un modelo de lenguaje de Inteligencia Artificial basado en ChatGPT, para su entrenamiento se han utilizado textos creados por humanos y textos creados con IA.
Ha sido entrenado basado en buscar en un texto patrones de escritura correspondientes con los creados por ChatGPT
Aunque la herramienta no es 100% efectiva, puede dar falsos positivos y deja esa posibilidad.
Límites de AI Text Classifier
Esta herramienta de clasificación de textos y detección de los que están escritos por IA tiene ocho limitaciones esenciales que debes tener en cuenta.
Son limitaciones que pueden convertirla en menos fiables, o sea que te las decimos a continuación:
- Idioma de los textos: Herramienta entrenada para textos en inglés.
- Códigos: Poco fiable para la creación de código.
- Textos predecibles: Poco fiable para textos predecibles. .
- Texto que puede eludir el clasificador: Poco fiable en textos editados
- Tamaño del texto que se envía: Poco fiable con textos de menos de 1.000 caracteres.
- No siempre fiable: Puede dar falsos negativos y clasificar como escrito por humano un texto escrito por IA.
- Textos con temas menores: Poco fiable en textos de temas muy diferentes a los usados.
- Textos escritos por niños: Poco fiable en textos escritos por menores.
AI Text Classifier es un modelo GPT ajustado que predice la probabilidad de que AI haya generado un texto a partir de una variedad de fuentes, como ChatGPT.
Este clasificador está disponible como una herramienta gratuita para generar debates sobre alfabetización en IA.
Cada documento está etiquetado como muy improbable, improbable, posiblemente o probablemente generado por IA.
AI Text Classifier se ajusta con precisión a partir de un modelo de lenguaje previamente entrenado para distinguir entre texto escrito por humanos y generado por IA.
El modelo está entrenado de múltiples fuentes de texto escrito por humanos y generado por IA.
Usando texto generado a partir de 34 modelos de 5 organizaciones diferentes que implementan modelos de lenguaje, incluido OpenAI.
Recopila un conjunto de datos de texto escrito por humanos y generado por IA.
El texto escrito por humanos proviene de tres fuentes: un nuevo conjunto de datos de Wikipedia, el conjunto de datos de WebText recopilado en 2019 y un conjunto de demostraciones humanas recopiladas como parte del entrenamiento de InstructGPT.
El modelo se entrena y evalúa principalmente en texto en inglés de la web pública.
Los modelos se evalúan principalmente con ejemplos en inglés.
El modelo no se ha evaluado en muchos de los objetivos principales esperados, incluidos ensayos de estudiantes, campañas de desinformación automatizada o transcripciones de chat.
Se sabe que los clasificadores basados en redes neuronales están mal calibrados fuera de sus datos de entrenamiento.
Los clasificadores se pueden actualizar y volver a entrenar en función de los ataques exitosos, pero no está claro si la detección tiene una ventaja a largo plazo.
Se recomienda que el clasificador se use solo como un factor entre muchos cuando se use como parte de una investigación para determinar la fuente de una parte del contenido.
A medida que aumenta el tamaño de un modelo de lenguaje, sus resultados se parecen más a texto escrito por humanos para el clasificador de texto de IA.
Clasifica cinco clases diferentes de texto generado por IA:
«Es muy poco probable que sea generado por IA» <0,1
«Improbable que sea generado por IA» entre 0,1 y 0,45
«No está claro si está escrito en IA» entre 0,45 y 0,9
«Posiblemente generado por IA» entre 0,9 y 0,98
«Probablemente generado por IA» > 0,98
Cómo usar AI Text Classifier
Para usar este clasificador de texto generado por IA, a través de su web oficial; platform.openai.com/ai-text-classifier
Una vez en la página, iniciar sesión con tu cuenta de OpenAI.
Se pega el texto dentro del recuadro de Text y se pulsa el botón de Submit.
En poco tiempo la herramienta analiza el contenido y te devuelve el resultado de si ha sido generado con Inteligencia Artificial.
Imagen; bing.com
Referencias; beta.openai.com/ai-text-classifier
