Pour aider les développeurs à protéger leurs applications contre d'éventuelles utilisations abusives, nous introduisons le plus rapide et le plus précis Point final de modération. Ce point de terminaison offre aux développeurs de l'API OpenAI un accès gratuit à Basé sur GPT classificateurs qui détectent le contenu indésirable - une instance de en utilisant des systèmes d'IA pour aider à la supervision humaine de ces systèmes. Nous avons également publié à la fois un document technique décrivant notre méthodologie et les base de données utilisé pour l'évaluation.

Lorsqu'il reçoit une entrée de texte, le point de terminaison Modération évalue si le contenu est sexuel, haineux, violent ou incite à l'automutilation - contenu interdit par nos politique de contenu. Le point de terminaison a été formé pour être rapide, précis et performant dans une gamme d'applications. Surtout, cela réduit les risques que les produits « disent » la mauvaise chose, même lorsqu'ils sont déployés à grande échelle auprès des utilisateurs. En conséquence, l'IA peut débloquer des avantages dans des contextes sensibles, comme l'éducation, où elle ne pourrait pas être utilisée autrement en toute confiance.