ChatGPT の背後にある AI 研究会社である OpenAI は、AI が生成したテキストと人間が生成したテキストを区別するのに役立つ新しいツール、AI Text Classifier をリリースしました。このツールは、人工知能 (AI) によって生成されたコンテンツを人間が書いているという誤った主張を減らすのに役立つように設計されています。 OpenAI の 発表 によると、自動的に実行する機能を制限できます。エラー情報キャンペーン、AI ツールを使用した学術詐欺、チャットボットを使用した人間のなりすましなどです。 AI が書いたテキストを 100% の精度で検出することはできませんでしたが、一連の英語のテキストでテストしたところ、このツールはテキストが AI によって書かれたかどうかを 26% の確率で正しく判断しました。しかし、人間が書いたテキストは 9% の確率で AI によって書かれたと誤って信じていました。 OpenAI は、そのツールが長いテキストでうまく機能することを認めているため、テストを実行するには少なくとも 1,000 文字が必要です。
OpenAI の新しい AI テキスト分類器は強力なツールですが、いくつかの制限があります。たとえば、AI が生成したテキストや人間が書いたテキストに誤ったラベルを付ける可能性があり、AI が生成したテキストをわずかに編集することで、分類子を回避することができます。また、主に大人が書いた英語のコンテンツでトレーニングされており、子供が書いたテキストや英語以外の言語では信頼性が低い可能性があります.
OpenAI AI Text Classifier を自分でテストするには、platform.openai.com/ai-text-classifier にアクセスしてください。評価するテキストを貼り付けて、[送信] をクリックします。このツールは、テキストが AI によって生成された可能性を、非常にありそうにないから、可能性が非常に低い、または不明確である可能性があるというスケールで、すべて数秒で評価します。この点を説明するために、ChatGPT の SEO に関する記事を生成し、その記事を AI によって生成された可能性があると判断した分類器にそのまま送信する機能をテストしました。 OpenAI は AI Text Classifier と呼ばれるツールを開発しました。これは、人間が書いたテキストと AI が生成したテキストを区別することを目的としています。 2023 年 1 月の結果 (https://platform.openai.com/ai-text-classifier){rel="nofollow"} は、ツールの限界を示しています。人工知能によって書かれています。ただし、Grammarly によって提案されたマイナーな編集を適用することにより、評価を 多分 から 不明 に引き下げました。 OpenAI は、分類器を簡単に回避できることを正しく指摘していますが、ドキュメントが AI によって生成されたかどうかを判断する唯一の証拠ではありません (https://platform.openai.com/faq#what_is_the_intended_use_of_the_tool){rel=“nofollow” }。 OpenAI は、ツールは AI と人間のテキストの組み合わせを含むコンテンツを検出するために十分にテストされていないため、文書が AI によって書かれたか人間によって書かれたかを判断する際には、他の情報源に頼ることを推奨していると付け加えました。
AI テキスト分類子は、潜在的な AI 生成テキストを識別するための強力なツールです。ただし、決定を下すための決定的な手段として分類子を使用すべきではないことに注意することが重要です。代わりに、AI プログラムが生成した可能性のあるテキストの量に関する有用な洞察を提供できます。