易胜博:检测器的检测水平显然不能有效解决生成式

ChatGPT不仅可以像人一样聊天和说话，还可以根据用户写诗、代码甚至论文'要求。

正因为如此，OpenAI最近也推出了一款AI检测器，旨在检测一段文字是否由AI生成，从而帮助人们更好地识别文本来源，避免AI文本生成器被滥用，造成一系列不良影响。

"在许多场景中，需要识别文本、图片等是否由AI生成。用于这种识别的检测工具是AI检测器，"Yan Huaizhi说，AI检测器在技术架构上类似于生成式AI。它使用生成式AI创建的内容和非生成式AI创建的内容作为训练数据，并使用大量的训练数据来'培养'识别能力强生# 34;

这"AI检测AI"方法充分发挥了人工智能学习的优势。

颜怀志说，一般来说，目前的AI检测器并不能给出准确的是或否的判断，而是给出"非常可能"，"可能"，"不清楚"，"不太可能"和"极不可能"根据信心水平，把最终的决定权留给人类自己。易胜博

然而，目前AI检测器的检测水平并不理想。颜怀志表示:"OpenAI研发的AI探测器的检测成功率仅为26%左右，仍处于较低水平。"

据报道，OpenAI推出的AI检测器可以轻松区分单独的手工书写文本和AI生成的文本。然而，当人工书写的文本与AI生成的文本混合时，检测器很难准确识别。

目前AI检测器的检测水平显然不能有效解决生成式AI滥用所带来的危害。"如果AI检测器的检测成功率能够大大提高，肯定有助于解决目前使用生成式AI所带来的一些问题。但很明显，要实现这一目标，还有很长的路要走。"颜怀志说。