新闻详情

OpenAI 承认正研发 ChatGPT 文本水印,但面临挑战

据华尔街日报音讯

,OpenAI 现已开宣布一款能够高精度辨认 ChatGPT 生成文本的东西,但迟迟未发布。对此 OpenAI 进行了回应,供认正在研讨文本水印技能,但表明这项技能仍存在许多应战。

据了解,经过文本水印,OpenAI 将只专心于检测来自 ChatGPT 的文字,而不是来自其他公司模型的文字。其将经过对 ChatGPT 挑选单词的方法进行细小的更改来完成这一点,本质上是在文字中创立一个不行见的水印,今后能够被一个独自的东西检测到。

OpenAI 称,文本水印是他们探究的多种解决方案之一,其他还包含分类器和元数据,旨在确认文本的来历。虽然在某些情况下,文本水印技能表现出色,但面临翻译、改写或刺进特别字符等篡改行为时作用会下降。此外,该技能可能对某些集体发生不成比例的影响,例如非英语母语人士。

OpenAI 表明,因为这些杂乱要素及其对整个生态系统潜在的影响,OpenAI 表明将慎重推动文本溯源技能的研讨,并优先考虑视听内容的认证东西。

← 返回新闻列表