我目前是一名PhD学生,在NLP领域,我可以看到ChatGPT如何解决我目前的研究问题。我的研究问题与基于文本的推理有关。我能做些什么来确保ChatGPT不会干扰我的研究问题?我们可以关注的ChatGPT的潜在缺陷是什么?
发布于 2023-01-03 22:40:08
免责声明:我不知道ChatGPT模型本身的任何细节,这个答案是基于我的读数。
这个问题相当模糊,但ChatGPT有明显的缺陷,不难发现:即使它产生的质量非常高,看起来就像人类生产的一样,主要的问题总是一样:它看起来只是,它模仿了它训练过的数据,但当然,这个模型对它产生的结果没有任何理解。这意味着它不能进行任何推理,实际上它甚至没有任何方法来知道它的信息是否正确,它可以愉快地发明事物,建立不存在的逻辑链接。
我发现这篇文章很擅长展示这个问题。也有一个完整的讨论关于StackOverflow和一个争论很好的禁止ChatGPT答案的政策,因为他们完全缺乏可靠性。
https://datascience.stackexchange.com/questions/117472
复制相似问题